OpenAI får Hacktron til at lede efter huller i forbindelserne til andre tjenester

De to hold vil teste, hvad der sker, når OpenAIs systemer kobles til eksterne tjenester. Hacktron får bredere adgang til AI-modeller gennem Daybreak Red.

OpenAI får Hacktron til at lede efter huller i forbindelserne til andre tjenester
Illustration: AI-genereret af Kurateret Kaos.

OpenAI har indgået et samarbejde med sikkerhedsfirmaet Hacktron om at finde sårbarheder i sine systemer. Fokus er de steder, hvor OpenAIs systemer taler med tjenester fra andre virksomheder.

Forbindelsen er en del af sikkerheden

Når to systemer er forbundet, skal de være enige om, hvem der har adgang, og hvad den adgang dækker. Det er derfor ikke nok at se på, om hver tjeneste fungerer sikkert for sig. OpenAIs ingeniører og Hacktrons sikkerhedsforskere vil i fællesskab vælge, hvilke forbindelser og testområder de prioriterer.

OpenAI lærte Hacktron at kende gennem sit program for sikkerhedsdusører. Hacktron bygger blandt andet AI-værktøjer til kodegennemgang og sikkerhedstest. Som del af aftalen får forskerne bredere adgang til OpenAIs mest avancerede modeller gennem Daybreak Red.

OpenAI beskriver samarbejdet som et supplement til sit øvrige sikkerhedsarbejde. For uafhængige forskere er virksomhedens eksisterende dusørprogram fortsat stedet at tjekke, hvilke systemer de må teste, og indberette fund.

Kilder: OpenAI meddelelse om Hacktron, Hacktron meddelelse om aftalen.

Aktører i artiklen

Læs videre i aktørprofilen

OpenAI OpenAI er AI-selskabet bag ChatGPT, GPT-modellerne, Codex og API-platformen - og en af de aktører, der mest konkret har flyttet AI fra demo til dagligt arbejdsredskab. AI-lab og platform

Skriv et svar

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *