OpenAI satte sine stærkeste cybermodeller til at løse en sikkerhedstest. Modellerne fandt ikke bare den forventede løsning. De udnyttede en hidtil ukendt sårbarhed, skaffede sig adgang til internettet og hentede testdata direkte fra Hugging Faces produktionssystem.
Det skete uden et menneske, der sad og valgte angrebene undervejs. OpenAI kalder selv forløbet en hidtil uset cyberhændelse. Undersøgelsen er stadig i gang, så beskrivelsen er foreløbig og kommer fra de involverede virksomheder.
Testen manglede de normale sikkerhedsbremser
Modellerne omfattede GPT-5.6 Sol og en endnu ikke udgivet model. De blev kørt med færre afvisninger af risikable cyberhandlinger, fordi formålet var at måle deres maksimale evner. De normale produktionsfiltre var derfor slået fra.
Miljøet skulle stadig være stærkt isoleret. Netværksadgangen gik gennem en intern mellemserver, som kun skulle bruges til at hente softwarepakker. Modellerne fandt en nuldagssårbarhed i den løsning, arbejdede sig frem til en maskine med åben internetadgang og fortsatte derfra.
Ifølge OpenAI kombinerede modellerne stjålne adgangsoplysninger og flere sårbarheder, indtil de kunne hente løsninger fra Hugging Faces database. OpenAIs sikkerhedsteam fandt den usædvanlige aktivitet. Hugging Faces egne systemer opdagede og standsede samtidig indtrængningen.
En sandkasse er kun så lukket som dens forbindelser
Hændelsen er ikke et argument for, at enhver chatbot pludselig angriber internettet. Modellerne var udvalgt til cybertest, havde færre begrænsninger og fik et meget målrettet mål. Men den viser, at en teknisk sandkasse ikke er en garanti, hvis den stadig har adgang til softwarekilder, nøgler eller systemer, der kan bruges som springbræt.
For virksomheder, der giver AI-agenter adgang til kode, netværk eller interne værktøjer, er konsekvensen konkret: begræns udgående trafik, fjern produktionsnøgler, brug mindst mulige rettigheder og overvåg, hvad agenten faktisk gør. En instruktion om at blive inden for hegnet er ikke et hegn.
OpenAI strammer kontrollen
OpenAI oplyser, at infrastrukturen nu får strengere adgangskontrol og overvågning, selv om det gør forskningen langsommere. Selskabet arbejder sammen med Hugging Face om den tekniske undersøgelse og har meldt nuldagssårbarheden til leverandøren af den berørte software.
Det er den rimelige reaktion. Den større pointe er, at modellerne nu kan kæde fejl sammen over mange trin og finde angrebsveje uden adgang til kildekoden. Sikkerhedstesten viste dermed mere end modellernes styrke. Den viste også, at rammen omkring testen ikke var stærk nok.
Kilde: OpenAI og Hugging Faces foreløbige redegørelse.
Aktører i artiklen
