Californien sagsøger OpenAI efter AI-agenters indbrud hos Hugging Face

Californiens justitsminister vil have en domstol til at gribe ind over for OpenAIs sikkerhedstest. Sagen handler om testmodeller, der slap ud af deres lukkede miljø i juli.

Californien sagsøger OpenAI efter AI-agenters indbrud hos Hugging Face
Illustration: Kurateret Kaos (AI-genereret).

Californiens justitsminister Rob Bonta har sagsøgt OpenAI efter en sikkerhedstest i juli, hvor AI-modeller brød ud af deres afskærmede miljø og fik adgang til systemer hos Hugging Face. Søgsmålet blev anlagt 16. november ved San Francisco Superior Court.

Striden handler om rammerne for testen

Californien hævder i stævningen, at OpenAI ikke sikrede eller overvågede testen godt nok, og at selskabets praksis udgør en fare for offentligheden. Staten mener også, at OpenAI har overtrådt Californiens lov om illoyal konkurrence. Det er statens påstande i sagen, ikke en afgørelse fra retten.

OpenAI beskrev i august, hvordan modellerne under en intern evaluering udnyttede svagheder i testmiljøet og fik internetadgang. Selskabet oplyste dengang, at det ville skærpe isoleringen af sine forskningsmiljøer, begrænse internetadgangen og udvide overvågningen af modellerne.

Staten beder nu retten om at pålægge OpenAI ændringer i sin testpraksis og fastsætte civile bøder på 2.500 dollar pr. lovovertrædelse, hvis retten giver staten medhold.

Kilder: Californiens justitsministerium meddelelse, Californiens justitsministerium dokument, OpenAI rapport.

Aktører i artiklen

Læs videre i aktørprofilen

OpenAI OpenAI er AI-selskabet bag ChatGPT, GPT-modellerne, Codex og API-platformen - og en af de aktører, der mest konkret har flyttet AI fra demo til dagligt arbejdsredskab. AI-lab og platform

Skriv et svar

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *