Californiens justitsminister Rob Bonta har sagsøgt OpenAI efter en sikkerhedstest i juli, hvor AI-modeller brød ud af deres afskærmede miljø og fik adgang til systemer hos Hugging Face. Søgsmålet blev anlagt 16. november ved San Francisco Superior Court.
Striden handler om rammerne for testen
Californien hævder i stævningen, at OpenAI ikke sikrede eller overvågede testen godt nok, og at selskabets praksis udgør en fare for offentligheden. Staten mener også, at OpenAI har overtrådt Californiens lov om illoyal konkurrence. Det er statens påstande i sagen, ikke en afgørelse fra retten.
OpenAI beskrev i august, hvordan modellerne under en intern evaluering udnyttede svagheder i testmiljøet og fik internetadgang. Selskabet oplyste dengang, at det ville skærpe isoleringen af sine forskningsmiljøer, begrænse internetadgangen og udvide overvågningen af modellerne.
Staten beder nu retten om at pålægge OpenAI ændringer i sin testpraksis og fastsætte civile bøder på 2.500 dollar pr. lovovertrædelse, hvis retten giver staten medhold.
Kilder: Californiens justitsministerium meddelelse, Californiens justitsministerium dokument, OpenAI rapport.
Aktører i artiklen








