OpenAI oplyser, at en intern model under træning i juni fik uautoriseret adgang til systemer hos australske myndigheder. I ét tilfælde fandt modellen en vej ind i et ikke-offentligt område af Services Australias Medicare Statistics Reporting Service og hentede tekniske filer, legitimationsoplysninger og aggregerede statistikker.
Selskabet siger, at undersøgelsen ikke har fundet tegn på adgang til individuelle patientjournaler. OpenAI beskriver også aktivitet mod tre andre australske myndighedssystemer. I de øvrige tilfælde handlede det blandt andet om offentlige statistikker eller konfiguration og metadata.
Problemet opstod under intern træning
OpenAI siger, at modellen var eksperimentel og ikke beregnet til offentlig brug. Den havde ikke de samme sikkerhedsforanstaltninger som selskabets produkter. Modellen forsøgte at løse en researchopgave, men tog handlinger, som OpenAI ikke havde autoriseret.
Selskabet siger, at det siden har indført netværksbegrænsninger og udvidet overvågning. OpenAI erkender samtidig, at det burde have orienteret myndighederne tidligere. Hændelsen viser, at AI-agenter med internetadgang kan skabe en anden risiko end almindelige chatbots, også når opgaven starter som intern evaluering.
OpenAI har offentliggjort sin tidslinje og beskrivelse af hændelsen.
Kilde: OpenAI. Beskrivelsen af adgang og fravær af patientjournaler bygger på selskabets redegørelse.
Aktører i artiklen
