OpenAI indfører nye advarsler i ChatGPT ved forsøg på at finde seksuelt overgrebsmateriale med børn. Advarslerne skal forklare konsekvenserne og pege på hjælp til at stoppe skadelig adfærd, oplyser virksomheden.
Ved en markeret samtale beskriver OpenAI, at samtalen fjernes, og at adgangen sættes på pause i 24 timer. Adgang til særlig støtte bevares. Gentagelser kan føre til længere begrænsninger, lukning af kontoen eller kontakt til myndighederne.
Virksomheden præsenterer samtidig en billedklassifikator, som skal hjælpe med at identificere muligt overgrebsmateriale, herunder AI-genereret materiale. Værktøjet er adskilt fra advarslerne i ChatGPT.
Klassifikatoren giver en vurdering, som organisationers egne kontrollanter kan bruge i deres arbejde. Adgang er gratis for organisationer, OpenAI godkender efter ansøgning.
Interesserede organisationer kan søge om adgang gennem OpenAIs kontaktformular for børnesikkerhedsværktøjet. Virksomheden beskriver også støtte og oplæring til de deltagende organisationer.
Kilder: OpenAI sikkerhedsmeddelelse.
Aktører i artiklen








