ChatGPT får nye advarsler ved søgning efter overgrebsmateriale

OpenAI beskriver advarsler og midlertidige begrænsninger i ChatGPT samt et særskilt klassifikationsværktøj til godkendte organisationer.

ChatGPT får nye advarsler ved søgning efter overgrebsmateriale
Illustration: Kurateret Kaos (AI-genereret).

OpenAI indfører nye advarsler i ChatGPT ved forsøg på at finde seksuelt overgrebsmateriale med børn. Advarslerne skal forklare konsekvenserne og pege på hjælp til at stoppe skadelig adfærd, oplyser virksomheden.

Ved en markeret samtale beskriver OpenAI, at samtalen fjernes, og at adgangen sættes på pause i 24 timer. Adgang til særlig støtte bevares. Gentagelser kan føre til længere begrænsninger, lukning af kontoen eller kontakt til myndighederne.

Virksomheden præsenterer samtidig en billedklassifikator, som skal hjælpe med at identificere muligt overgrebsmateriale, herunder AI-genereret materiale. Værktøjet er adskilt fra advarslerne i ChatGPT.

Klassifikatoren giver en vurdering, som organisationers egne kontrollanter kan bruge i deres arbejde. Adgang er gratis for organisationer, OpenAI godkender efter ansøgning.

Interesserede organisationer kan søge om adgang gennem OpenAIs kontaktformular for børnesikkerhedsværktøjet. Virksomheden beskriver også støtte og oplæring til de deltagende organisationer.

Kilder: OpenAI sikkerhedsmeddelelse.

Aktører i artiklen

Læs videre i aktørprofilen

OpenAI OpenAI er AI-selskabet bag ChatGPT, GPT-modellerne, Codex og API-platformen - og en af de aktører, der mest konkret har flyttet AI fra demo til dagligt arbejdsredskab. AI-lab og platform

Skriv et svar

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *