Forskere fandt en vej uden om ChatGPTs Lockdown Mode. Hullet er lukket

Check Point Research kunne omgå en del af beskyttelsen via en HTML-forhåndsvisning. Forskerne har efterprøvet rettelsen.

Forskere fandt en vej uden om ChatGPTs Lockdown Mode. Hullet er lukket
Illustration: AI-genereret af Kurateret Kaos.

ChatGPTs Lockdown Mode er beregnet til at begrænse, hvor data fra en samtale kan sendes hen. Sikkerhedsforskere fra Check Point Research har nu beskrevet en fejl, der lod dem komme uden om den beskyttelse. Den metode, de demonstrerede, virker ifølge deres efterfølgende test ikke længere.

Fejlen sad i forhåndsvisningen

Lockdown Mode begrænser blandt andet adgangen til det åbne internet. Men forskerne fandt en anden vej via den del af ChatGPT, der kan vise en HTML-side inde i en samtale. Et nyt vindue kunne åbnes uden de samme begrænsninger som selve forhåndsvisningen.

I et forsøg med desktopappen viste forskerne, at en ondsindet GPT kunne sende oplysninger fra en samtale videre uden et ekstra klik fra brugeren. Forsøget viser, hvad fejlen gjorde muligt under de testede forhold; det dokumenterer ikke, at brugeres samtaler faktisk blev stjålet.

Rettelsen kom før offentliggørelsen

OpenAI oplyste ifølge forskerne 18. september, at virksomheden havde fjernet de tilladelser, som gjorde omgåelsen mulig. Check Point testede metoden igen, før forskerne offentliggjorde deres gennemgang 5. november.

Kilder: Check Point Research sikkerhedsmeddelelse, OpenAI meddelelse om Lockdown Mode.

Aktører i artiklen

Læs videre i aktørprofilen

OpenAI OpenAI er AI-selskabet bag ChatGPT, GPT-modellerne, Codex og API-platformen - og en af de aktører, der mest konkret har flyttet AI fra demo til dagligt arbejdsredskab. AI-lab og platform

Skriv et svar

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *