ChatGPTs Lockdown Mode er beregnet til at begrænse, hvor data fra en samtale kan sendes hen. Sikkerhedsforskere fra Check Point Research har nu beskrevet en fejl, der lod dem komme uden om den beskyttelse. Den metode, de demonstrerede, virker ifølge deres efterfølgende test ikke længere.
Fejlen sad i forhåndsvisningen
Lockdown Mode begrænser blandt andet adgangen til det åbne internet. Men forskerne fandt en anden vej via den del af ChatGPT, der kan vise en HTML-side inde i en samtale. Et nyt vindue kunne åbnes uden de samme begrænsninger som selve forhåndsvisningen.
I et forsøg med desktopappen viste forskerne, at en ondsindet GPT kunne sende oplysninger fra en samtale videre uden et ekstra klik fra brugeren. Forsøget viser, hvad fejlen gjorde muligt under de testede forhold; det dokumenterer ikke, at brugeres samtaler faktisk blev stjålet.
Rettelsen kom før offentliggørelsen
OpenAI oplyste ifølge forskerne 18. september, at virksomheden havde fjernet de tilladelser, som gjorde omgåelsen mulig. Check Point testede metoden igen, før forskerne offentliggjorde deres gennemgang 5. november.
Kilder: Check Point Research sikkerhedsmeddelelse, OpenAI meddelelse om Lockdown Mode.
Aktører i artiklen








