OpenAI har udelukket to netværk fra ChatGPT, som ifølge virksomheden brugte modellen som værktøj i skjulte påvirkningskampagner. Den ene operation udsprang af Rusland og den anden af Iran, og begge kombinerede AI med mere klassiske metoder som falske identiteter, e-mails og målrettet distribution af indhold.
OpenAI beskriver sagerne i en ny gennemgang af “false front”-operationer, hvor afsenderen skjules bag tilsyneladende legitime aktører. Rapporten kan læses hos OpenAI.
Russisk netværk: Tænketank som facade i Latinamerika
Den russisk-forbundne operation, som OpenAI kalder “Dark Clark”, brugte ifølge virksomheden ChatGPT-konti oprettet fra Rusland. Da OpenAI ikke tillader adgang til sine modeller fra Rusland, skulle aktørerne have brugt VPN til at omgå begrænsningen.
Kernen var en “tænketank” med navnet Social Research Center (SRC), som udadtil fremstod som en forskningsplatform med fokus på blandt andet relationer mellem Indien og latinamerikanske lande. Interne rapporter, som OpenAI siger at have set, peger på, at operationen blev styret via en opdigtet persona, “Mia Clark”, og at personer i Latinamerika kan være blevet inddraget uden at vide, hvem der reelt stod bag. Ifølge OpenAI brugte netværket ChatGPT især til at skrive interne statusrapporter til en ukendt overordnet, snarere end til at producere selve kampagneindholdet.
OpenAI vurderer operationen til kategori 5 på virksomhedens egen “IO Breakout Scale” (1 til 6) og kalder det den første kategori 5-operation, virksomheden har afbrudt siden den begyndte at offentliggøre denne type rapporter.
Iransk netværk: Falske bylines gav adgang til rigtige medier
Den iransk-forbundne operation, døbt “Bogus Bylines”, brugte ifølge OpenAI ChatGPT til at finpudse lange engelsksprogede artikler om USA-Iran-konflikten og til at skrive pitch-mails til redaktører. Artiklerne blev sendt ind under syv falske journalistnavne, der skulle ligne vestlige freelancere.
OpenAI oplyser, at virksomheden via open-source undersøgelser fandt næsten 100 artikler publiceret eller syndikeret under disse navne på omkring et dusin små og mellemstore netmedier internationalt. Den del vurderes til kategori 4 for rækkevidde, netop fordi indholdet kom ind i etablerede udgivelseskanaler frem for kun at cirkulere på egne profiler.
AI som effektivisering, ikke som hele motoren
På tværs af begge sager fremhæver OpenAI, at operationerne minder om påvirkningskampagner fra før AI, men at AI gjorde arbejdet lettere: Hurtigere produktion af tekster, bedre sprog og mere strømlinet redigering og rapportering. OpenAI understreger samtidig, at aktørernes egne effektmålinger og påstande ikke kan tages for pålydende, og at virksomheden kun kunne bekræfte dele af materialet via offentligt tilgængelige spor.
Konsekvensen er, at taktikken med at “vaske” budskaber ind via virkelige medier og tilsyneladende legitime organisationer fortsat er central. Ifølge OpenAI er netop den metode forbundet med højere potentiel rækkevidde end ren masseposting på sociale medier.
Aktører i artiklen
