Seks medarbejdere fra den uafhængige organisation METR får arbejdsudstyr, kontorplads og adgang til interne værktøjer hos Anthropic. De skal vurdere AI-modellernes risici med et indblik, som normalt er forbeholdt virksomhedens egne sikkerhedshold.
Ordningen er frivillig og beskrevet i Anthropics nye udmelding. METR skal kunne offentliggøre sine vurderinger uden virksomhedens godkendelse.
Adgang til mere end selve modellen
En ekstern test af en chatbot viser ikke nødvendigvis, hvordan dens sikkerhedsforanstaltninger er bygget. Her får evaluatorerne også indsigt i interne systemer og arbejdsgange på omtrent samme niveau som Anthropics risikoteams.
Adgangen har grænser. Kundedata, fortrolig advokatkommunikation og oplysninger om modelarkitektur er blandt undtagelserne. Det indlejrede METR-hold er desuden adskilt fra organisationens øvrige medarbejdere.
Anthropic kan kræve oplysninger fjernet
Virksomheden kan ikke nedlægge veto mod offentliggørelse, men kan kræve snævert definerede fortrolige oplysninger fjernet. METR må offentligt beskrive indgrebene og vurdere, om de var rimelige, uden at afsløre de beskyttede oplysninger.
Det giver mulighed for et mere oplyst eksternt tilsyn. Ordningen er dog endnu ikke en offentlig vurdering af, hvor sikre Anthropics modeller er. Den vurdering skal komme fra evaluatorernes arbejde.
Aktører i artiklen
