Anthropic har vist amerikanske lovgivere et udkast til regler for sikkerheden omkring avancerede AI-modeller. Det skriver Politico i en originalreportage fra 16. oktober. Mediet har fået det fortrolige udkast og talt med tre personer med kendskab til arbejdet.
Forslaget beskriver, hvornår myndighederne skal kunne blokere en models lancering eller brug. En talsmand for Anthropic bekræfter over for Politico, at udkastet afspejler selskabets Advanced AI Framework, som det har argumenteret for siden juni.
En tærskel for risiko, ikke et antal faktiske ofre
Ifølge Politico kræver udkastet en forudsigelig, umiddelbar risiko for skader på over 1 milliard dollar eller for, at mere end 50 mennesker bliver dræbt eller alvorligt kvæstet.
Risikoen skal være knyttet til biologiske våben, en model, der undviger udviklerens kontrol, eller et cyberangreb. Det er altså ikke et krav om, at 50 mennesker først skal være døde, før myndighederne kan reagere.
Ikke vedtaget lov
Der er tale om et selskabs forslag til lovgivere, ikke gældende amerikansk lov. Anthropics rolle er dermed både at udvikle modellerne og forsøge at påvirke de regler, der skal sætte grænser for dem.
Aktører i artiklen
