OpenAI foreslår sikkerhedsdokumentation før træning af de mest avancerede AI-modeller

OpenAI foreslår struktureret dokumentation for risici før træning af frontier-modeller. Selskabet kalder selv rammen et mål, ikke en færdig standard.

OpenAI foreslår sikkerhedsdokumentation før træning af de mest avancerede AI-modeller
Foto: Village Global / Wikimedia Commons. Sam Altman ved The Grove, november 2022. Arkivfoto. CC BY 2.0: https://creativecommons.org/licenses/by/2.0/. Kilde: https://commons.wikimedia.org/wiki/File:%E2%80%9CSam_Altman%E2%80%9D_by_Village_Global.jpg. Skaleret til web.

OpenAI foreslår, at udviklere dokumenterer sikkerhedsrisici mere systematisk, før de fortsætter træningen af de mest avancerede AI-modeller. Selskabet kalder dokumenterne “safety cases”: strukturerede argumenter med evidens for, hvorfor en træningskørsel kan fortsætte forsvarligt.

Rammen er under udvikling

OpenAI skriver selv, at rammen er et langsigtet mål, og at det er svært at gøre sikkerhedsvurderinger lige så præcise som i luftfart eller atomindustri. Dokumentet handler desuden om frontier-træning, ikke alle risici ved at gøre modeller tilgængelige for brugere.

Det er OpenAIs bud på, hvordan selskabet og branchen kan dokumentere beslutninger bedre. Værdien afhænger af, om vurderingerne kan efterprøves af andre end dem, der træner modellen.

Træning, adgang og overvågning

De tidlige retningslinjer samler arbejdet i tre områder: træning, begrænsning af modellens adgang og overvågning. Hvis en model handler forkert, skal tekniske barrierer begrænse skaden, og overvågning skal gøre det muligt at opdage hændelsen.

Kilder: OpenAI dokument.

Aktører i artiklen

Læs videre i aktørprofilen

OpenAI OpenAI er AI-selskabet bag ChatGPT, GPT-modellerne, Codex og API-platformen - og en af de aktører, der mest konkret har flyttet AI fra demo til dagligt arbejdsredskab. AI-lab og platform

Skriv et svar

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *