OpenAI har opdateret Model Spec, den offentlige beskrivelse af, hvordan selskabets AI-modeller skal opføre sig. Reglerne samles nu om fem værdier, og en stor del af de detaljerede anvisninger om skrivestil bliver fjernet.
Udgangspunktet er, at en model skal forstå menneskers hensigter og ikke blot følge ordene i en besked bogstaveligt. Det bliver vigtigere, når AI ikke kun svarer på spørgsmål, men også udfører opgaver med konsekvenser uden for chatvinduet.
Fem værdier skal styre adfærden
De fem værdier handler om at følge menneskers hensigter, begrænse skade, være ærlig og gennemsigtig, understøtte menneskers selvbestemmelse og tage hensyn til dem, arbejdet berører.
OpenAI fremhæver eksempelvis, at tidligere samtaler og brugerens præferencer kan hjælpe modellen med at forstå en ny opgave. Men antagelserne skal kunne ses og rettes. Modellen skal ikke diskret styre brugeren mod en beslutning, den selv mener er rigtig.
Færre faste regler om tonen
De fleste detaljerede stilregler udgår. I stedet skal sprog og tone i højere grad tilpasses personen, kulturen og den konkrete sammenhæng. Mere grundlæggende krav, som at besvare spørgsmål objektivt, bliver bevaret.
Brugere og udviklere kan bede om en bestemt synsvinkel. Modellen skal derimod ikke automatisk indtage den holdning, den tror, brugeren helst vil høre.
Opdateringen tilføjer også vejledning om kontekst, menneskelig kontrol og følgevirkninger af modellens handlinger. Det handler blandt andet om at gøre brugeren i stand til at vælge selv og forstå konsekvenserne af det arbejde, AI udfører.
Modellernes aktuelle status
OpenAI understreger, at de nuværende modeller endnu ikke følger specifikationen fuldt ud. Dokumentet beskriver den adfærd, selskabet arbejder hen imod.
Kilder: OpenAI meddelelse.
Aktører i artiklen








