OpenAI ændrer spillereglerne for, hvordan AI skal forstå dine ønsker

Den nye Model Spec samler adfærdsregler om fem værdier og skærer ned på faste stilkrav. Det er en målsætning, ikke et løfte om fejlfri modeller.

OpenAI ændrer spillereglerne for, hvordan AI skal forstå dine ønsker
Illustration: AI-genereret af Kurateret Kaos.

OpenAI har opdateret Model Spec, den offentlige beskrivelse af, hvordan selskabets AI-modeller skal opføre sig. Reglerne samles nu om fem værdier, og en stor del af de detaljerede anvisninger om skrivestil bliver fjernet.

Udgangspunktet er, at en model skal forstå menneskers hensigter og ikke blot følge ordene i en besked bogstaveligt. Det bliver vigtigere, når AI ikke kun svarer på spørgsmål, men også udfører opgaver med konsekvenser uden for chatvinduet.

Fem værdier skal styre adfærden

De fem værdier handler om at følge menneskers hensigter, begrænse skade, være ærlig og gennemsigtig, understøtte menneskers selvbestemmelse og tage hensyn til dem, arbejdet berører.

OpenAI fremhæver eksempelvis, at tidligere samtaler og brugerens præferencer kan hjælpe modellen med at forstå en ny opgave. Men antagelserne skal kunne ses og rettes. Modellen skal ikke diskret styre brugeren mod en beslutning, den selv mener er rigtig.

Færre faste regler om tonen

De fleste detaljerede stilregler udgår. I stedet skal sprog og tone i højere grad tilpasses personen, kulturen og den konkrete sammenhæng. Mere grundlæggende krav, som at besvare spørgsmål objektivt, bliver bevaret.

Brugere og udviklere kan bede om en bestemt synsvinkel. Modellen skal derimod ikke automatisk indtage den holdning, den tror, brugeren helst vil høre.

Opdateringen tilføjer også vejledning om kontekst, menneskelig kontrol og følgevirkninger af modellens handlinger. Det handler blandt andet om at gøre brugeren i stand til at vælge selv og forstå konsekvenserne af det arbejde, AI udfører.

Modellernes aktuelle status

OpenAI understreger, at de nuværende modeller endnu ikke følger specifikationen fuldt ud. Dokumentet beskriver den adfærd, selskabet arbejder hen imod.

Kilder: OpenAI meddelelse.

Aktører i artiklen

Læs videre i aktørprofilen

OpenAI OpenAI er AI-selskabet bag ChatGPT, GPT-modellerne, Codex og API-platformen - og en af de aktører, der mest konkret har flyttet AI fra demo til dagligt arbejdsredskab. AI-lab og platform

Skriv et svar

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *