OpenAI åbner Decisions API til hurtige, afgrænsede AI-valg

Decisions API er nu generelt tilgængelig med GPT-6 Luna. Den returnerer valg, sandsynligheder eller scorer frem for lange tekstsvar.

OpenAI åbner Decisions API til hurtige, afgrænsede AI-valg
Illustration: OpenAI. Officielt ordmærke, anvendt uændret som redaktionel illustration. OpenAI ejer varemærket.

OpenAI har gjort Decisions API generelt tilgængelig. Den er bygget til de mange små beslutninger, som apps og AI-agenter skal træffe undervejs i en opgave: Hvilken kategori hører en besked til, hvor skal en forespørgsel sendes hen, og hvad er næste handling?

API’en bruger GPT-6 Luna, men begrænser svarene til på forhånd definerede muligheder. OpenAI præsenterede den nye tilgængelighed den 22. oktober.

Tre typer svar

Udvikleren kan bede om en sandsynlighed, et valg mellem bestemte muligheder eller en score efter en fast skala. API’en returnerer dermed et struktureret resultat, som et program kan arbejde videre med, i stedet for et frit formuleret chatsvar.

Et eksempel er en supportløsning, der skal vælge mellem at stille et opklarende spørgsmål, sende sagen videre eller fortsætte en arbejdsgang. Et andet er en app, der skal sortere billeder eller dokumenter efter konkrete kriterier.

Op til 400 spørgsmål i en forespørgsel

Siden den offentlige beta har OpenAI tilføjet understøttelse af native JSON-input, billeder i spørgsmålets instruktioner og op til 400 spørgsmål pr. forespørgsel. Genbrugt kontekst kan caches.

OpenAI oplyser, at de afgrænsede beslutninger kan leveres op til ti gange hurtigere end GPT-6 Luna via Responses API. Det er selskabets egen sammenligning, ikke en uafhængig måling eller et løfte om samme forskel i alle apps.

Pris efter input, ikke output

Den oplyste pris er 0,10 dollar pr. million inputtokens og 0,01 dollar pr. million cachede inputtokens. Der er ingen betaling for outputtokens. Lagring af cachede kontekster kan have særskilte vilkår, som fremgår af prisguiden.

Regional behandling tilbydes i USA og EU, og kvalificerede kunder kan få Zero Data Retention. API’en har desuden fået en direkte integration med GPT-Live, så hurtige valg kan indgå i løbende stemmesamtaler.

Det er især relevant, når en lille beslutning gentages mange gange, og både ventetid og pris derfor får betydning. Udvikleren skal stadig teste, om de valgte svarmuligheder og modellens vurderinger passer til den konkrete opgave.

Kilde: OpenAI om Decisions API.

Aktører i artiklen

Læs videre i aktørprofilen

OpenAI OpenAI er AI-selskabet bag ChatGPT, GPT-modellerne, Codex og API-platformen - og en af de aktører, der mest konkret har flyttet AI fra demo til dagligt arbejdsredskab. AI-lab og platform

Skriv et svar

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *