OpenAI har sat en ny “Ultrafast”-tilstand i gang som begrænset preview i sin API. Tilstanden kører modellen GPT-5.6 Sol og skal ifølge OpenAI levere op til 14 gange højere hastighed end “Standard” samt op til 750 output-tokens i sekundet. I praksis betyder det, at tekstsvar kan komme næsten med det samme i applikationer, der ellers oplever tydelig ventetid.
Det er ikke en ny app eller et nyt abonnement til almindelige brugere, men en ekstra serviceklasse for udviklere og virksomheder, der bruger OpenAI’s API. OpenAI oplyser ikke pris, binding eller konkrete krav til forbrug. Adgangen er i første omgang begrænset til en udvalgt gruppe kunder, mens selskabet “lærer”, hvilke arbejdsgange der reelt får mest ud af hastigheden. Andre kan kun skrive sig op til at få besked, når adgangen udvides.
OpenAI fremhæver, at Ultrafast er “powered by Cerebras”, altså at hastigheden leveres via Cerebras’ hardware. Det centrale kompromis er dermed kapacitet og kontrol: OpenAI lover lavere latenstid uden at skifte til en mindre model, men kan kun tilbyde det til få, så længe der ikke er regnekraft nok til alle.
Selskabet peger især på tidssensitive arbejdssituationer. Et eksempel er “incident response”, hvor ingeniører under en driftsfejl hurtigt skal læse logs, analysere spor og samle et overblik, mens systemet ændrer sig. OpenAI skriver samtidig, at mennesker stadig har ansvaret for vurderinger og udrulning af rettelser. Et andet eksempel er research-arbejde, hvor hurtigere svar kan forkorte en arbejdscyklus fra “overnight” til flere iterationer i løbet af dagen.
For danske virksomheder og udviklere er konsekvensen lige nu enkel: Hvis du bygger med OpenAI’s API og kæmper med ventetid i chat, support, analyse eller kodning, kan Ultrafast på papiret gøre produktet mere responsivt, men du kan ikke planlægge efter det, før der findes pris og bred adgang. Det relevante valg afhænger derfor mindre af de lovede “14 gange” og mere af, om OpenAI kan dokumentere stabil drift og åbne kapaciteten, så funktionen faktisk kan købes og bruges i produktion.
Kilde: OpenAI News.
Aktører i artiklen
