OpenAI har bygget en stopmekanisme til sine interne AI-forsøg

Control Room kan afskære et forskningsjob fra nye modelsvar. OpenAI oplyser, at der højst går 35 sekunder fra stopbeskeden.

OpenAI har bygget en stopmekanisme til sine interne AI-forsøg
Illustration: AI-genereret af Kurateret Kaos.

OpenAI bruger et system ved navn Control Room til at stoppe nye modelsvar i interne forskningsforsøg. Ifølge selskabet kan systemet afskære et forsøg fra modelsvar inden for 35 sekunder, efter at det har modtaget en stopbesked.

Hvert forskningsjob får et ID. Når jobbet beder en model om et svar, tjekker den software, der kører modellen, om jobbet stadig har tilladelse. Ved et stop kan selve forskningsprocessen stadig køre, men den får ikke flere svar fra modellen.

OpenAI har sat systemet op til at afvise forespørgsler, hvis kontrollen går ned. Ifølge selskabet gælder den sikring allerede for forsøg med de mest avancerede modeller. Den rulles også ud til de øvrige forskningsopgaver.

Kilder: OpenAI teknisk artikel.

Aktører i artiklen

Læs videre i aktørprofilen

OpenAI OpenAI er AI-selskabet bag ChatGPT, GPT-modellerne, Codex og API-platformen - og en af de aktører, der mest konkret har flyttet AI fra demo til dagligt arbejdsredskab. AI-lab og platform

Skriv et svar

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *