OpenAI bruger et system ved navn Control Room til at stoppe nye modelsvar i interne forskningsforsøg. Ifølge selskabet kan systemet afskære et forsøg fra modelsvar inden for 35 sekunder, efter at det har modtaget en stopbesked.
Hvert forskningsjob får et ID. Når jobbet beder en model om et svar, tjekker den software, der kører modellen, om jobbet stadig har tilladelse. Ved et stop kan selve forskningsprocessen stadig køre, men den får ikke flere svar fra modellen.
OpenAI har sat systemet op til at afvise forespørgsler, hvis kontrollen går ned. Ifølge selskabet gælder den sikring allerede for forsøg med de mest avancerede modeller. Den rulles også ud til de øvrige forskningsopgaver.
Kilder: OpenAI teknisk artikel.
Aktører i artiklen








