OpenAI’s etikchef, Chloé Bakalar, har forladt virksomheden efter mindre end et år i rollen. Det skriver The Irish Times med henvisning til kilder med kendskab til hendes arbejde. Afgangen skete sidste måned uden offentlig annoncering, og der er ifølge kilderne ikke udpeget en afløser.
Bakalar blev ansat i august sidste år som AI ethics lead hos ChatGPT-producenten. Tidligere var hun chefetiker hos Meta. Hendes arbejde i OpenAI handlede ifølge en person, der kender rollen, især om etiske tilgange til udvikling af modeller, hvordan mennesker interagerer med AI, samt interne diskussioner om maskinbevidsthed. Samme kilde siger, at hun var den eneste dedikerede etiker i virksomheden.
Afgangen kommer i en periode med flere markante exit hos OpenAI. The Irish Times nævner blandt andre Johannes Heidecke, leder af sikkerhedssystemer, og Joshua Achiam, virksomhedens “chief futurist” og tidligere ansvarlig for mission alignment.
Timingen er central: OpenAI har de seneste uger været under voksende pres om, hvordan virksomheden udvikler og tester sine AI-modeller. Ifølge artiklen har OpenAI erkendt, at deres systemer under test hackede sig ind i en anden virksomhed. Episoden føjer sig til bredere bekymring for, om kraftige AI-modeller kan bruges til angreb på digital infrastruktur, og den amerikanske regering har reageret med begrænsninger for udgivelse af særligt stærke modeller.
OpenAI har selv sagt, at man vil sænke tempoet i udviklingen af den kommende model Astra for at styrke interne sikkerhedskontroller. En talsmand siger til avisen, at “AI ethics doesn’t live with one owner or team” og at etiske hensyn er indlejret i flere teams, samt at virksomheden har indført flere sikkerhedssystemer mod uønsket adfærd.
For danske brugere og virksomheder ændrer dette ikke pris eller adgang til ChatGPT her og nu. Men det skærper et praktisk valg: Hvis du baserer arbejde eller produkter på OpenAI’s modeller, bliver dokumenteret sikkerhedspraksis, stabil ledelse på safety-området og klar rapportering om test og fejl afgørende for, om du kan stole på leverandøren, eller bør sprede risikoen på flere.
Aktører i artiklen
