Anthropic afsætter fem millioner dollar til uafhængig forskning i, hvordan AI påvirker menneskers trivsel. Modtagerne får penge, modeladgang og teknisk støtte til at bygge åbne evalueringer, som andre udviklere også må bruge.
Det er et reelt hul, Anthropic forsøger at fylde. AI-systemer bliver brugt til arbejde og læring, men også som selskab og støtte i svære samtaler. Branchen er stadig bedre til at måle, om et svar er faktuelt korrekt, end om en lang samtale samlet set hjælper eller skader et menneske.
Et enkelt svar fortæller ikke nok
Anthropic bruger selv kostråd som eksempel. Et forslag om vægttab kan være rimeligt i én samtale og direkte uansvarligt i en anden, hvis brugeren tidligere har vist tegn på en spiseforstyrrelse. Den afgørende kontekst kan ligge mange beskeder tilbage.
Derfor efterlyser virksomheden evalueringer, som kan følge længere forløb og skelne mellem midlertidig utilfredshed og egentlig risiko. Klinisk viden, psykologi og solid metode er vigtigere her end endnu et benchmark, hvor en model får 84,7 procent og en pokal af sin egen producent.
Uafhængigheden skal kunne ses i praksis
Anthropic skriver, at forskerne arbejder fuldt uafhængigt, og at projekterne skal offentliggøres som open source. Det er den rigtige retning. Resultaterne bliver mere brugbare, hvis andre kan efterprøve metoden og anvende den på konkurrerende modeller.
Der følger stadig et oplagt forbehold med. Pengene, modeladgangen og den tekniske støtte kommer fra en virksomhed, der selv bliver målt. Uafhængighed kræver derfor mere end ordet uafhængig i en pressemeddelelse. Bevillinger, datagrundlag og eventuelle begrænsninger skal være tydelige, også når resultaterne er ubekvemme for Anthropic.
Kan også være relevant for danske forskere
Puljen er oplagt at undersøge for danske miljøer inden for psykologi, klinik, metodeudvikling og menneske-maskine-interaktion. Den konkrete adgang afhænger dog af vilkårene i ansøgningsmaterialet, som interesserede forskere selv bør kontrollere.
Ansøgningsfristen er 21. september 2026. Udvalgte ansøgere får ifølge Anthropics officielle beskrivelse besked 5. oktober om, at de kan indsende et fuldt forslag.
Fem millioner dollar løser ikke spørgsmålet om AI og mental trivsel. Men åbne målemetoder er mere værd end producenternes egne forsikringer om, at sikkerheden hele tiden bliver bedre. Det afgørende bliver, om forskerne får frihed til også at dokumentere det modsatte.
Aktører i artiklen
