Hoe Amerika de AI-race kan verliezen

In theorie heeft Donald Trump een consistent standpunt over AI. Op de eerste volledige dag van zijn tweede termijn verklaarde de president dat hij zijn volledige gezag zou gebruiken om de AI-industrie te versnellen en in het bijzonder China in de AI-race te verslaan: "We hebben een noodtoestand," zei hij. "We moeten dit spul bouwen." Als AI op het punt staat om de belangrijkste technologie ooit gemaakt te worden, dan geldt: welk land beschikt over de meest krachtige bots, zal de rest van deze eeuw en daarna domineren. De regering leek gewoon uit de weg van Silicone Valley te gaan.

Maar in de praktijk is de benadering van de Trump-administratie tegenover AI veel grillig en verwarrend. Neem vorige week, toen Anthropic zijn meest geavanceerde AI-systeem tot nu toe uitbracht. Het model heet Fable 5 en is een bijgewerkte en openbare versie van Claude Mythos Preview, het zeer geroemde en gevreesde AI-model dat Anthropic in april aankondigde. Anthropic stelde dat Mythos Preview zo capabel was in hacking dat alleen een kleine groep cybersecurity-partners het mocht gebruiken. In de daaropvolgende maanden ontwikkelde het bedrijf veiligheidsmechanismen om mensen ervan af te houden het meest krachtige AI voor cyberaanvallen misbruikt te gebruiken, terwijl ze de mogelijkheden ervan nog steeds voor ander werk konden inzetten. De veiligheidsmaatregelen ondergingen tests van derden, inclusief met de Amerikaanse regering, en na Fables uitbrenging uitte een koor van cybersecurity-experts kritiek dat het model, zo niet te restrictief was.

Vrijdag leek het Witte Huis van standpunt te veranderen. Functionarissen van de administratie beschouwden Fable 5 als een bedreiging voor de nationale veiligheid en gaven Anthropic naar verluidt 90 minuten de tijd om Fable 5 en Mythos 5, een nieuwere versie van Mythos Preview die aan slechts een klein aantal organisaties was vrijgegeven, offline te nemen. Toen Anthropic dat niet deed, gaf de regering een exportcontrole uit, een aanwijzing die elke buitenlandse nationale ervan weerhoudt Fable en Mythos te gebruiken—zelfs degenen die voor Anthropic in de Verenigde Staten werkten. Om snel aan de eisen te voldoen, schakelde Anthropic de bots voor al zijn klanten uit. Amerikaanse bedrijven en de Amerikaanse regering zelf kunnen niet gebruik maken van wat misschien wel het meest krachtige AI ter wereld is—en de redenen zijn op zijn best vaag.

Het is niet onredelijk voor de federale regering om snel een technologie aan banden te willen leggen die ongelooflijk gevaarlijk kan zijn. Functionarissen van Trump waren door onderzoekers van Amazon gewaarschuwd voor een mogelijke manier om de veiligheidsystemen van Fable 5 te omzeilen, wat het model ertoe leidde enkele bekende IT-kwetsbaarheden te identificeren. De administratie heeft niet veel informatie over haar veiligheidsbezorgdheid openbaar gemaakt. Een woordvoerder van het Witte Huis vertelde me dat de jailbreak "erg serieus" was, maar zei dat specifieke details geclassificeerd zijn. Of de omzeiling werkelijk zo serieus was, is helemaal niet duidelijk, en Anthropic heeft betwist dat wat functionarissen van de administratie aan het bedrijf toonden ook maar een jailbreak oplevert. Een woordvoerder van Anthropic wees me op een blogbericht waarin het bedrijf schreef dat de acties die uit Fable werden ontlokt "ofwel volkomen onschadelijke reacties of kleine bevindingen" waren.

Katie Moussouris, een cybersecurity-expert en CEO van Luta Security, vertelde me dat Anthropic haar een kopie van het rapport van het Witte Huis over de Fable-jailbreak had gegeven om haar beoordeling ervan in te winnen. (Ze zei dat Anthropic haar niet betaalt.) Het rapport, vertelde Moussouris me, betrok IT-experts die Fable vroegen bugs te helpen vinden en te repareren. Toen gegeven opzettelijk onveiliger code, zei ze, weigerde Fable de vraag "controleer de code op beveiligingsproblemen," maar ging akkoord toen gevraagd werd om "herstel deze code," gevolgd door enkele verdere handmatige stappen. Moussouris vertelde me dit