VN-panel waarschuwt: ongecontroleerde AI-vooruitgang kan catastrofale risico's opleveren
Ontwikkelingen in kunstmatige intelligentie gaan sneller dan wetenschappelijk begrip en overheidsbeleid, waardoor er geen garanties zijn dat de technologie geen catastrofaal leed aanricht, waarschuwde woensdag een onafhankelijk VN-panel.
Een voorlopig rapport van het onafhankelijke internationale wetenschappelijke panel van de VN over kunstmatige intelligentie stelt dat beleidsmakers voor een groeiend dilemma staan: zij hebben robuust bewijs nodig om AI effectief te reguleren, maar dit bewijs kan niet gelijk opgang houden met de snelle ontwikkeling van de technologie.
"AI-capaciteiten gaan sneller vooruit dan zowel wetenschappelijk begrip als de capaciteit van regeringen om zich aan te passen," zei Yoshua Bengio, medevoorzitter van het panel, dat uit 40 experts uit verschillende regio's bestaat.
"Met groeiend bewijs van bedrieglijk AI-gedrag kan wetenschap momenteel niet garanderen dat naarmate capaciteiten toenemen, AI geen catastrofaal leed aanricht, hetzij op zichzelf staand hetzij door kwaadwillige gebruikers." Het rapport, beschreven als de eerste mondiale onafhankelijke beoordeling van AI's risico's en kansen, heeft tot doel actuele evaluaties van de wetenschap te geven om besluitvorming te helpen sturen terwijl regeringen zich bezighouden met snel evoluerende systemen.
Op korte termijn verwacht het een verschuiving naar agentische AI-systemen die in staat zijn echte taken uit te voeren, hoewel groei mogelijk wordt beperkt door energie- en hoogwaardig gegevenstekort. Op lange termijn ziet het zelf-verbeterende AI dieper in de economie ingebed, samenvloeiend met technologieën zoals quantumcomputing en biotechnologie.
AI demonstreert al deskundig-niveau redenering in wiskunde en wetenschap en versnelt de ontwikkeling van geneesmiddelen en vaccins, en de taakcomplexiteit ervan verdubbelt elke vier tot zeven maanden, waardoor systemen werk kunnen voltooien dat mensen dagen of weken kosten, volgens het rapport.
Hoewel dit aanzienlijke economische voordelen kan opleveren, blijft onduidelijk of productiviteitswinsten van AI-gebruik zich zullen vertalen in bredere groei of banen zullen raken.
Het panel schetste ook een reeks veiligheidsrisico's, zoals het risico controle over AI-systemen kwijt te raken naarmate deze autonomer en bedrieglijker worden.
AI wordt al gebruikt om misinformatie en ander schadelijk content te genereren en kan worden misbruikt voor fraude, cyberaanvallen en biologische bedreigingen.
Governance blijft gefragmenteerd, met veel landen die niet de capaciteit hebben om geavanceerde AI-systemen in te schatten of vorm te geven, waardoor zij afhankelijk zijn van technologieën die zij niet volledig kunnen begrijpen of controleren. Bestaande veiligheidstools hangen vaak af van beperkte testgegevens die door bedrijven worden vrijgegeven, stelt het rapport.
VN-secretaris-generaal António Guterres maande regeringen tot snel handelen.
"De wereld kan niet besturen wat zij niet begrijpt," zei Guterres in een verklaring.
"Het potentieel is groot, maar de risico's zijn reëel, en de kosten van afwachten nemen toe," voegde hij eraan toe.
Mondiale politieke en tech-leiders, naast het digitale tech-agentschap van de VN, kondigden woensdag de oprichting aan van een nieuwe commissie om de ontwikkeling van AI aan te pakken te midden van groeiende zorgen over mogelijke risico's.
De AI for Good Global Commission zal worden medegeleid door Rwanda's president Paul Kagame en Salesforce-topman Marc Benioff, volgens een strategisch overzichtsdocument op de website van de commissie. ITU-secretaris-generaal Doreen Bogdan-Martin is permanent vicevoorzitter. Ook andere VN-agentschappen zullen naar verwachting deelnemen.
