AI-gevoede misinformatie inciteert geweld tegen vluchtelingen, waarschuwt VN
Misinformatie en haatspraak incitteren geweld tegen vluchtelingen, waarbij kunstmatige intelligentie de verspreiding erger maakt, waarschuwde de Verenigde Naties dinsdag. De VN riep techbedrijven op om te helpen het tij te keren.
De UNHCR, het VN-vluchtelingenbureau, stelt echter dat AI, goed gebruikt, kan helpen bij het managen van humanitaire crises.
De UNHCR neemt deel aan de AI for Good Global Summit in Genève, waar zij haar standpunt naar voren brengt dat de grote verplaatsingscrisissen in de wereld vaak gepaard gaan met 'informatiecrises'.
De top is een poging van de bredere VN om zich te concentreren op het gebruik van AI's potentieel om de mensheid te dienen en mondiale uitdagingen op te lossen, en om naar de staat van AI-normen te kijken.
'De verspreiding van misinformatie, haatspraak en deepfakes verergert en inciteert echte schade aan vluchtelingen en humanitaire medewerkers,' zei Gisella Lomax, senior adviseur informatieintegriteit van de UNHCR, tegen verslaggevers.
De UNHCR stelde dat deze stroom van misinformatie en desinformatie had geresulteerd in een toename van 'valse, vijandige narratieven gericht op operaties en personeel'.
'In oorlog, conflict en noodsituaties zijn deze informatierisico's extreem scherp,' en kunnen snel tot schade leiden, waarschuwde zij.
Lomax zei dat betrouwbare informatie noodzakelijk was voor vluchtelingenbescherming.
'We moeten het tij keren, en ik zie inderdaad voortgang,' zei zij, stellende dat dit gestandaardiseerd en opgeschaald moest worden.
'Onze oproep tot actie richt zich op alle techbedrijven, AI-bedrijven en digitale platforms om samen te werken, te investeren en samen te werken met humanitaire organisaties.'
Lomax zei dat wanneer informatie werd vervormd, dit de toegang tot banen en onderwijs kon beperken, integratie moeilijker kon maken en sociale cohesie kon bedreigen.
'Online geruchten, valse beschuldigingen, zondebok maken en ontmenselijkende spraak hebben protesten en aanvallen ontketend. In extreme gevallen zijn ze gekoppeld aan fysiek geweld, moorden, en zijn zelfs een factor in gedwongen verplaatsing,' zei zij.
De UNHCR stelde dat generatieve AI de effecten op schaal verergerde, stellende dat deepfake-video's van haar personeel en vluchtelingen een groeiende uitdaging vormden.
Lomax zei: 'Het gaat niet om hoe legitieme maatschappelijke zorgen over migratie en asiel online worden besproken -- maar om levensbedreigende informatierisico's die ernstige schade in humanitaire contexten kunnen veroorzaken.'
Smokkelaars en mensenhandelaars kunnen digitale platforms bijvoorbeeld misbruiken om mensen met valse beloften van veiligheid en werk te bedriegen, zei Lomax, wat hen in gevaarlijke situaties brengt.
De UNHCR wil ervoor zorgen dat inhoudsmodereringstools werken in humanitaire contexten en in minder voorkomende talen.
De UNHCR zei dat er aan het einde van 2025 wereldwijd 117,8 miljoen mensen onder dwang waren verplaatst, waarvan 68,7 miljoen intern verplaatst en 35,6 miljoen vluchtelingen onder haar mandaat.
Van die vluchtelingen komt tweederde uit vijf landen: Venezuela, Oekraïne, Syrië, Afghanistan en Sudan.
