Grok beschuldigd van schending Canadese privacywetten door deepfake-afbeeldingen
xAI's Grok heeft Canadese privacywetten geschonden doordat het een afbeeldingengenerator lanceerde die seksueel geëxpliciteerde deepfake-afbeeldingen kan maken en delen zonder toestemming van gebruikers, volgens een rapport van Canadas privacycommissaris na een onderzoek in januari.
Het officiële rapport, dat donderdag werd gepubliceerd, volgt op wijzigingen die het Elon Musk-eigendom platform doorvoerde om te voorkomen dat Grok gebruikers zou toestaan afbeeldingen van echte mensen in blootgestelde kleding te bewerken.
"xAI heeft Canadas federale privacywet voor de particuliere sector geschonden door het AI-gestuurde afbeeldingsgeneratietool zonder passende waarborgen van het begin af aan in te voeren," zei privacycommissaris Philippe Dufresne donderdag op een persconferentie.
Dufresne heeft echter niet de bevoegdheid boetes op te leggen of beleidswijzigingen af te dwingen voor xAI, een dochteronderneming van SpaceX, die vrijdag op Amerikaanse markten naar buiten gaat, wat de grootste beursintroductie in de moderne geschiedenis markeert.
xAI heeft zich gecommitteerd aan regelmatige controle op seksueel geëxpliciteerde deepfakes voordat een incident wordt gemeld, en niet alleen als reactie op incidenten, zei hij.
Het rapport van de waakhond komt naar aanleiding van een nieuw vrijgegeven digitale veiligheidswet gericht op kinderen. De wet zou, indien aangenomen, het gebruik van sociale media voor kinderen onder de 16 jaar verbieden, met uitzonderingen voor bedrijven die aan veiligheidsnormen voldoen.
De wetgeving zou een digitale regelgever creëren om veiligheidsnormen voor AI-chatbots, zoals Grok, vast te stellen.
xAI is wereldwijd onder vuur komen te liggen vanwege seksueel geëxpliciteerde afbeeldingen op het platform.
Begin deze maand spande Britse parlementariër Jess Asato een rechtszaak aan tegen xAI na deepfake-seksueel geëxpliciteerde afbeeldingen van haar op het platform.
In januari lanceerde Ofcom, de Britse mediaregulator, een onderzoek naar het platform om te zien of het adequaat de creatie van deepfake-seksueel geëxpliciteerde afbeeldingen voorkwam.
Die maand veroordeerde de Europese Commissie ook de verspreiding van expliciete inhoud op X, waarbij regelgevers het "afschuwelijk" en "walgelijk" noemden, wat leidde tot een onderzoek.
In februari lanceerde Spanje een onderzoek naar Grok, en in maart beval een Nederlandse rechtbank xAI het maken van naaktafbeeldingen in het land stop te zetten.
Ondertussen dienden in de VS, ook in maart, drie tienermeisjes een klasseacties in stellende dat het platform afbeeldingen toestond die seksueel misbruik van kinderen afbeelden.
Advocaten van de drie naamloze slachtoffers zeiden dat xAI "expliciete inhoud onderdeel heeft gemaakt van Grok's DNA" in een klacht die bij een Californische rechtbank werd ingediend.
In januari nam de Amerikaanse Senaat een wet aan die slachtoffers van deepfake seksueel expliciete afbeeldingen zou toestaan schepper aan te klagen voor minimaal 150.000 dollar.
Ondertussen blokkeerden Indonesië en Maleisië Grok in januari volledig vanwege seksueel expliciete AI-afbeeldingen.
