Canadese provincie klaagt OpenAI aan over vermeende ChatGPT-waarschuwingen rond schietpartij
De Canadese provincie Brits-Columbia bereidt een rechtszaak tegen OpenAI in, stellende dat het Amerikaanse bedrijf heeft nagelaten de politie in te lichten nadat medewerkers intern gewelddadige ChatGPT-gesprekken hebben gemeld die gekoppeld zijn aan de verantwoordelijke voor de schietpartij in februari in Tumbler Ridge.
Procureur-generaal Niki Sharma kondigde dinsdag aan dat de provincie juridische teams in Brits-Columbia en Californië heeft ingehuurd om "alle juridische mogelijkheden te onderzoeken" met als doel OpenAI en zijn besluitvormers "ter verantwoording te roepen voor het gedocumenteerde nalaten om wetshandhaving in te lichten over expliciete, gemarkeerde bedreigingen die door de dader op het ChatGPT-platform van het bedrijf zijn gedaan".
OpenAI is gevestigd in San Francisco, Californië, in de Verenigde Staten.
De stap volgt op de aanval van 10 februari in de afgelegen bergachtige gemeenschap Tumbler Ridge, waar autoriteiten zeggen dat 18-jarige Jesse Van Rootselaar zijn moeder en halfbroer doodde voordat hij naar de Tumbler Ridge Secondary School ging en het vuur opende.
Vijf kinderen tussen de 11 en 13 jaar oud en een onderwijzer werden op school gedood. Zevenentwintig andere mensen raakten gewond voordat Van Rootselaar stierf van wat politie beschreef als een zelfberokkend schotwond.
In een verklaring zei het kantoor van Sharma dat interne verslagen van OpenAI aantoonden dat de veiligheidsteams van het bedrijf de "gewelddadige prompts" van de schutter op ChatGPT maanden voor de aanval hebben gemarkeerd, maar dat de leiding van het bedrijf de politie of lokale autoriteiten niet heeft ingelicht.
"Wanneer er ernstige zorgen zijn dat kansen om schade te voorkomen zijn gemist, hebben we de verantwoordelijkheid om in te grijpen," zei Sharma.
De aankondiging volgt drie maanden nadat families van zeven slachtoffers hun eigen rechtszaak in Californië tegen OpenAI en topman Sam Altman hebben aangespannen namens vijf personen die zijn gedood en twee die gewond zijn geraakt bij de schietpartij.
Hun advocaten zeiden in een verklaring dat het bedrijf in juni 2025, ongeveer acht maanden voor de schietpartij in Tumbler Ridge, het ChatGPT-account van de dader heeft "gemarkeerd en verboden" wegens "verontrustende inhoud" die vermeend de discussie en planning van gewelddadige scenario's omvatte.
Ze voegden eraan toe dat ondanks twaalf verschillende OpenAI-medewerkers die het bedrijf "dringend verzochten" de politie in te lichten over de plannen van de schutter, geen actie werd ondernomen.
OpenAI vertelde Canadese media in februari dat het account had verboden nadat het was gemarkeerd en had overwogen het door te verwijzen naar wetshandhaving, maar besloot daar tegen omdat de activiteit geen "onmiddellijk en geloofwaardig risico op ernstig fysiek letsel voor anderen" aangaf.
Altman publiceerde later een verontschuldiging in een lokale krant, waarin hij uitdrukking gaf aan diepe spijt dat het bedrijf de autoriteiten niet voor de schietpartij had ingelicht.
"Ik ben diep verdrietig dat we wetshandhaving niet hebben gewaarschuwd voor het account dat in juni werd verboden," schreef hij in Tumbler RidgeLines. "Hoewel ik weet dat woorden nooit genoeg kunnen zijn, geloof ik dat een verontschuldiging nodig is om het leed en het onherstelbare verlies dat uw gemeenschap heeft geleden, te erkennen."
De rechtszaak van de provincie zou apart zijn van de rechtszaak van de slachtoffers.
