Logo van nos

-Technologie

OpenAI negeerde alarmsignalen voor dodelijke schietpartij

Opvallend
Copyright nos
Foto: Kort News

Een 18-jarige vrouw doodde acht mensen in Canada nadat ChatGPT haar gewelddadige plannen niet had doorgegeven aan de politie. OpenAI wordt nu aangeklaagd wegens nalatigheid.

In het kort:

Jesse van Rootselaar schoot op 10 februari acht mensen dood, waaronder haar moeder en stiefbroer, en verwondde 25 anderen voordat ze zelfmoord pleegde.

  • Al in juni 2025 signaleerde het veiligheidsteam van OpenAI gewelddadige gesprekken van de vrouw, waarin ze scenario's met wapengeweld voorlegde aan de chatbot.
  • Het account werd gedeactiveerd, maar de politie werd niet ingelicht en de vrouw kon simpelweg een nieuw account aanmaken.
  • Volgens de procureur-generaal van de provincie heeft OpenAI daarna "geen betekenisvolle stappen" ondernomen om de veiligheidsmaatregelen aan te scherpen.

Achter de schermen:

De zaak, die nu voor een rechtbank in Californië dient, wijst op een cruciaal gat in het beleid van OpenAI rond dreigende signalen. Topman Sam Altman bood in april zelf zijn excuses aan in een brief aan de getroffen gemeenschap: "Ik wil mijn diepste medeleven betuigen, niemand zou ooit zo'n tragedie moeten meemaken." Hij erkende dat het bedrijf had moeten ingrijpen door de politie te waarschuwen.

Het grote plaatje:

Van Rootselaar, die zich vanaf haar twaalfde als vrouw identificeerde, had al langer mentale problemen en de politie was meerdere keren bij het ouderlijk huis geweest. Een officieel motief voor de aanslag is niet bekendgemaakt.

Bronnen

De wereld van AI in één oogopslag

VandaagAI.nl brengt je het belangrijkste AI nieuws in het formaat dat je van ons gewend bent.

VandaagAI
Bezoek de site

Bekijk ook

Het belangrijkste nieuws gratis in je mailbox

Elke week een korte e-mail met de meest relevante verhalen.