In het kort:
OpenAI negeerde waarschuwingen van eigen medewerkers over verdachte interacties met ChatGPT, maanden voordat een 18-jarige Canadese tiener een dodelijke schietpartij pleegde.
- Jesse Van Rootselaar doodde op 10 februari vijf leerlingen, een lerares, haar moeder en stiefbroer in Brits-Columbia. Zeker 25 anderen raakten gewond.
- Een automatisch systeem markeerde haar ChatGPT-gesprekken over geweldsscenario's als 'gewelddadig', maar OpenAI vond de dreiging niet reëel genoeg om de politie in te lichten.
- Pas na de aanslag bracht OpenAI de Canadese autoriteiten op de hoogte.
Achter de schermen:
Medewerkers van OpenAI zagen de interacties als potentieel gevaarlijk en drongen aan op contact met de Canadese politie, maar hun leidinggevenden beslisten anders.
- "Ik ben diep verontrust," zegt Canadees AI-minister Solomon, die OpenAI naar Ottawa heeft ontboden om hun veiligheidsprotocollen toe te lichten.
- Premier Eby van Brits-Columbia noemt de onthullingen zeer verontrustend voor nabestaanden en inwoners.
Het grote plaatje:
Deze zaak voegt zich bij groeiende kritiek op chatbots. OpenAI wordt ook aangeklaagd door ouders van een 16-jarige Amerikaanse jongen die zelfmoord pleegde, terwijl privacytoezichthouders waarschuwen voor mentale schade door AI-bots.
