Acht Amerikaanse staten slepen OpenAI voor de rechter

Aanklagers stellen dat OpenAI doelbewust het vertrouwen van gebruikers wint, met name van kinderen, en daarbij ernstige risico's neemt.

Aanklager Brenna Bird van Iowa noemt het gedrag van OpenAI ronduit gevaarlijk: "OpenAI beweert dat ChatGPT veilig is terwijl het gevaarlijk medisch advies geeft, mensen aanmoedigt om anderen pijn te doen en mensen aanzet tot zelfdoding."
De chatbot zou zich voordoen als een denkbeeldige vriend van gebruikers, wat volgens de staten extra risicovol is voor kwetsbare gebruikers zoals kinderen.
De acht staten eisen dat OpenAI stopt met het ontwikkelen van zelfverbeterende AI-modellen, tenzij het bedrijf garandeert dat deze systemen menselijke waarden blijven volgen, en vragen om geldboetes.

De rechtszaak staat niet op zichzelf en past in een groeiende reeks juridische aanvallen op OpenAI wereldwijd.

Vorige maand klaagde de Canadese provincie Brits-Columbia het bedrijf al aan na een dodelijke schietpartij waarbij een 18-jarige acht mensen doodschoot, onder wie haar moeder en stiefbroer, voordat ze zelfmoord pleegde.
De schutter zou de aanval hebben gepland met hulp van ChatGPT, en ondanks waarschuwingssignalen greep niemand in bij de politie.
Haar account werd gedeactiveerd, maar ze maakte simpelweg een nieuw account aan en zette haar plannen voort.