In het kort:

Hulpverleners maken zich zorgen over de ongepaste doorverwijzingen van ChatGPT naar suïcidehulp.

• Maryke Geerdink van 113 Zelfmoordpreventie ziet sinds de zomer meer mensen die via ChatGPT bij hen terechtkomen
• Het risico bestaat dat mensen afhaken als ze horen dat ze niet op de juiste plek zijn
• Chatbots zijn vooral gemaakt om bevestigend en positief te reageren, maar dat kan averechts werken

Achter de schermen:

De doorverwijzing lijkt een reactie op eerdere kritiek, nadat ChatGPT-gebruik leidde tot de zelfdoding van een Amerikaanse tiener.

"Dit voelt meer als een snelle fix om te laten zien dat ze iets doen," zegt AI-onderwijzer Dean van Aswegen. OpenAI heeft vooral zakelijke belangen en weinig financiële prikkels om het probleem écht op te lossen. Het kost tijd en geld om modellen zo te trainen dat ze juiste mentale hulp bieden.

Wat volgt:

113 Zelfmoordpreventie wacht nog op een inhoudelijke reactie van OpenAI. Experts pleiten voor duidelijke disclaimers, betere instructies en meer voorlichting over AI-gebruik, vooral voor jongeren en kwetsbare groepen.