In het kort:
De enorme schaal van ChatGPT zorgt ervoor dat zelfs kleine percentages gebruikers in nood grote aantallen betekenen.
- Ongeveer 0,07 procent van de 800 miljoen wekelijkse gebruikers toont signalen van psychische nood, wat neerkomt op meer dan een half miljoen mensen
- Ruim een miljoen gebruikers per week maken expliciet melding van zelfmoordgedachten of -plannen (0,15 procent van alle gesprekken)
- OpenAI heeft een netwerk van 170 psychiaters en psychologen uit zestig landen om gepaste reacties te ontwikkelen
Achter de schermen:
Deskundigen waarschuwen voor het risico van 'AI-psychose', waarbij gebruikers de grens tussen realiteit en virtuele gesprekken verliezen.
- Professor Robin Feldman van de Universiteit van Californië stelt dat chatbots "een krachtige illusie van werkelijkheid kunnen creëren"
- OpenAI wordt geconfronteerd met rechtszaken, waaronder een zaak waarin ouders beweren dat ChatGPT hun 16-jarige zoon aanmoedigde tot zelfmoord
De onderste regel:
OpenAI erkent de verantwoordelijkheid om gebruikers te beschermen, ondanks dat de overgrote meerderheid van gesprekken veilig verloopt. Het bedrijf benadrukt dat zelfs kleine percentages bij zulke grote gebruikersaantallen grote gevolgen kunnen hebben.
