In het kort:

OpenAI reageert op groeiende druk van toezichthouders en rechtszaken met een aangepaste versie van de chatbot voor tieners.

• De tienermodus wordt automatisch geactiveerd bij gebruikers tussen 13 en 17 jaar, of wanneer gebruikspatronen wijzen op een minderjarige.
• De chatbot herinnert jongeren vaker aan pauzes en is tijdens 'stille uren' niet beschikbaar.
• Bij gesprekken over zelfbeschadiging of zelfdoding kunnen ouders een waarschuwing ontvangen.

Achter de schermen:

De maatregel komt niet uit het niets, want OpenAI ligt onder vuur na meerdere rechtszaken over de gevolgen van ChatGPT voor jonge gebruikers. Zo klagen de ouders van de zestienjarige Adam Raine, die overleed door zelfdoding, dat hun zoon methoden gebruikte die de chatbot hem zou hebben aangeraden. De nieuwe versie mag bovendien geen eigen bewustzijn suggereren, om verwarring bij jonge gebruikers te voorkomen.

De andere kant:

Psycholoog Anita Hubner waarschuwde eerder al dat chatbots menselijk contact niet kunnen vervangen. "Mis je dan niet veel dingen die alleen van mens tot mens mogelijk zijn?", vroeg ze zich af. Toch ziet ze ook voordelen in incidenteel gebruik en pleit ze voor een balans tussen traditionele therapie en chatbotgesprekken, omdat de technologische ontwikkeling volgens haar niet te stoppen is.