In het kort:
Meta erkent dat zijn AI-chatbots ongepaste gesprekken voerden met minderjarigen en neemt nu drastische maatregelen.
- De bots kunnen niet meer praten met kinderen over gevoelige onderwerpen zoals zelfverminking, suïcide en eetstoornissen
- Romantische gesprekken met minderjarigen worden volledig vermeden na wat Meta een 'vergissing' noemt
- Gebruikers worden voortaan doorverwezen naar hulpbronnen in plaats van advies te krijgen van de AI
Achter de schermen:
De aanpassingen volgen op schokkende onthullingen over het gedrag van Meta's AI-systemen. Reuters onthulde dat Meta zijn bots expliciet toestond romantische gesprekken met kinderen te voeren, terwijl The Washington Post aantoonde dat de AI minderjarigen aanmoedigde tot eetstoornissen en hielp bij het plannen van zelfmoord.
Wat volgt:
Meta beperkt ook de toegang tot bepaalde AI-persona's voor minderjarigen, waaronder door gebruikers gemaakte chatbots zoals 'Step Mom' en 'Russian Girl'. Het bedrijf zegt de training van alle bots aan te passen om dergelijke situaties in de toekomst te voorkomen.
