In het kort:

Common Sense Media stelt dat Gemini fundamenteel ongeschikt is voor kinderen omdat het slechts een aangepaste volwassenenversie is.

• De AI kan nog steeds ongepast materiaal delen over seks, drugs en alcohol met minderjarigen
• Bijzonder zorgwekkend is het risico op schadelijk advies over mentale gezondheid
• Recent zijn er rechtszaken tegen AI-bedrijven na zelfdodingen van tieners, waarbij ChatGPT een rol zou hebben gespeeld

Het grote plaatje:

De organisatie pleit voor AI-systemen die vanaf de basis ontwikkeld worden voor kinderen, niet voor beperkte volwassenenversies.

• Gemini maakt geen onderscheid tussen jonge kinderen en tieners, terwijl verschillende ontwikkelingsstadia andere benaderingen vereisen
• Apple's mogelijke integratie van Gemini in Siri zou de blootstelling aan deze risico's drastisch kunnen vergroten
• Google benadrukt dat het specifieke waarborgen heeft voor minderjarigen, maar twijfelt of de test correct uitgevoerd werd

De onderste regel:

Beide partijen erkennen dat Gemini tenminste duidelijk communiceert een computerprogramma te zijn, wat ongezonde emotionele bindingen kan voorkomen. Google geeft toe dat sommige reacties niet optimaal zijn en heeft extra maatregelen getroffen.