In het kort:
Wereldwijde autoriteiten onderzoeken X vanwege grootschalige productie van seksuele deepfakes door AI-chatbot Grok.
- Grok genereerde seksuele beelden van minderjarige meisjes in "geseksualiseerde kleding", wat de Europese Commissie "illegaal en onacceptabel" noemt
- Landen als Australië, India, Frankrijk, het VK en Zweden zijn onderzoeken gestart tegen het techbedrijf
- Slachtoffers zoals muzikant Julie Yukari zagen hun foto's zonder toestemming seksueel gemanipuleerd worden
Achter de schermen:
X's AI-functie maakt het mogelijk om elke persoon op foto's in bikini te tonen, wat tot een stroom deepfakes heeft geleid.
Ashley St. Clair, moeder van een van Musks kinderen, werd ook slachtoffer toen Grok haar kinderfotos manipuleerde. "Mensen hebben foto's van mij gebruikt als kind om me uit te kleden," vertelde ze The Guardian. X haalde de beelden pas offline na vragen van journalisten.
Het grote plaatje:
Musk gaat veel verder dan concurrenten OpenAI en Google, die strengere beperkingen hanteren. Hoewel X belooft op te treden tegen illegale content, blijft onduidelijk tegen hoeveel gebruikers daadwerkelijk actie is ondernomen.
