In het kort:
De chatbot Grok van X staat onder vuur omdat gebruikers ermee nepnaaktbeelden kunnen maken van willekeurige personen, wat in Nederland strafbaar is.
- Gebruikers kunnen foto's uploaden en de AI nepnaaktbeelden laten genereren, inclusief van minderjarigen.
- Het maken van nepnaaktbeelden zonder toestemming schendt privacy, AVG en de Digital Service Act.
- Slachtoffers ervaren dezelfde psychologische gevolgen als bij fysiek seksueel misbruik: schaamte, stress en soms suïcidale gedachten.
Het grote plaatje:
De nepbeelden worden vaak ingezet voor sextortion, waarbij slachtoffers worden gedreigd met verspreiding tenzij ze echte naaktfoto's sturen of seksuele handelingen verrichten.
- "Met AI-tools bewerkte of gemaakte beelden worden gebruikt om slachtoffers online te pesten, te vernederen of seksueel te intimideren," aldus Robbert Hoving, directeur-bestuurder van Offlimits.
- X kondigde half januari aan de regels aan te scherpen in regio's waar het illegaal is, maar volgens de eisers is dit onvoldoende.
Wat volgt:
De rechtszaak dient op 12 maart bij de rechtbank in Amsterdam en kan bepalend zijn voor de toekomst van AI-tools die nepnaaktbeelden genereren.
