In het kort:
X reageert op internationale druk door beperkingen in te voeren op Grok's mogelijkheid om seksuele deepfakes te maken van echte mensen.
- De nieuwe regels gelden voor regio's waar het illegaal is, inclusief Nederland waar nepnaaktbeelden strafbaar zijn
- Tests van de NOS toonden aan dat het nog steeds mogelijk was om dergelijke afbeeldingen te genereren na de aankondiging
- Talloze vrouwen en minderjarigen werden slachtoffer van seksuele manipulatie via de AI-tool
Het grote plaatje:
Verschillende landen nemen drastische maatregelen tegen Grok vanwege de stroom aan deepfakes. Indonesië blokkeerde als eerste land de toegang tot de AI-tool, terwijl de Filipijnen werken aan een volledig verbod. De Britse mediawaakhond Ofcom zet het onderzoek voort ondanks X's aanscherping.
Wat volgt:
Demissionair justitieminister Van Oosten noemt de praktijk "buitengewoon verwerpelijk" en onderzoekt de mogelijkheid van een verbod op dergelijke AI-tools. Anti-misbruikorganisatie Offlimits pleit voor een duidelijk verbod, zoals in Australië en het Verenigd Koninkrijk. Van Oosten benadrukt dat een zorgvuldige afweging met alle betrokken partijen noodzakelijk is.
