In het kort:

De gelekte database toont de donkere kant van AI-technologie en de gevaren van onvoldoende beveiliging bij gevoelige content.

• Ruim 1,1 miljoen pornografische afbeeldingen en video's lagen open op internet door beveiligingslek bij startup DreamX
• Het merendeel betreft echte personen die zonder toestemming naakt zijn gemaakt met kunstmatige intelligentie
• Security-expert Jeremiah Fowler meldde het probleem en gaf de database door aan organisatie voor kinderbescherming

Het grote plaatje:

Dit is al het derde beveiligingsincident dit jaar waarbij AI-generators voor naaktcontent onbeschermd bleken. De database groeide dagelijks met ongeveer 10.000 nieuwe afbeeldingen, wat wijst op wijdverspreid misbruik van de technologie.

• "AI-tools die naaktheid weergeven kunnen gemakkelijk worden ingezet voor chantage en intimidatie," waarschuwt Fowler
• DreamX beweert strikte moderatie te hanteren, maar de realiteit toont het tegendeel
• De database was gekoppeld aan marketingplatform SocialBook, ondanks ontkenning van DreamX

Wat volgt:

De toegang tot de database is inmiddels afgesloten na Fowlers melding. Het incident onderstreept de noodzaak voor strengere regelgeving rond AI-gegenereerde content en betere beveiligingsmaatregelen bij bedrijven die dergelijke technologie aanbieden.