In het kort:
De Autoriteit Persoonsgegevens luidt de noodklok over het gebrek aan toezicht op AI-systemen in Nederland.
- Voorzitter Aleid Wolfsen noemt deepfakes, AI-fraude en psychische schade door chatbots als concrete risico's die grondrechten bedreigen.
- Het kabinet moet snel een speciale AI-toezichthouder aanstellen en budget vrijmaken voor effectief toezicht.
- "Vijf jaar na het toeslagenschandaal zijn de lessen duidelijk. Wie een nieuw schandaal wil voorkomen, moet nu handelen", aldus Wolfsen.
Het grote plaatje:
Nederland loopt achter met het implementeren van bestaande Europese AI-wetgeving, terwijl de risico's zich al manifesteren.
- Reclasseringsorganisaties gebruikten algoritmes die foute adviezen gaven over recidiverisico's van verdachten.
- Bij werving en selectie kan AI leiden tot discriminatie zonder dat mensen weten waarom ze worden afgewezen of zich kunnen verdedigen.
- Wolfsen trekt een parallel met medicijnen en auto's: "Die moeten worden getest. Die moeten veilig zijn. Anders kan het leiden tot gevaarlijke situaties."
Wat volgt:
De Europese wetgeving vereist dat makers van krachtige AI-systemen hun modellen testen op nauwkeurigheid en risico's. Nederland moet deze regels nu omzetten in concrete voorwaarden voor het op de markt brengen en gebruiken van AI-systemen.
