In het kort:
Het ongecontroleerde gebruik van AI door werknemers creëert ernstige privacyrisico's voor organisaties en burgers.
- Bij gemeente Eindhoven uploadden medewerkers in één maand meer dan duizend documenten met persoonsgegevens naar externe AI-tools, waaronder BSN-nummers, Wmo-gegevens en gegevens over verslavingsgevoeligheid.
- Ook bij Amazon lekte bedrijfsinformatie uit toen interne documentatie teruggevonden werd in ChatGPT.
- Dit fenomeen wordt 'Shadow AI' genoemd: AI-gebruik buiten het zicht van de werkgever.
Het grote plaatje:
Data die in AI-modellen wordt gestopt, kan worden gebruikt om het model te trainen en zo publiek toegankelijk worden.
- "De grootste risico's zitten in medewerkers die willen werken met AI, maar niet goed weten hoe ze dat veilig moeten doen", zegt Jan van der Put, ethisch hacker en directeur van een cybersecuritybedrijf.
- Gemeente Eindhoven blokkeerde alle openbare AI-modellen en verzocht OpenAI de gegevens te verwijderen, maar kreeg geen bevestiging of dat is gebeurd.
Wat volgt:
Experts adviseren organisaties om AI-gebruik niet te verbieden, maar juist te faciliteren en monitoren met speciale software die werknemers waarschuwt bij het invoeren van vertrouwelijke data.
