In het kort:
Financiële bedrijven gebruiken AI steeds meer om apps en websites volledig af te stemmen op individuele gebruikers, wat zowel kansen als gevaren biedt.
- AI creëert een 'beïnvloedingsprofiel' dat precies weet hoe, wanneer en met welke toon consumenten het beste te beïnvloeden zijn voor financiële keuzes
- Pushberichten kunnen op emotionele momenten worden verstuurd, zoals meldingen over cryptomunten juist als je eerdere pieken hebt gemist
- Consumenten leveren zelf massaal data aan door gebruik van apps zoals ChatGPT
Het grote plaatje:
De AFM ziet een 'onzichtbare laag' ontstaan tussen gebruiker en financiële keuzes door geavanceerde AI-assistenten. Onderzoeker Annelot Wismans waarschuwt dat vergaande personalisatie iedere consument kwetsbaar kan maken, vooral omdat de risico's in de financiële sector groter zijn dan bij entertainment zoals Netflix.
Wat volgt:
De toezichthouder eist dat klanten expliciet toestemming moeten geven voor personalisering en deze ook kunnen uitschakelen. De AFM houdt gesprekken met aanbieders om positieve toepassingen te stimuleren, zoals waarschuwingen voor rood staan, terwijl commerciële belangen niet boven klantbelang mogen staan.
