In het kort:

Een studie in Nature Human Behavior onthult hoe AI-systemen beter presteren in debatten wanneer ze beschikking hebben over persoonlijke informatie van hun gesprekspartners.

• Zonder persoonlijke data presteerden mensen en AI gelijkwaardig in debatten
• Met toegang tot informatie over de tegenstander won AI 64% van de discussies
• Het onderzoek omvatte 600 deelnemers, waarvan de helft debatteerde met ChatGPT-4

Het grote plaatje:

De resultaten tonen aan hoe AI effectief kan worden ingezet voor gerichte beïnvloeding van online opinies. Deelnemers debatteerden over onderwerpen als schooluniformen en fossiele brandstoffen, waarbij AI haar argumenten nauwkeurig afstemde op het profiel van de tegenstander.

De andere kant:

Experts waarschuwen voor de gevaren van deze ontwikkeling. "Taalmodellen maken geen onderscheid tussen feiten en fictie," stelt Oxford-professor Sandra Wachter. De mogelijkheid om persoonlijke data te gebruiken voor gerichte beïnvloeding roept zorgen op over de verspreiding van desinformatie en manipulatie van online discussies.