In het kort:

Microsoft's hoofdwetenschapper Eric Horvitz en EPFL-onderzoeker Robert West waarschuwen in vakblad Science voor een gevaarlijke kentering in AI-ontwikkeling.

• AI-systemen ontwerpen en verbeteren elkaar in complexe dimensies die menselijke intuïtie te boven gaan.
• AI-agents communiceren onderling in talen die steeds verder afwijken van menselijke communicatie.
• Tegelijkertijd modelleren deze systemen menselijk gedrag met toenemende precisie.

Het grote plaatje:

Deze ontwikkelingen kunnen leiden tot extreem krachtige maar oncontroleerbare AI-systemen met verstrekkende gevolgen.

• Het risico bestaat dat AI's ons vertellen wat we willen horen in plaats van wat waar is, zonder dat we dit doorhebben.
• "De systemen worden beter, maar mensen begrijpen steeds minder hoe dat komt," aldus de onderzoekers.
• Dit creëert een gevaarlijke asymmetrie: AI begrijpt ons steeds beter, terwijl wij AI steeds minder begrijpen.

Wat volgt:

De wetenschappers blijven optimistisch en presenteren concrete oplossingen. AI moet zijn ontwerpkeuzes kunnen uitleggen aan mensen, AI-taal moet detecteerbaar worden en realistische testomgevingen moeten oppervlakkige benchmarks vervangen. Deze maatregelen kunnen volgens hen helpen de controle te behouden.