In het kort:
De AI-sector dreigt de controle te verliezen over de snelheid waarmee kunstmatige intelligentie zich ontwikkelt, waarschuwt Anthropic in een nieuw rapport.
- Medeoprichter Jack Clark vergelijkt de situatie met een auto waarbij alleen het gaspedaal werkt, terwijl een rempedaal er nog niet op zit en remmen op de motor ook zijn limieten kent.
- AI wordt steeds vaker ingezet om nóg snellere AI te ontwikkelen, wat leidt tot een gevaarlijk sneeuwbaleffect.
- Een eenzijdige pauze werkt niet: als één bedrijf stopt, racen concurrenten gewoon door.
Het grote plaatje:
Anthropic vreest dat AI-systemen zichzelf slimmer gaan maken zonder dat er nog veel mensen aan te pas komen. Bij elke nieuwe ontwikkelingsstap speelt de mens een steeds kleinere rol, aldus het bedrijf. Zover is het nog niet en het scenario is niet onvermijdelijk, maar de waarschuwingssignalen zijn er wel. Een effectieve rem vereist internationale samenwerking tussen AI-bedrijven en landen, met name de VS en China.
Wat volgt:
Anthropic wil de komende maanden AI-bedrijven, overheden en wetenschappers bijeenbrengen om te onderzoeken hoe zo'n pauze praktisch vorm kan krijgen. Of dit initiatief slaagt, blijft vooralsnog onzeker.
