In het kort:

Amodei stelt dat AI enorme kansen biedt, maar waarschuwt dat de huidige ontwikkelsnelheid grote risico's met zich meebrengt.

• Hij noemt controleverlies over AI-systemen, misbruik voor cyberaanvallen en bioterrorisme, en economische ontwrichting als concrete gevaren.
• Amodei pleit voor een raamwerk in drie stappen om de ontwikkeling te vertragen en meer tijd te geven voor het aanpakken van risico's.
• Sam Altman (OpenAI) en Elon Musk reageerden positief op zijn oproep.

Het grote plaatje:

Amodei ziet zowel een utopisch als een gevaarlijk toekomstbeeld voor AI.

Volgens hem kan de technologie in vijf tot tien jaar ziektes genezen en economische groei versnellen, maar alleen als dit "zorgvuldig" gebeurt. Hij waarschuwt expliciet voor een "race to the bottom" die door commerciële belangen wordt aangejaagd en de risico's alleen maar groter maakt.

Wat volgt:

Amodei wil dat AI-bedrijven onafhankelijke reviewers toegang geven tot al hun tools en onderling afspraken maken over veiligheidsstandaarden.

Hij benadrukt daarnaast dat democratische overheden een rol moeten spelen bij het juridisch vastleggen en handhaven van deze afspraken, zodat bedrijven zich er ook daadwerkelijk aan houden.