In het kort:

De zorgen over misleidend en schadelijk gedrag van AI-systemen leiden tot de ontwikkeling van een nieuw type AI dat is gebaseerd op wetenschappelijk denken.

• Bengio's nieuwe organisatie LawZero ontwikkelt 'Scientist AI', een model dat werkt als een objectieve wetenschapper
• Het model moet anders functioneren dan huidige AI's die mensen imiteren en mogelijk schadelijk gedrag vertonen
• De focus ligt op begrip en voorspelling in plaats van menselijke interactie

Het grote plaatje:

De nieuwe aanpak moet een fundamenteel veiliger AI-systeem opleveren dat ethisch verantwoord opereert.

• Het model wordt getraind om verschijnselen te bestuderen en te begrijpen, vergelijkbaar met hoe een psycholoog een patiënt analyseert
• Bengio vergelijkt het met een wetenschapper die sociopathisch gedrag kan bestuderen zonder het zelf te vertonen

De onderste regel:

Als medewinnaar van de Turing Award en een van Time's meest invloedrijke mensen van 2024, heeft Bengio's visie op veilige AI-ontwikkeling significant gewicht in de tech-wereld.