Logo van bright

-Technologie

Chinese doorbraak maakt AI-training miljoen keer energiezuiniger

Positief
Copyright bright
Foto: Kort News

Onderzoekers hebben een methode ontwikkeld om AI-modellen te trainen op speciale geheugenchips, met een energieverbruik dat tot een miljoen keer lager ligt dan traditionele grafische kaarten.

In het kort:

De nieuwe trainingsmethode EaPU omarmt de natuurlijke onvoorspelbaarheid van memristors in plaats van deze te bestrijden, wat tot dramatische energiebesparingen leidt.

  • Memristors kunnen data tegelijkertijd opslaan en verwerken, waardoor energie-intensieve datatransport tussen processor en geheugen wegvalt
  • Het systeem werkt met kansen die aansluiten bij de natuurlijke ruis van de chips, in plaats van exacte aanpassingen na te streven
  • Tests toonden een nauwkeurigheidsverbetering van meer dan 60 procent ten opzichte van standaardmethoden voor analoge hardware

Het grote plaatje:

Het trainen van AI-modellen zoals ChatGPT vergt momenteel enorme hoeveelheden energie door de ontelbare berekeningen op grafische kaarten. Memristors bieden een veelbelovend alternatief omdat ze berekeningen uitvoeren op de plek waar data zich bevindt, maar hun analoge aard maakt ze gevoelig voor ruis en kleine afwijkingen.

Wat volgt:

De energiewinst is gebaseerd op metingen van experimentele hardware en simulaties van toekomstige chiptechnologie. Ook binnen het memristordomein zelf verbruikt EaPU tientallen keren minder energie dan eerdere trainingsmethoden, vooral omdat veel minder parameters hoeven te worden aangepast.

Bronnen

De wereld van AI in één oogopslag

VandaagAI.nl brengt je het belangrijkste AI nieuws in het formaat dat je van ons gewend bent.

VandaagAI
Bezoek de site

Bekijk ook

Het belangrijkste nieuws gratis in je mailbox

Elke week een korte e-mail met de meest relevante verhalen.