A mesterséges intelligencia jövőjét nemcsak az adatok és az algoritmusok határozzák meg, hanem az energia is. Három éve az Extropic nevű kutatócég arra fogadott, hogy az energiafelhasználás lesz az MI-fejlesztések legnagyobb korlátja. Most úgy tűnik, igazuk lett és talán meg is találták a megoldást.
Több mesterséges intelligencia, kevesebb energia
A jelenlegi MI-rendszerek, különösen a generatív modellek, hatalmas mennyiségű energiát igényelnek. Egyetlen nagy nyelvi modell betanítása több gigawattórát emészt fel és már most több adatközpont küzd az energiaellátással.
Az Extropic célja, hogy ezt a problémát ne az energiatermelés, hanem az energiahatékonyság oldaláról oldja meg. A vállalat szerint a kulcs az új hardver- és algoritmustervezésben rejlik, olyan számítógépekben, amelyek nem a megszokott módon dolgoznak.
A termodinamikus áttörés
A cég most bemutatta a világ első termodinamikus számítógépét, amely a hagyományos CPU- és GPU-architektúrák helyett valószínűségi számításon alapul.
Az új hardver, a Thermodynamic Sampling Unit (TSU), nem „számol”, hanem mintákat vesz valószínűségi eloszlásokból, ez pedig az MI-modellek alapvető működéséhez sokkal közelebb áll. Ezzel együtt az Extropic kifejlesztett egy új generatív MI-algoritmust is, a Denoising Thermodynamic Modelt (DTM), amely a TSU-val együtt nagyságrendekkel kevesebb energiát használ, mint a GPU-kon futó jelenlegi modellek. A vállalat állítása szerint a TSU és a DTM kombinációja akár tízezerszer hatékonyabb lehet, mint a mai megoldások.
Miért kellett újraértelmezni a számítástechnikát?
A modern GPU-k fantasztikusan gyorsak, de a legtöbb energiát nem a számítás, hanem az adatok mozgatása emészti fel. A bitek töltése és vezetése a chipek között olyan sok energiát igényel, hogy a hatékonyság már évek óta alig nő.
A TSU ezzel szemben lokálisan kommunikáló áramkörökre épül, ahol az adatok fizikailag közeli egységek között mozognak. Ez az elrendezés minimálisra csökkenti a kommunikációs energiaigényt. A technológia alapját egy új elektronikai egység, az úgynevezett pbit (probabilistic bit) adja. Ez egy olyan tranzisztoralapú elem, amely véletlenszerűen ingadozik két állapot között (0 és 1). A pbit-ek hálózata képes komplex valószínűségi modelleket mintavételezni, és így utánozni az MI-működés természetes bizonytalanságát.
A szoftver is új: itt a thrml könyvtár
Az Extropic nemcsak a hardvert, hanem a fejlesztői ökoszisztémát is megteremtette. A thrml nevű Python-könyvtár segítségével bárki szimulálhatja a TSU működését, és új termodinamikus gépi tanulási algoritmusokat fejleszthet. A cég nyílt forráskódúvá tette a könyvtárat és a szimulációkat, így kutatók és fejlesztők világszerte kipróbálhatják, hogyan működne egy „energiatakarékos MI” a gyakorlatban.
A cél: lebontani az MI-energiafalat
Az Extropic víziója egy olyan jövő, ahol az MI nem korlátozott erőforrás, hanem mindenki számára elérhető segítőtárs. A vállalat szerint a következő évtizedben az MI energiaigénye meghaladhatja az emberiség teljes energiaprodukcióját, ha nem történik alapvető változás.
A TSU ebben a jövőben kulcsszerepet játszhat:
- drasztikusan csökkenti az MI-tréning és inferencia energiaigényét,
- könnyen gyártható hagyományos tranzisztortechnológiával,
- és integrálható más chipekkel, akár GPU-kkal is.
Kutatástól a gyártásig
Az Extropic már megépítette a működő prototípust, az XTR-0 fejlesztőplatformot, amelyet korai partnereik már tesztelnek. Most a cél a nagyüzemi gyártás előkészítése és a hardverek méretezése.
A vállalat hardvermérnököket, integrált áramkörtervezőket és valószínűségi gépi tanulásban jártas szakembereket keres, hogy a laboratóriumi eredményekből ipari méretű rendszerek szülessenek. A TSU-kat a jövőben nemcsak MI-modellekhez, hanem biológiai és kémiai szimulációkhoz is használni szeretnék, minden olyan területen, ahol a valószínűségi modellezés kulcsszerepet játszik.
