Energiazabáló ügynökök – Az AI új generációja romba döntheti a villamosenergia-hálózatot

Amikor a felhasználó ma kérdést tesz fel egy ismert nyelvi modellnek, az eredmény általában néhány másodpercen belül, minimális villamosenergia-befektetéssel megérkezik. A technológia következő lépcsőfokát jelentő, önállóan tervezni és cselekedni képes AI-ügynökök azonban olyan mennyiségű erőforrást emésztenek fel, amelyre a jelenlegi infrastruktúra biztosan nincs felkészülve.

Egy friss kutatás szerint ezek a rendszerek több mint százszor annyi villamosenergia-igénnyel rendelkeznek, mint az elődeik, ami komoly infrastrukturális és fenntarthatósági kérdéseket vet fel az iparág gyors terjedésével kapcsolatban.

A Koreai Fejlett Tudományos és Technológiai Intézet (KAIST) munkatársai elvégezték az első olyan kvantitatív elemzést, amely részletesen méri az AI-ügynökök számítási költségeit és energiafogyasztását. Az eredmények rávilágítottak, hogy egy 70 milliárd paraméteres nagy nyelvi modellt használó ügynök lekérdezésenként átlagosan 348,41 wattórát fogyaszt.

Ez a mutató 136,5-szer magasabb, mint amit egy egyszerű kérdés-válasz feladatot végrehajtó, hagyományos generatív rendszer igényel.

A kutatás rávilágított, hogy a drasztikus növekedés az ágensek működési mechanizmusából fakad. Ezek a rendszerek ugyanis a többlépcsős feladatok során ismételten meghívják a háttérben futó modelleket, ami nemcsak az energiaigényt, hanem a válaszidőt is az egekbe emeli. Az elemzés szerint a válaszidő akár a 153,7-szeresére is nőhet. Miközben a felhasználó vár, a méregdrága grafikus processzorok a teljes végrehajtási idő több mint felében, 54,5 százalékában tétlenül állnak. Ennek oka, hogy a hardver a külső eszközök, például webes keresők vagy kódfuttató platformok visszajelzéseire vár – fejtegetik a KAIST kutatói az IEEE Xplore-ban közölt tanulmányban.

A szakemberek egy jövőbeli forgatókönyvet is felvázoltak, hogy szemléltessék a technológia méretgazdaságossági korlátait.

Amennyiben az AI-ügynökök népszerűsége eléri a Google jelenlegi forgalmát, és naponta 13,7 milliárd ilyen típusú lekérdezés születik, az adatközpontok teljesítményigénye 198,9 gigawattra ugrik. Ez a mennyiség megközelítőleg az Egyesült Államok teljes átlagos energiafogyasztásának felét jelentené, és a terhelés messze meghaladja a jelenleg fejlesztés alatt álló legmodernebb adatközpontok kapacitását is.

A helyzet kezelése érdekében a szakértők szerint alapvető szemléletváltásra van szükség a technológiai szektorban. A fejlesztéseknek már nem csupán a szoftveres képességekre, hanem az erőforrások optimalizálására is koncentrálniuk kell.

Gábor János, NEW technology