Brüsszel új akcióterve a mesterséges intelligencia kockázataitól védi az ipart

A digitális hadviselés korszaka szintet léphet, hiszen a legmodernebb AI-technológiák egyszerre kínálnak védelmi pajzsot és adnak korábban elképzelhetetlen sebességű támadóeszközt a hackerek kezébe. Az Európai Bizottság felismerte, hogy a technológia alapjaiban írja át a kiberbiztonság játékszabályait: a fejlett rendszerekkel a támadók automatizálhatják a szoftveres sebezhetőségek felkutatását, és minden eddiginél gyorsabb offenzívákat indíthatnak ipari üzemek, infrastruktúrák, pénzintézetek, sőt akár közművek ellen is.

Válaszul Brüsszel olyan akciótervet terjesztett elő, amely a tagállamok, az ipari szereplők és az uniós szervezetek összefogásával próbálja betömni a réseket a pajzson.

Az uniós stratégia központi eleme a szigorú előzetes kockázatkezelés. Az AI-szabályozás értelmében a fejlett modelleket már piaci bevezetésük előtt alapos vizsgálatnak vetik alá, különös tekintettel a visszásságokra és a biztonsági résekre. Brüsszel ezen felül egy önálló értékelési kapacitás felállítására hirdetett pályázatot. E szakmai egység várhatóan augusztusban kezdi meg az érdemi munkáját, hogy az AI-iroda felügyelete alatt független, globális rálátást biztosítson a mesterséges intelligencia képességeire és veszélyeire.

A stratégia egyik eleme, hogy az Európai Unió Kiberbiztonsági Ügynöksége kidolgoz egy tervezetet, amely strukturált kereteket ad az állami és magánszervezeteknek a legmodernebb technológiák eléréséhez. A cél az, hogy a kiberbiztonsági szakemberek legális keretek között, szimulált környezetekben tesztelhessék az AI képességeit, mielőtt a kritikus ágazatokban, például az egészségügyben vagy az energiaszektorban alkalmaznák őket.

A válaszlépések nem merülnek ki az elméleti szabályozásban.

A Bizottság szerint a szervezeteknek azonnal el kell kezdeniük a beépített biztonság elveinek alkalmazását és a kiberhigiéniai gyakorlatok fokozását. Ehhez javasolják a már elérhető, akár nyílt forráskódú megoldások használatát is, mivel ezekkel gyorsabban azonosíthatók a sérülékenységek.

Az újonnan bemutatott akcióterv nem vákuumban létezik, hanem egy kiterjedt jogi hálóra támaszkodik. A szabályozási folyamat egyik legfontosabb mérföldköve az AI Act, amelynek bizonyos rendelkezéseit már tavaly augusztus óta kötelező alkalmazni. Ez a keretrendszer már rögzíti a modellek kockázatainak értékelését, az általános célú mesterséges intelligenciára vonatkozó magatartási kódex pedig tovább pontosítja a technológiai óriásokkal szembeni elvárásokat. Mindezt kiegészítik a jövő évi határidőkkel és későbbi hatálybalépésekkel rendelkező egyéb jogszabályok.

Gábor János, NEW technology