Miért kell belelátnunk az AI fekete dobozába?

A mesterséges intelligencia fekete dobozai a felhasználó számára láthatatlan belső működésű mesterségesintelligencia-rendszerekre utalnak – írja a Scientific American. A gépi tanulás a mesterséges intelligencia egyik alcsoportja. A gépi tanulásnak három összetevője van: egy algoritmus vagy algoritmusok halmaza, képzési adatok és egy modell. Az algoritmus eljárások halmaza. A gépi tanulásban egy algoritmus megtanulja a minták azonosítását, miután egy nagyszámú példakészleten – képzési adatokon – betanították. Miután az algoritmus megjegyezte az adatokat, az eredmény egy olyan modell lesz, ami képes további információk elsajátítására. Az emberek ezt a modellt használják.

A gépi tanulási rendszer három összetevője közül bármelyik lehet rejtett egy fekete dobozban. Gyakran a szellemi tulajdon védelmében teszik a modell fejlesztői fekete dobozba az AI egyes elemeit. A másik megközelítés, amelyet a szoftverfejlesztők alkalmaznak, az, hogy elrejtik a modell betanításához használt adatokat – más szóval, a betanítási adatokat egy fekete dobozba helyezik.

A fekete doboz ellentétét üvegdoboznak nevezik. Az AI glass box olyan rendszer, amelynek algoritmusai, képzési adatai és modellje bárki számára hozzáférhetőek. Ez azért van, mert a kutatók nem értik teljesen, hogyan működnek a gépi tanuló algoritmusok, különösen a mélytanuló fajtái. A megmagyarázható mesterséges intelligencia területe olyan rendszerek kifejlesztésén dolgozik, amelyek bár nem feltétlenül üvegdobozok, de az emberek számára jobban érthetőek.

A fekete dobozok a szoftverrendszerek biztonságára is fontos hatással vannak. A számítástechnika területén évekig úgy gondolták, hogy a szoftverek fekete dobozban tartása megakadályozza, hogy a hackerek megvizsgálják azokat, és ezért biztonságosak lesznek. Ez a feltételezés nagyrészt tévesnek bizonyult, mivel a hackerek képesek a szoftverek visszafejtésére – azaz a szoftver működésének pontos megfigyelésével egy másolatot készíteni –, és felfedezni a kihasználható sebezhetőségeket.

Ha a szoftver üvegdobozban van, akkor a szoftvertesztelők és a jó szándékú hackerek megvizsgálhatják azt, és tájékoztathatják az alkotókat a gyenge pontokról, ezáltal minimalizálva a kibertámadásokat.

Némethi Botond, NEW technology magazin