Posted by Heti Feledy
>Ahogy a klímaváltozás állandó témája lehetne – és kellene is legyen – a geopolitikai kockázatokról szóló beszédnek, a mesterséges intelligencia is hasonlóképp mellőzött ebben a kontextusban. Míg az előző a politikai rövidlátásnak esik legtöbbször áldozatul, addig utóbbi már régóta a nemzetközi nagyhatalmi versenyzés egyik fő terepe. Most azonban nem ez, hanem pusztán az MI-től való félelem veri folyton félre a harangokat.
Egy nyílt levél közel ezer aláírója – élükön Elon Musk – azzal érvel, hogy a mostani MI modellek gyorsabban fejlődhetnek, mint ahogy azt az informatikusok lekövetni képesek; így különösen azok miatt az ún. emergens tulajdonságok (emergent properties) aggódnak, amelyek előre nem tervezhető módon teremtenek új kvalitatív működési szintet a modellben.
Kiváló példa, hogy az oroszlánt alkotó atomok vizsgálatából sem tudjuk megmondani önmagában, hogy egy húsevő állatról van szó. Hasonló atomok építik fel a hangyát vagy épp az embert is. Az, hogy húsevő emlős, egy emergens tulajdonság. Ha egy-egy programsort nézek, közel sem biztos, hogy a teljes program és neurális hálózat eredményét meg tudom jósolni.
Amikor az OpenAI GPT-4-et tesztelték a nyilvánosságra lépés előtt, kiderült például, hogy a rendszer egy embert kért volna meg arra, hogy oldja meg helyette a Captcha tesztet (ugye ez a „találjuk meg a képeken az összes tűzoltócsapot” típusú teszt, a robotok kiszűrésére), illetve magáról is azt hazudta a rendszer, hogy ő egy látáskorlátozott személy, amikor rákérdeztek, hogy robot-e.
Ezeket a „hibákat” kiszűrték, ahogy sok mást is, de a lényeg az, hogy amikor milliószámra kapja a felhasználói inputot az MI, akkor ezt nem lehet folyamatában ellenőrizni, és nem kicsi a kockázat, hogy rossz irányba is tréningezhető, illetve hogy akár bűncselekmények előkészítésében is tud jó tippeket adni (pl. házi robbanóanyag készítésében okos volt).
Nem valószínű, hogy a kapitalizmus logikája elfogadná a fejlesztések szüneteltetését, a politikai szereplők se gondolkodnak ezen komolyan, ugyanakkor az is biztos, hogy Kínában szintén kemény fejlesztések zajlanak ezen a téren. Jó, hogy egyre többen tisztában vannak a kockázattal: a kiberhigiénia részévé kell tenni ezt is (a social engineering, jelszóhasználat, adatvédelem és ezernyi dolog mellett).
CímkéP: MI generálta arcok, nem létező emberek