A burjánzó erőszaknak csak a mesterséges intelligencia vethet véget

Posted by
Rejtő Jenő halhatatlan hőse, Fülig Jimmy mondta, miután feltörölte a padlót egy maláj erőművésszel, aki arra panaszkodott, hogy bal oldalról várta az ütést, de jobbról kapta, hogy „nem lehet minden pofon mellé egy forgalmi rendőrt állítani”. Rejtő regényeivel szemben a május 14-én, a New York állambeli Buffalóban történt, 10 ember halálával végződő lövöldözés vagy a tíz nappal későbbi, egy texasi iskolában 21 halálos áldozatot követelő vérengzés korántsem vicc témája, mégis joggal vetődhet fel bárkiben, hogy ha más megoldás nincs, állítsunk mindenki mellé egy védelmező „őrangyalt”. Az Egyesült Államokban csak ebben az évben már több mint 250 tömeges lövöldözés történt, melyek összesen 300-nál is több halálesettel és több mint 1100 sérüléssel jártak. Mintha a régebben ritka kivételnek számító erőszak az új normalitás részévé válna.
Azt, hogy az ember nem nélkülözheti a szabályok betartására kényszerítő büntető intézményeket, tudományos kísérletek és antropológiai vizsgálatok is bizonyítják. A történelem során fokozatosan formálódtak ki azok eszközök, amelyekkel a közösségek fegyelmezetlen tagjait rávették a szabályok követésére. Ahogyan az emberi csoportok növekedtek és sokrétűbbé váltak, újabb és újabb büntetési rezsimek jöttek létre.A növekvő közösség előnyeinek megtapasztalásával világossá vált, hogy meg kell akadályozni a szabályszegést. Az ember, ha rákényszerül, találékony: kigondolta a moralizáló és büntető isteneket abban a reményben, hogy ez majd észre téríti a potyautasokat. A közösségek azt tanították, hogy a szabályszegőket még életükben, de a túlvilágon egészen biztosan eléri az istenek büntetése. 

Miután látták, hogy a szabályszegőket már kevésbé riasztja vissza az istenek büntetése, a társadalom tagjai nem láttak más megoldást, mint hogy beletörődjenek abba, hogy a hatalmi pozíciók birtoklói gyakorolják az erőszakot. Először csak kiszervezték a büntetést: embereket bíztak meg és fizettek azért, hogy kapják el a szabályszegőket. Ám, amint egyre több területen vált szükségessé a megfigyelés, az ítélkezés és a büntetés, az egészet egybefüggő rendszerré szervezték: megalkották az államot, mint az intézményes erőszak legitim eszközét, amit aztán a közösség tagjainak adójából tartották fenn.. A valóságban a büntetési rezsimek változásait mindig értetlenség, ellenérzés, és ezekből fakadóan erőszak kísérte. A megszokott intézmények szemszögéből az új maga az őrültség, az új szemszögéből viszont a régi tűnik barbárnak, amit – mint például az önbíráskodást – tiltanak. Mivel azonban az új büntető rezsimeket alapvetően a gazdagok és hatalmasok kezdik működtetni, a kényszerek és az erőszak döntően a szegényeket sújtja. Azt, hogy az állam részrehajló a gazdagok javára, nemcsak a forradalmárok vették észre, de a filozófusok, a tudósok és a művészek is szóvá tették.
A demokrácia fejlődésével egyre több polgár szólhatott bele a szabályok kialakításába, és az állam működése fokozatosan mind átláthatóbbá, hatékonyabbá és humánusabbá vált. A 20. század második felében a büntető intézmények demokratikus ellenőrzésének hatására a társadalmi együttélés zavarai látványosan visszaszorultak. Míg a történelem kezdetén az életet állandó erőszak és életveszély jellemezte, egy középkori város már biztonságosnak és nyugodtnak volt tekinthető. Ám a „konszolidált” középkori állapotok még fényes nappal is jóval erőszakosabbak voltak, mint ma a chicagói alvilág által uralt negyedek éjszakái. A 20. század utolsó harmadában az állam alapvetően kiszámítható és biztonságos körülményeket teremtett a polgárainak, a 21. századba átlépve azonban a világ alapvetően felbolydult.  A kölcsönös függés az emberiséget elválaszthatatlanul egybekapcsolta, a globalizáció egymásba ékelte a társadalmakat, a migráció pedig összekeverte a korábban viszonylag homogén közösségeket. A hatások megállíthatatlanul terjednek a világban, és egyre gyakrabban idéznek elő válságokat. Az egykor világos eligazítást kínáló társadalmi identitás megrendült, a közösségek közötti ellentétek fokozódtak. A társadalmakon belül szélesedett a generációk közötti kulturális szakadék, a fiatalabbak a korábbiaknál nárcisztikusabbak és individualistábbak lettek. Az egyén hajlamos lett a „mi” szempontjai helyet kizárólag az „én” érdekét követni. A közmegegyezés által jóváhagyott és mindenkitől elvárt viselkedési szabályokat egyre többen és gyakrabban rúgják fel, az együttélés zavarai felerősödtek. Az internet terjedésével hiába nőtt az emberek kapcsolati hálója, egyre magányosabbak lettek, és emiatt könnyen válnak áldozatává az ezt kihasználó, erőszakos csoportok manipulációinak. A társadalmak növekvő mértékben polarizálódnak és a „kollektív depresszió” különös jeleit mutatják, miközben a perifériára szorult csoportokon úrrá lett a „kollektív őrület”.Mivel nem állíthatunk a Föld minden polgára mellé egy „viselkedési forgalmi” rendőrt, úgy tűnik, csak egy lehetőség maradt: a szabályszegő viselkedését még azelőtt felismerni, mielőtt ténylegesen bekövetkezne valami őrültség.

Ezt az ötlet nem légből kapott, hanem a jövő veszélyeivel gyakran szembesítő sci-fi író, Philip K. Dick gondolata. Az 1956-ban megjelent novellája, a Különvélemény éppen azzal az ötlettel játszott el, hogy 2054-ben a rendőrség rendelkezik egy olyan részleggel (PreCrime egység) amelynek munkája révén a bűnözők még azelőtt megállíthatók, hogy a gyilkosságot ténylegesen elkövették volna.

A mesterséges intelligencia megoldást jelenthet, de a vesztünket is okozhatja. Ma a szemünk előtt formálódik ki egy olyan, internetalapú, egyszerre globális és lokális rendszer, amely képes adatot gyűjteni bárkiről és bármiről, majd azok rögzítésével, archiválásával és elemzésével személyiségi profilokat tud alkotni. A rendszer képes szinte minden információt ellenőrizni, egy ember múltjának minden mozzanatát (társadalmi kapcsolatait, ígéreteit, botlásait és vétségeit) feltárni. Ennek alapján már ma is, de a jövőben, a mesterséges intelligenciára alapozva még inkább előre jelezhetővé teszi az emberek viselkedését. Abból, hogy valaki mire keres rá az interneten, mit vásárol, mit olvas, kikkel lép kapcsolatba, mit kommentál, következtetni lehet arra, hogy vajon éppen a nyaralását szervezi, a lakását rendezi be, szülésre készül, esetlen éppen terrorakciót tervez. Mindezt valós időben, könnyen hozzáférhetően és lényegében ingyen meg tudja tenni.

Ha ehhez a globális megfigyelési rendszerhez hozzákapcsolunk egy, a token economy elvét alkalmazó (a szabálykövetés magas vagy alacsony pontjaihoz növekvő vagy csökkenő életlehetőségeket kapcsoló) rendszert, hatékony viselkedés-befolyásolási intézményt kapunk. A rendszernek sok elemét régóta használják a bankok a hitel elbírálásánál (FICO rendszer), a vállalatok beszállítóik tesztelésénél vagy éppen munkatársak kiválasztásánál, és persze a kínai Social Credit System működtetésénél. Valamennyi a régi korok kis közösségeinek, az úgynevezett image scoring módszerét alkalmazó reputációmérést működteti. Ám mostantól a „falu rosszát” már a teljes globális világ kutyái megugatják. Megvan tehát a megoldás, de ne örüljünk túl korán. Megtanulhattuk: az életet segítő zseniális ötletek többnyire az ember érdekeivel ellentétesen is felhasználhatók. Az egyik probléma a tőke és a politika összefonódó és kevéssé átlátható hatalmából fakad. Erre utalnak az elmúlt időszak súlyos krízisei: a fegyverlobbi hatására könnyebben kivitelezhető lövöldözések, a fájdalomcsillapító-gyártók generálta opioidválság, vagy épp a gyógyulást akadályozó gyógyszerszabadalmi szabályozás egyaránt a monopóliumok hatalmát mutatja. De ugyanez mutatkozik meg abban, ahogyan a közösségimédia-vállalatok – politikai kapcsolataikat is kihasználva – a rendelkezésükre álló adatokat a polgárok megfigyelésére és manipulációjára használják fel. Még ennél is nagyobb veszélyt jelent, hogy a diktatórikus politikai rendszerek a polgárok ellenőrzésének kijátszásával és megakadályozásával kiépítik a megfigyelés és a befolyásolás totális rendszereit. Kína ma már egy ilyen, szinte ellenállhatatlan befolyású rendszert működtet. Ennek ellenőrzése, úgy tűnik, csak a mesterséges intelligencia alkalmazásával lehetséges.

Ugyanakkor a mesterséges intelligencia szisztematikus beépülése a társadalmi rendszerek kormányzásába felvet egy további, talán még riasztóbb és még nehezebben átlátható veszélyt: könnyedén kicsúszhat a döntéshozatal és az irányítás az ember kezéből. Miközben tehát a megfigyelési rendszerek alkalmazása elkerülhetetlennek tűnik, az intelligens gépek hatalmának kiterjedése aggasztó. Nem is a szakértők tudásának korlátozottságától kell tartani, hiszen ők többnyire tisztában vannak korlátjaikkal – az igazi veszélyt a rendszert működtető politikusok és az őket saját céljaikra felhasználó üzleti hatalmak viselkedése jelenti szélsőségesen polarizált világunkban.

A szerző okleveles fizikus, a filozófiai tudományok kandidátusa, a Budapesti Gazdasági Egyetem tanára. További írásai a Qubiten itt olvashatók.

Képek: Tom Cruise a Különvélemény című 2002-es filmben/Forrás: Intercom