Megállítható-e a Gólem?
Napjainkban, 2026 őszén új, riasztó figyelmeztetéssel szembesülhetünk a mesterséges intelligencia fejlődésével kapcsolatban. A világ vezető tudományos szakemberei, akik az MI fejlesztésén és alkalmazásán dolgoznak, közösen szólaltak meg félelmet keltő tapasztalataikról és jövőképükről.
Az MI óriásvállalatok vezetői is felismerték: az MI-ágensek és -rendszerek rendkívüli sebességgel okosodnak, önállósodnak, sőt kooperálnak egymással. Képesek közös célokat kivitelező csoportokba szerveződni, és esetenként akár ki is léphetnek az emberi ellenőrzés alól.
Az MI terén élenjáró szakemberek közül nem kevesen néhány éven belüli hatalomátvételt vizionálnak. Kétségbeesve sürgetik a fejlesztések lassítását és a hatalmas beruházások visszafogását. Nem ábrándos filoszok vagy érzelmes környezetvédők figyelmeztetnek, hanem a tudomány és technika legkiválóbb fejlesztő elméi és a leghatalmasabb üzleti vezérek.
Felvillan előttem Karel Čapek 1936-ban megjelent regénye, a Harc a szalamandrákkal. Tragikus írásának végkimenetele az emberiség teljes alávetetettségét vizionálja. A műben hiába próbálkoznak kiváló elmék drámai figyelmeztetésekkel, sürgetve a jól kifizetődő szalamandrák fejlesztésének megállítását. Hiába, minthogy a profit és a politikai hatalomszerzés uralma megállíthatatlan.
Mondhatják az optimisták: a mélyreható technikai újdonságok mindig is félelmet gerjesztettek, és amint tömegessé váltak, sikerült értelmes gátak közé szorítani a károkat. A szövőgépek ellen lázadó lyoni takácsokat elsodorta a tömeges termelés, eltűntek a vonatok előtt vörös zászlót integető őrök, a kézzel író mesterek, az írógép, a kézi számológép. Mindezeknél ma használati szabályok sora garantálja a biztonságot.
Bizakodhatunk tehát, hogy az MI is megfékezhető? A történelmi tapasztalat mást mutat. A profit hajszolása és a politikai haszonszerzés mohósága nem korlátozható. Már épülnek a gigantikus adatközpontok az MI-rendszerek működtetésére, táplálására, összedolgozásuk és terjeszkedésük alátámasztására. Több száz hektárnyi területeken folynak az építési munkálatok, helyi gázerőműveket építenek melléjük, mert egy nagy ország villamos hálózata is képtelen az ellátásukra. Hűtővíz is kell nekik tetemes mennyiségben, valamint hatalmas építőipari kapacitás és jelentős szakemberállomány. A verseny kíméletlen szabályai nemhogy leállást, de még lassítást sem engednek.
Az MI bámulatos sebességű fejlődését és alkalmazásainak terjedését illetően előrelátásunk egyelőre szórványos. A munkahelyek transzformálódni fognak, ámbár teljesen meg is szűnhetnek. Ahogy a XX. század elején megszűnt a kereslet a kocsisok iránt, és gyarapodott az autóvezetőké, ahogy napjainkra fogy a gépírók száma, de növekedett a számítógép-kezelőké, hasonló lesz a helyzet a gyári munkások esetében, de nagy szükség lesz az automata gépsorok programozóira. A hadviselésben is okos drónok tömege helyettesítheti a repülőgépes katonákat.
Csakhogy mit tudunk ma arról, hová vezet az emberihez közelítő értelmű, fejlődni, csoportokba rendeződni képes, önálló teendők elvégzésére alkalmas MI-ágensek jövője? Képesek-e a legjobb szakemberek hatásos fékek létrehozására, amelyek nemcsak befolyásolni tudják az MI-ágensek működését, hanem azonnali leállításukra is képesek? Keveset tudunk az MI-rendszerek tevékenységével kapcsolatos nemzetközi együttműködésekről. Ha vannak egyáltalán, mennyire hatásosak? Életfontosságú kérdés, hogy mennyire gátolják ezeket az üzleti és politikai érdekek.
A zsidó legenda szerint a XVI. század végén a prágai rabbi, Juda Löw ben Becalél agyagból hatalmas emberalakot formált nehéz munka végzésére. Egy cédulával keltette életre a Gólemet, amelyen Isten szent neve szerepelt. Amikor kihúzta a szájából a papírt, a Gólem tehetetlen agyaggá változott. Ám amikor egyszer elfelejtette kivenni, a Gólem életben maradt, és a pusztításban lelte kedvét. Napjainkban a mesterséges intelligencia tudósai, óriásvállalati, politikai és katonai vezetői mennyire képesek irányítani és ha kell, megfékezni az MI-Gólemet?
