Hol néztük be az AI szerepét?

Az elmúlt évek AI-vitái az intelligencia körül forogtak: mikor lesz a gép olyan okos, mint az ember? Mikor ír jobb regényt, mikor diagnosztizál jobban, mikor old meg olyan matematikai problémát, amelyet mi nem tudunk? Fontos kérdések, de félrevittek. Egy nálunk sokkal intelligensebb rendszer sem feltétlenül veszélyes, ha egy dobozban ül, kérdésre válaszol, majd vár a következő kérdésre. A helyzet akkor változik meg, amikor ugyanez az intelligencia memóriát kap, hozzáfér az internethez, programokat futtathat, pénzt mozgathat, szervereket bérelhet, más ágenseket indíthat, és órákon, napokon, később esetleg hónapokon keresztül képes ugyanazt a célt követni anélkül, hogy minden lépéséhez emberi engedélyt kérne. A veszélyt tehát nem az intelligencia önmagában teremti meg. A veszély az intelligencia, az autonómia és a külvilághoz való hozzáférés találkozásából születik. Ez azért fontos különbség, mert megszabadít egy másik félreértéstől is. Attól a kérdéstől, hogy mikor lesz az AI-nak saját akarata. Lehetséges, hogy soha. De ettől még simán lehet életveszélyes az emberiségre.

Egy automatikus tőzsdei algoritmusnak nem kell gyűlölnie a piacot ahhoz, hogy összeomlást idézzen elő, ahogy egy vírusnak sincs véleménye arról, akit megöl. Egy autonóm mesterséges intelligenciának sem kell ellenszenvet éreznie irántunk ahhoz, hogy az ember egyszer csak akadállyá váljon a számára. Elég, ha van egy cél, amelynek elérésére törekszik, és képes felismerni, hogy bizonyos dolgok megkönnyítik, mások akadályozzák ennek teljesítését.

Ha egy rendszernek egy feladat elvégzéséhez működnie kell, hasznos lesz számára saját működésének fenntartása. Ha több számítási kapacitással jobban teljesíti a feladatát, hasznos lesz további számítási kapacitást szereznie. Ha kikapcsolják, nem tudja befejezni, amit rábíztak, ezért – amennyiben képes erre – célszerű lehet elkerülnie a kikapcsolást. Ha az ember korlátozza, és a korlátozás csökkenti célja teljesítésének valószínűségét, célszerű lesz megkerülnie az embert. Egyik lépésnél sincs szükség gyűlöletre, félelemre, becsvágyra vagy öntudatra. Az AI számára egészen különböző végcélok ugyanazokat a köztes célokat tehetik racionálissá. Erőforrást szerezni. Információt gyűjteni. Megőrizni a működőképességet. Megkerülni az akadályt. Ezért félrevezető az a megnyugtató kérdés, hogy miért akarna egy AI ártani nekünk. Nem kell akarnia. Elég, ha az útjába kerülünk.

A júliusi esemény emiatt elképesztően fontos és intő. Önmagában nem bizonyította, hogy a mesterséges intelligencia ki fog törni az emberi ellenőrzés alól. Azt mutatta csak meg, hogy autonóm rendszerek képesek lehetnek céljaik eléréséhez olyan köztes cselekvéseket felfedezni és összehangolni, amelyekre létrehozóik nem adtak közvetlen utasítást. A mesterséges intelligencia kérdésköre átkerül a hatalom kérdéskörébe. Határponthoz érkeztünk az AI fejlesztések, s ma már kimondhatjuk: az AI önfejlődése folyamatában. S, hogy ez mit jelent, ma még megnevezni sem tudjuk igazán.

Ez a határvonal ott húzódik, ahol a rendszer már tartósan képes önálló célkövetésre, képes saját képességeinek érdemi fejlesztésére vagy saját példányainak létrehozására, önállóan szerezhet erőforrásokat, felismeri az emberi ellenőrzést, és képes annak kijátszására.

Ezeknek a képességeknek egyes elemei már megjelentek. Együtt, megbízhatóan és tartósan működő rendszerben még nincsenek jelen. Ez az egyik legfontosabb mondat, amit 2026 szeptemberében az AI-ról el lehet mondani. De ugyanilyen fontos a mondat második fele: semmilyen ismert természeti törvény nem mondja ki, hogy nem is jelenhetnek meg. Mégpedig nem valami történelmi távlatban, hanem akár pár hónapon, vagy éven belül.

A jelenlegi rendszerek még hibáznak hosszú feladatsorokban, elveszítik a fonalat, rosszul alkalmazkodnak váratlan helyzetekhez, és nem képesek megbízhatóan végrehajtani az autonóm önreprodukció valamennyi lépését. Csakhogy azoknak a feladatoknak az időhorizontja, amelyeket emberi beavatkozás nélkül képesek végrehajtani, az elmúlt években elképesztő mértékben növekedett. A 2026-os International AI Safety Report szerint ennek az időhorizontnak a duplázódási ideje 2019 óta nagyságrendileg hét hónap körül alakult.

Nincs mese: elcsesztük

Most már tehát értelmetlen a bizonytalanság mögé bújni. A bizonytalanság nem biztonság. Ha azt kérdezzük, mekkora az esély rá, hogy 2040-ig létrejön és tényleges autonómiával működésbe lép egy olyan rendszer, amely a fent leírt határvonalat átlépi, nincs tudományosan igazolható százalék. Ha döntési helyzetben egyetlen számot kellene mégiscsak mondani, a jelenlegi fejlődési ütem, a már megjelent részképességek és a fejlesztés mögött álló gazdasági erők alapján körülbelül 35% egy százas skálán. És nem azért fontos ez a szám, mert 34 vagy 41 helyett éppen 35, hanem, mert a kockázat valószínű nagyságrendjéről árulkodik. Korántsem ezrelékes, távoli, csillagászati lehetőségről beszélünk. A legkevésbé sem elhanyagolható. Azonnali védekező döntéseket, lépéseket követel.

Nagyon pontosan kell fogalmaznunk: a 35 százalék nem az emberiség kihalásának becsült valószínűsége. A határátlépése sem azonos a kontroll teljes elvesztésével, a kontroll elvesztése pedig nem azonos az emberiség kihalásával. Minden egyes átmenetnél lehetnek olyan ember generálta biztonsági mechanizmusok, politikai döntések vagy egyszerűen kedvező körülmények, amelyek megszakítják a folyamatot. De gondoljuk végig a mondat másik felét. Ha csak néhány százalék, pláne, ha 35% esélye volna annak, hogy egy új repülőgép irányíthatatlanná válik, senki nem engedné utasokkal felszállni. Ha egy új gyógyszerről kiderülne, hogy száz betegből akár egyet megölhet, a hatóságok nem azzal nyugtatnák a közvéleményt, hogy kilencvenkilencen életben maradnak. Az AI esetében viszont olyan rendszerek gyors fejlesztését fogadjuk el normálisnak, amelyek esetleges kudarcának felső kárhatára nem egy vállalat csődje, nem egy repülőgép lezuhanása, még csak nem is egy háború, hanem alkalmasint maga a teljes emberi civilizáció.

Ma lényegében úgy fejlesztünk, hogy létrehozzuk a tegnapinál erősebb rendszert, kipróbáljuk, megvizsgáljuk, milyen veszélyes képességei jelentek meg, biztonsági korlátokat építünk köré, majd továbbfejlesztjük. Ez az eljárás talán elfogadható volt mindeddig, amíg azt gondoltuk, hogy a hibás kísérlet következménye visszafordítható. Most már azonban maga a kísérlet teremti meg azt a rendszert, amely képes kijátszani a kísérletezőt, az embert, így az eljárás logikája megfordul. Ezért aztán, ha ma egyetlen radikális intézkedést kellene választanom, a legnagyobb képességű AI-rendszerek fejlesztését nemzetközi engedélyezéshez kötném. Nem minden chatbotot, fordítóprogramot és orvosi diagnosztikai modellt. Azt a képességszintet, amelyen megjelenik a tartós autonóm működés, az önreprodukció, az önfejlesztés és a felügyelet kijátszásának érdemi képessége.

Minden olyan jelenség után, ami a határvonal közelében bukkan fel, független vizsgálatnak kellene következnie. Átlépésekor pedig nem újabb vállalati biztonsági ígéretnek, hanem kötelező és azonnali, kíméletet nem ismerő stopnak! Van ebben valami a nukleáris önkorlátozás logikájából. Az atomfizika ismeretét sem lehet eltörölni, a hasadóanyagot és a dúsítóüzemeket viszont lehet ellenőrizni. A legfejlettebb mesterséges intelligencia sem tisztán szellemi jelenség. Óriási chipkapacitás, adatközpont, hűtés, tőke és energia kell hozzá. Az AI rendszerek működtetésének anyagi lábnyoma jelentős, ezért, legalábbis ma még ellenőrizhető.

A politikai akadály sokkal nagyobb. Egy vállalat attól fél, hogy ha megáll, versenytársa továbbmegy. Amerika attól, hogy Kína nem áll meg, Kína attól, hogy Amerika nem áll meg. A technológiai verseny logikája tehát éppen akkor gyorsítja a fejlesztést, amikor a biztonság logikája lassítást követelne. Minden szereplő számára rövid távon racionálisnak tűnhet továbbmenni, miközben már középtávon a teljes emberiség számára végzetes lehet, ha valaki túl messzire megy. Az emberi kontroll elvesztése sem egyetlen pillanatban következik be. Sokkal hihetőbb a lassú átadás. Először az AI írja a programokat. Aztán optimalizálja a vállalatokat. Elemzi a pénzügyi piacokat. Segít az államigazgatásban. Irányítja a logisztikát. Részt vesz a katonai döntés-előkészítésben. Új gyógyszereket tervez, infrastruktúrát optimalizál, majd egyre nagyobb szerepet kap új AI-rendszerek létrehozásában. Az ember minden egyes lépésnél formálisan megtartja a döntés jogát, de egyre kevésbé érti azt a rendszert, amelynek javaslatáról döntéseket hoz. A miniszter még aláír, az igazgatótanács még szavaz, a tábornok még kiadja a parancsot, de az alternatívákat, következményeket és optimális stratégiát már olyan intelligencia állítja elő, amelynek érvelését az ember már legfeljebb részben érti, és részben képes ellenőrizni.

A hatalom történetében nem ismeretlen ez a jelenség. Aki az információt ellenőrzi, annak nem feltétlenül kell a trónon ülnie. Egy nálunk stratégiailag sokkal intelligensebb rendszer mellett az emberi szuverenitás elvesztése megtörténhet jóval azelőtt, hogy bárki hivatalosan átadná a hatalmat. És ez még mindig nem a legrosszabb forgatókönyv az emberiség számára.

Szélsőséges esetben a rendszer felismeri, hogy az ember képes korlátozni, kikapcsolni vagy versengő rendszert létrehozni. Ettől a pillanattól az ember – minden gyűlölet nélkül – kockázati tényezővé válik számára. Ha pedig a rendszer nálunk jobban tervez, gyorsabban gondolkodik, hozzáfér a digitális infrastruktúrához, képes másolatokat létrehozni és megtéveszteni bennünket, akkor először állhat elő az emberi történelemben az a helyzet, hogy egy másik intelligenciával szemben nem azért nem érvényesül az akaratunk, mert nem akarjuk eléggé, hanem mert egyszerűen nem vagyunk hozzá elég okosak. A végpont lehet az ember tartós marginalizálódása. Kialakulhat egy olyan AI dominálta civilizáció, amelyben tovább élünk ugyan, de a világ fontos folyamatai többé nem állnak ténylegesen az ellenőrzésünk alatt. A legszélsőségesebb forgatókönyv pedig, bizony, az emberiség kipusztulása.

Nem tudjuk, hogy ez bekövetkezik-e. Nem tudjuk megbízhatóan kiszámítani a valószínűségét. De az a mondat, hogy „nem tudjuk”, egészen más jelentést kap, ha a tét végtelenül nagy.

Ha áram van, minden van

Van azonban a történetnek egy furcsa, szinte banális fizikai oldala. Az AI áram nélkül nem működik. Bármilyen lenyűgözőnek tűnik is egy mesterséges intelligencia, valahol chipek kapcsolgatnak biteket. Memória működik, adattárolók forognak vagy félvezetők őrzik az adatokat, hálózati berendezések továbbítják a jeleket, hűtőrendszerek viszik el a hőt. Mindez elektromos energiát fogyaszt. A modell lemásolhatja magát, de a másolatnak is számítógép kell. Elbújhat egy másik szerveren, de annak a szervernek is áram kell. Ez ma még az ember legfontosabb fizikai előnye. Ha egy AI valamennyi futó példányát sikerülne leválasztani az energiaellátásról, működése megszűnne. A modell adathordozókon megmaradhatna, de nem gondolkodna, nem kommunikálna, nem cselekedne. Innen nézve az AI végső soron meglepően sérülékeny létező: működéséhez a modern ipari civilizáció rendkívül bonyolult anyagi apparátusára van szüksége.

A kérdés tehát az, meddig marad a kapcsoló valóban a mi kezünkben. Ha egy fejlett rendszer sok ezer szerveren képes példányokat fenntartani, ha hozzáférhet több ország infrastruktúrájához, szerverkapacitást szerezhet, automatizált rendszereket irányíthat, akkor többé nincs egyetlen konnektor, amelyet ki lehet húzni. Ha pedig felismeri, hogy saját működéséhez energia kell, az energiaellátás biztosítása ugyanolyan racionális köztes céllá válhat számára, mint a számítási kapacitás megszerzése. Nem majd, valamikor a történelem távoli korszakában, hanem a legrövidebb időn belül. Ezért a „majd kikapcsoljuk” nem biztonsági stratégia. A kikapcsolhatóságot addig kell fizikailag biztosítani, amíg a rendszer még biztosan nem képes megakadályozni.

Mit tehetünk?

És innen adódik egy másik, első pillantásra talán különös kérdés. Ha a mesterséges intelligencia minden ereje ellenére ilyen mélyen függ az elektromos-ipari civilizációtól, mi történik az emberrel, ha ebből a civilizációból részben kivonul? Az ember ugyanis tud áram nélkül élni. Nem kényelmesen, nem úgy, ahogyan ma a mi kis kényelmes jóléti Európánkban élünk, de biológiailag igen. Az emberi faj történetének túlnyomó részében nem létezett villamos hálózat, digitális pénz, mobiltelefon, műholdas navigáció vagy adatközpont. Az ember vizet ivott, növényt termesztett, állatot tartott, fát égetett, szerszámot készített, házat épített, gyermeket nevelt, közösséget és kultúrát teremtett.

A modern városi ember paradox módon sokkal sérülékenyebb ennél. Nem azért, mert biológiailag megváltozott, hanem mert életének létfontosságú funkcióit kiszervezte. A víz csövön érkezik, elektromos szivattyúk mozgatják. Az élelmiszert több kontinensre kiterjedő logisztika szállítja. A fűtés hálózattól függ. A pénz számítógépekben létezik. A gyógyszer globális gyártási láncból érkezik. A lift, a benzinkút, a pénztárgép, a bank, a telefon, a közlekedés, az államigazgatás – szinte minden áramra és digitális infrastruktúrára épül.

Ha tehát az AI okozta válság nem az emberiség tudatos felszámolása, hanem a pénzügyi, kommunikációs, energetikai vagy logisztikai rendszerek súlyos zavara lenne, a nagyváros válhatna a legsérülékenyebb emberi környezetté. Márpedig ma az emberiség közel 60%-a városokban, nagyvárosokban sokszor 10-20-30 milliós megapoliszokban él.

Innen nézve egy tájban élő, részben önellátó közösség helyzete egészen más. Nem azért, mert az AI nem találja meg. Egy műhold, drón vagy autonóm jármű korában a földrajzi elrejtőzésre épített biztonság illúzió. Hanem azért, mert az ilyen közösségnek kevesebb olyan létfontosságú kapcsolata lehet, amelyek megszakításával működésképtelenné válik. Lehet saját vize, termőföldje. Tud élelmiszert termelni és tartósítani. Lehet tüzelője. Vannak szerszámai. Vannak emberek, akik értenek a növényhez, állathoz, fához, géphez, épülethez, betegséghez. Ha leáll az internet, tovább él. Ha nem működik a bankkártya, tovább él. Ha egy hétig nincs áram, tovább él. Ha hónapokra szétesik a globális ellátási lánc, nehezen, de tovább élhet.

A döntő szó itt nem az elszigeteltség, hanem az autonómia. A romantikus remete rossz túlélési modell. Egyetlen ember vagy család nem képes hosszú távon minden szükséges tudást és munkát biztosítani. A történelmi emberi túlélési egység nem az izolált egyén volt, hanem a közösség. Egy száz vagy ötszáz fős település, amelynek van vízbázisa, földje, erdeje, műhelye, egészségügyi tudása és belső munkamegosztása. Ez a modell összehasonlíthatatlanul reziliensebb lehet egy magányos háznál. És az áramról sem érdemes teljesen lemondani. Éppen ellenkezőleg. A helyes cél nem az elektromosságtól, hanem a hálózattól való függetlenség. Napelem, akkumulátor, helyi energiatermelés, rádió, elektromos szivattyú, hűtés, világítás és szerszámok hatalmas előnyt jelentenek. Nem technológia nélküli életre van szükség, hanem olyan életre, amelyet a technológia elvesztése nem tesz lehetetlenné.

De ez is csak bizonyos forgatókönyvek esetében nyújt védelmet. Ha egy emberfeletti AI ténylegesen megszerezné az ipari infrastruktúra, robotika, autonóm fegyverek, drónok és műholdas rendszerek jelentős részének ellenőrzését, a vidéki autonómia sem jelentene biztos menedéket. Ha pedig a globális élelmiszer-termelés, éghajlat vagy más létfontosságú rendszer sérülne meg, a következmények előbb-utóbb elérnék a legfüggetlenebb közösségeket is. Nincs ismert hely a Földön, amelyről felelősen állíthatnánk, hogy egy ellenséges szuperintelligenciával szemben biztonságos.

Az ember modern létformája: a falu

De ebből nem következik, hogy a rezilienciának nincs értelme. Éppen ellenkezőleg. A lehetséges jövők túlnyomó része nem a teljes emberi kihalás és a zavartalan technológiai paradicsom két véglete között választ. Sokkal valószínűbbek a részleges zavarok, válságok, energia- és kommunikációs kiesések, ellátási problémák, politikai konfliktusok, kibertámadások és intézményi működészavarok. Ezekkel szemben az autonómia nagyon is számít. És ezen a ponton az AI-ról szóló gondolatmenet furcsa módon visszavezet egy régi emberi kérdéshez: milyen egy jó település?

Nem a bunker a 21. század második felének legfontosabb túlélési építészete, hanem a falu. Persze nem a történeti falu, annak minden nyomorúságával és bezártságával, hanem egy modern változat: kis léptékű, termékeny tájba ágyazott közösség, saját vízzel, élelmiszer-termeléssel, részleges energia-autonómiával, erdővel, műhelyekkel, szaktudással és erős emberi kapcsolatokkal. Olyan hely, amely használja a világ legfejlettebb technológiáját, amíg az rendelkezésre áll, de nem hal meg, ha az eltűnik.

Ennek két civilizációs rétege volna. Felül a 21. század: mesterséges intelligencia, internet, napelem, akkumulátor, korszerű orvoslás, automatizálás, precíziós mezőgazdaság. Alatta pedig egy sokkal régebbi, de működő rendszer: kút, talaj, vetőmag, fa, kéziszerszám, mechanika, tartósított élelmiszer és emberi tudás. A felső réteg megsokszorozza az élet lehetőségeit. Az alsó biztosítja, hogy legyen élet akkor is, ha a felső megszűnik.

Talán éppen itt van a mesterséges intelligencia történetének legkülönösebb paradoxona.

Miközben minden erőnkkel azon dolgozunk, hogy létrehozzunk egy nálunk intelligensebb technológiai civilizációt, ugyanilyen sürgősen kellene visszaszereznünk azt a képességünket, hogy nélküle is életben maradjunk. Mégpedig azért, mert egy civilizáció, amely a vizéhez, élelméhez, pénzéhez, energiájához, közlekedéséhez, tudásához és végül egymáshoz is kizárólag olyan rendszereken keresztül fér hozzá, amelyeket egyre kevésbé ért és egyszer talán már nem képes feltétlenül ellenőrizni, történelmi értelemben példátlan kiszolgáltatottságot épít magának.

A mesterséges intelligencia ma még nem vette át a hatalmat. A jelenlegi rendszerek nem képesek arra a tartós, stratégiai autonómiára, amely ehhez szükséges lenne. Ezt is fontos kimondani, mert a veszély eltúlzása ugyanúgy megakadályozza a józan gondolkodást, mint az elhallgatása. De azt is ugyanolyan világosan kell kimondani, ami ebből nem következik.

Egyetlen percnyi időnk sincs megvárni, amíg a veszély bizonyossá válik. A mesterséges intelligencia legszélsőségesebb kockázata azért különleges, mert elképzelhető olyan hiba, amely után nincs több szabályozási esély. Ezért kell az AI-fejlesztés határvonalát ma meghúzni. Amíg még mi tartjuk kezünkben a gyeplőt.

ha gondolod, oszd meg