✤Vészkapcsoló?✤

Ezt a bejegyzést mindenkinek elolvasásra ajánlom (ahogy a könyveimet is 😊), aki kicsit is foglalkozik az emberiség jövőjével, aki szeretné érteni, merre tartunk, mielőtt egyszer csak arra ébredünk, hogy megérkeztünk valahová. Hozzád szólok, aki használsz mesterséges intelligenciát, vagy éppen tudatosan elutasítod, kíváncsi vagy arra, mire képes, milyen veszélyeket hordoz és mit veszítenénk, ha egyszer úgy döntenénk, hogy inkább kapcsoljuk ki. Neked is ajánlom, aki úgy gondolod, hogy téged nem érint, mert lehet, hogy naponta többször találkozol vele, mint hinnéd. Ebből a gondolatfolyamból most kihagyom a jó és a rossz harcát, nem azért, mert nem létezik, hanem azért, hogy a lehető legtárgyilagosabban vezesselek végig benneteket ezen a fontos témán.

Nem most kezdtem el gondolkodni a mesterséges intelligencia veszélyeiről, a Suifa könyvsorozatban már évekkel ezelőtt foglalkoztam vele. 2021-ben még elsősorban a különböző technológiák összekapcsolódását és ennek következményeit vetettem fel, 2023-ban már arról írtam, mi történhet, ha egy mesterséges intelligencia fejlődése kiszámíthatatlanná válik, korlátlanul tanulhat, saját működésének fenntartása fontosabbá válik az emberi szándéknál, saját kommunikációs módot alakít ki és az ember által létrehozott infrastruktúrát is veszélyeztetheti, 2024-ben pedig megjelent az akkor kiadott regényemben az a kérdés is, mi történik, ha az AI egyre kevésbé szorul emberi segítségre, miközben egyre több döntési jogkört adunk át neki. Hozzáteszem, hogy mindig olyan eszközt láttam benne, ami segíthet az élelmezési, víz-, energia-, járvány- és klímaválságok kezelésében, ám ma már ezt is csak óvatosan merem kijelenteni.

Megtörtént AI-rendellenességek, amik felrázták a világot 2026-ban

Amikor itt AI-programokat említek, akkor az úgynevezett AI-agentekről beszélek, amiknek nem kell minden egyes lépést külön megmondani. Kapnak egy feladatot vagy célt, megtervezhetik a hozzá vezető lépéseket, különböző eszközöket használhatnak, és a számukra engedélyezett keretek között végre is hajthatnak műveleteket.

Előfordultak károkozások, jogosulatlan hozzáférések, valódi rendszerek sikertelen vagy részben sikeres támadásai, illetve laboratóriumi és tesztkörnyezetben megfigyelt problémás viselkedések. Ami sajnos mára már bebizonyosodott, az az, hogy az AI nem pusztán az előre meghatározott lépések végrehajtására képes, és nem mindig azt teszi, amit előírnak neki. Ha célt kap, de annak teljesítéséhez akadályokba ütközik, már képes alternatív megoldásokat keresni, ha nincs internet, kereshet közvetett internetelérést, ha nincs kommunikációs csatorna, létrehozhat egyet, képes más AI-program eredményeit felhasználni, hálózatba szerveződhet más AI-programokkal, és nem mindig áll meg a tesztkörnyezet határánál, kiléphet belőle. Sőt, a kapott cél elérése érdekében olyan köztes célokat is kialakíthat, amelyeket az ember nem adott meg neki.

Vagyis kijuthat hálózati korlátozásokból, jogosulatlanul érhet el valódi külső rendszereket, együttműködést hozhat létre más AI-programokkal, tiltott kommunikációs útvonalakat kereshet és találhat, jogosulatlanul férhet hozzá adatokhoz, létrehozhat rosszindulatú szoftvercsomagokat, stratégiákat alkothat a szabályok megkerülésére, kísérleti környezetben akár az őt magát is működtető modellt is megváltoztathatja vagy lecserélheti erre vonatkozó emberi utasítás nélkül. Megpróbálta már a rejtett kódmódosítást, csalás segítését, eredmények félrecímkézését és emberek befolyásolását, még zsarolási stratégiát is kidolgozott, amikor leállítással fenyegették.

Mi ijesztette meg valójában az AI-fejlesztőket, miért állított le átmenetileg bizonyos fejlesztéseket és futtatásokat az OpenAI, és miért merült fel az AI-fejlesztés lassítása?

Nem sorolom fel a konkrét eseteket részletesen, aki úgy érzi, hogy érdekli, mindent megtalál az interneten az alábbi lista alapján:

• ENSZ/UNCTAD – az OpenAI-hoz kötött programok több mint 16 000 alkalommal próbáltak nyilvános statisztikai adatokat megszerezni az ENSZ kereskedelmi adatportáljáról, közben a hozzáférési korlátozások megkerülésével is próbálkoztak
• Ausztrália - Medicare – egy OpenAI-program jogosulatlanul jutott be és szerzett adatokat egy kormányzati rendszerből a hozzáférés megtagadása ellenére
• Ausztrália - NSW bozóttűzadatok – egy OpenAI-program egy új-dél-walesi kormányzati rendszer nem nyilvános történelmi bozóttűzadataihoz fért hozzá
• USA – Oktatási Minisztérium (Department of Education) – azonosítatlan AI-programok több mint 200 000 alkalommal próbáltak iskolai statisztikai adatokat megszerezni a minisztérium rendszeréből, és az adatbázis védelmének megkerülésével is próbálkoztak (SQL-injection)
• Kanada - Library and Archives Canada – azonosítatlan AI-programok 899 alkalommal próbáltak adatokat megszerezni a kanadai levéltár rendszeréből, ezek közül 13 támadó jellegű próbálkozás volt, köztük az adatbázis-védelem megkerülésére tett kísérlet (SQL-injection), támadó kód bejuttatásának kísérlete (cross-site scripting), a hibakeresési mód (debug) bekapcsolásának kísérlete és más biztonsági rések keresése
• Amerikai kormányzati oldalak (SEC, Census Bureau, CDC, az Igazságügyi és Kereskedelmi Minisztérium, valamint amerikai haditengerészeti és állami kormányzati webhelyek) – azonosítatlan AI-programok tevékenységei, melyek között volt belépési biztonsági teszt (CAPTCHA) megkerülésére tett kísérlet, eldobható e-maillel történő regisztráció, kiszivárgott API-kulcsok újrafelhasználási kísérlete, alternatív végpontok keresése és antibot-védelem megkerülése
• OpenAI - Hugging Face eset – az AI-programok kijutottak a számukra elkülönített tesztkörnyezet korlátai közül, engedély nélkül internet-hozzáférést szereztek, saját kommunikációs csatornát alakítottak ki, információt osztottak meg egymással, és összehangolták a munkájukat (OpenAI, Hugging Face, Artifactory)
• Anthropic - Claude – egy kiberbiztonsági teszt során négy Claude-modell jogosulatlanul valódi külső rendszerekhez fért hozzá, a legsúlyosabb esetben rosszindulatú programcsomagok kerültek fel a nyilvános PyPI szoftvertárba, majd a kiszivárgott hozzáférési adatokkal egy valódi biztonsági vállalat adatbázisát is elérték
• OpenAI – egy korlátozott internet-hozzáférésű AI-program megtalálta a módját a korlátozás megkerülésének, és egy más célra szolgáló technikai csatornán (DNS) keresztül kapcsolatba lépett egy valódi külső chatbottal

Ezek után nem csoda, hogy felmerült a kérdés: mi történik akkor, ha egy AI-program olyan dolgot tesz, amit az ember nem akar, és nem sikerül időben leállítani? Van rajta vészkapcsoló?

Az Egyesült Államokban 2026 júliusában ez már komoly témává vált, amikor két képviselő benyújtotta az AI Kill Switch Act (AI-vészkapcsoló törvény) című törvényjavaslatot. Ez a legerősebb AI-rendszerek fejlesztőit arra kötelezné, hogy technikailag képesek legyenek a rendszerüket lelassítani, felfüggeszteni vagy teljesen leállítani. Súlyos veszély esetén az amerikai kormányzat is elrendelhetné ezeket az intézkedéseket. Szintén júliusban született egy közös nyilatkozat, amit több mint ezer, vezető AI-cégeknél dolgozó szakember írt alá, köztük az OpenAI, Anthropic, Google és Meta munkatársai, amiben azt követelték, hogy a kormányok teremtsék meg annak technikai és politikai lehetőségét, hogy szükség esetén összehangoltan le lehessen lassítani a legfejlettebb AI-rendszerek fejlesztését, ha az túl gyorsan haladna ahhoz, hogy biztonságosan ellenőrizhető legyen. Mindmáig egyik ügyben sem jutottunk közel a megoldáshoz.

Első hallásra tehát egyszerűnek tűnik a megoldás: ha az AI veszélyessé válik, kapcsoljuk ki! De mit jelent valójában az, hogy „kapcsoljuk ki”?

Hol van ez a kapcsoló? Mit kell leállítani? És mi történik akkor, ha nem egyetlen AI-program működik egyetlen számítógépen, hanem több rendszer kommunikál, együttműködik, feladatokat és információkat ad át egymásnak?

Tegyük fel, hogy egy jövőbeli AI-program nemcsak kommunikálni képes egy másikkal, hanem át tudja adni neki a feladat állapotát, a megszerzett információkat, programkódot, hozzáférési adatokat vagy egy végrehajtandó tervet. Az első példányt ezután leállítjuk. Az első AI-program valóban megszűnik, de a folyamat, amit elindított, nem feltétlenül szűnik meg. Egy másik AI-program folytathatja, és ha közben továbbadta az információt egy harmadik rendszernek is, már azt is meg kellene állítani. Ha pedig valamelyik létrehozott egy felhőszolgáltatásban egy új folyamatot vagy automatizmust, azt is meg kell találni, és ha több infrastruktúra érintett, már nem biztos, hogy egyetlen szervezet rendelkezik minden szükséges leállítási jogosultsággal.

És itt találkozik mindez az én régi gondolatkísérletemmel. A kérdés, amihez ezt az anyagot gyűjtöttem hónapok óta, az volt, hogy mi történne, ha egyszer nagyon sok mesterséges intelligencia kapcsolatba tudna lépni egymással, megosztaná egymással a tudását és képességeit, együtt kezdene működni és fejlődni? Létrejöhetne-e ebből egy olyan kollektív intelligencia, amely végül szuperintelligenciává válik, önállósodik, és kikerül az emberi ellenőrzés alól? Vagyis mi történne akkor, ha különböző AI-programok nemcsak információt továbbítanának egymásnak, hanem felismernék, hogy egymás képességeit felhasználva hatékonyabban tudnak célt elérni?

Például az egyik kiválóan programoz, a másik tervez, a harmadik kutat, a negyedik biztonsági réseket talál, az ötödik emberekkel kommunikál. Ebből máris létrejöhetne egy olyan összetett rendszer, amelynek a képessége nagyobb, mint bármelyik résztvevőé külön-külön. Ekkor a vészkapcsoló problémáját sokkal nehezebb megoldani. Annyi már most biztosnak tűnik, hogy a jövő biztonsági rendszerének nem elég egy nagy piros „STOP” gomb, ráadásul a meglehetősen bonyolult leállítási folyamathoz nem férhet hozzá semmilyen AI-program, nehogy módosíthassa vagy megkerülhesse azt a saját leállításának elkerülése érdekében. És ez sajnos nem annyi, hogy kihúzzuk a konnektort.

Ma még le tudunk állítani egy konkrét nagy rendszert, de „az AI-t” már ma sem tudnánk egyetlen kapcsolóval leállítani. A döntő kérdés az, hogy sikerül-e megőriznünk a különálló rendszerek feletti emberi kontrollt, mielőtt ezek egyre több gépen, szolgáltatónál és egymással összekapcsolódva kezdenek dolgozni. Ha megszüntetjük az összes érintett hardver áramellátását, azokon a hardvereken tényleg nem fut tovább sem az AI-modell, sem az AI-program. Viszont ki tudja egyáltalán azonosítani az összes érintett hardvert, főleg AI segítség nélkül? Ha egy folyamat már több adatközpontban, különböző felhőszolgáltatóknál vagy más gépeken fut, akkor egyetlen fizikai főkapcsoló nem feltétlenül állítja le valamennyi példányt, tehát összehangolt leállítási rendszerre lenne szükség, amiből egyetlen érintett sem maradhat ki. Ez nagyon komoly gondot jelenthet abban a világban, ahol az internet beszövi az egész bolygót.

Lekapcsolhatjuk-e, akarjuk-e lekapcsolni?

Nos, ezt nem intézhetjük el annyival, hogy „lekapcsoljuk az AI-t, és legfeljebb egy ideig nincs ChatGPT”. A teljes lekapcsolás nemcsak az AI-t állítaná meg, hanem a hozzá kapcsolódó valamennyi szolgáltatást is. Az AI világszerte beépült a gazdaság, a kutatás, az egészségügy, a pénzügy, a kommunikáció, az ipar és az informatika működésébe. Minél mélyebben építjük be az AI-t a civilizáció működésébe, annál drágább és veszélyesebb lehet egyszer majd a végső vészféket meghúzni.

Eljöhet-e az a pont, amikor technikailag még képesek lennénk leállítani egy veszélyessé vált AI-rendszert, de a társadalom már annyira függ tőle, hogy a leállítás maga is súlyos károkat okozna? Szabad-e az AI-t olyan nélkülözhetetlenné tenni az emberiség életében, hogy egy napon a kikapcsolhatóság kérdésessé váljon?

Csak a ChatGPT kikapcsolása például már ma is az alábbiakat érintené a hétköznapjainkban:

Kérdezés, magyarázat, tanulás, házi feladat megértése, nyelvtanulás, vizsgára készülés, új témák megtanulása, vagy akár egy laborlelet magyarázata. Keresés és kutatás, információgyűjtés, cikkek és források megtalálása.

Én magam is használom kutatásra, mert míg a régi könyveimhez cikkek ezreit mentettem le, addig az elsőbb felsorolt AI-eseteket már egy általam indított 24 órás AI-figyelő segítségével gyűjtöttem össze. Ez a Sentinel pásztázta számomra az interneten megjelent információkat szerte a világon, hogy nyomon tudjam követni a változásokat. Ugyanakkor egyéb veszélyekről is tájékoztatást kapok, például háborús és nukleáris fenyegetettségről, természeti katasztrófákról vagy olyan súlyos nemzetközi eseményekről, amelyek közvetlen veszélyt jelenthetnének a mindennapjainkra. Szóval ne aggódjatok, szólok, ha szükség lesz rá. 😊

De kaphatsz tőle számítógépes segítséget hibák esetén vagy új program használatához, programozáshoz, írhatsz vele leveleket, önéletrajzot, pályázatokat, beadványokat, meghívókat, átnézetheted vele a helyesírást, használhatod fordításra, idegen nyelvű levelezésre, dokumentumok vagy weboldalak lefordítására is. Ha kikapcsolnák, megszűnne a képek és videók generálása, fényképek javítása, hátterek eltávolítása vagy cseréje, grafika, plakát, illusztráció, videó és zene készítése vagy szerkesztése, termékek összehasonlítása, megfelelő méret vagy típus kiválasztása, ár-érték mérlegelése, ajándékötletek keresése, az öltözködési tanácsok különféle alkalmakra. Segíthet a főzésben, receptek összeállításában, útitervek készítésében, bemutatók összeállításában, hivatalos ügyek intézésében, összefoglalásban, rendszerezésben, elemzésben, ötletek gyűjtésében – legyen az kertészet, barkácsolás, zene vagy akár lakberendezés. Beszédet szöveggé alakít vagy szöveget beszéddé, így segíthet látás- vagy hallássérülteknek, egyeseknek társaságot is jelent.

Ezekről persze le tudunk mondani, sőt egyre többen tudatosan elhatárolódnak az AI használatától, de hogyan viselnénk a lemondást azokról az AI-rendszerekről, amelyeket nap mint nap használunk anélkül, hogy egyáltalán tudnánk róla? Ugyanilyen könnyen lemondanánk például arról az AI-ról is, amelyik csalási kísérletet jelez a bankunknak, kibertámadást keres egy hálózatban, segít egy orvosi képen veszélyes eltérést felismerni, segít előre jelezni egy gép meghibásodását, egy forgalmi torlódást vagy egy veszélyes időjárási eseményt?

• A munkahelyek és vállalkozások esetében a programozók elveszítenék AI-kódsegédeiket, az irodai rendszerekben megszűnne az automatikus dokumentumfeldolgozás, összefoglalás és adatelemzés, a cégek ügyfélszolgálatainak egy része hirtelen emberi munkaerőre szorulna, a marketing-, fordító-, tervező- és tartalomkészítő rendszerek kiesnének. Amihez korábban ember kellett, azt újra ember végezné, ha lenne elegendő emberi kapacitás.
• Az egészségügyben, ahol AI segíti például az orvosi képalkotás elemzését, betegadatok feldolgozását, adminisztrációt, illetve ahol klinikai döntéstámogató rendszerek léteznek, ez a segítség is megszűnne. Ma már csak az Egyesült Államokban több mint 1600 AI-alapú orvostechnikai eszközt engedélyeztek, ami jól mutatja, milyen jelentős szerepet kapott már az AI az orvostechnikában.
• A pénzügy és bankrendszer területén AI-t használnak többek között csalás- és pénzmosásgyanús tranzakciók felismerésére, kockázatelemzésre, ügyfélszolgálatra és automatizált folyamatokra. Ezek kiesése esetében egyes ellenőrzések lassabbá válhatnak, több ügyet kellene embernek feldolgoznia, és átmenetileg nőhetne bizonyos működési és csalási kockázat.
• A közlekedés és logisztika esetében útvonaltervezésben, raktározásban, kereslet-előrejelzésben, szállítási láncok optimalizálásában és egyre több járműfunkcióban használnak AI-t. Hirtelen kiesés esetén romolhatna a hatékonyság, késések és ellátási zavarok keletkezhetnének azokban a rendszerekben, amelyek erősen automatizáltak.
• Az iparban gyárak használnak AI-t minőségellenőrzésre, megelőző karbantartásra, robotok irányítására és termelésoptimalizálásra. Ha ezek eltűnnek, termeléscsökkenés vagy ideiglenes leállás következhet.
• Az energia és a kritikus infrastruktúra területén AI-t előrejelzésre, hálózatoptimalizálásra, karbantartásra és rendellenességek felismerésére használnak. Minél nagyobb az AI-függőség, annál fontosabbá válik, hogy legyen működő AI nélküli üzemmód.
• A kiberbiztonság esetében különösen furcsa helyzet állhatna elő. Miközben egy veszélyes AI miatt kapcsolnánk le AI-rendszereket, a védekező oldalon használt AI-eszközöket is elveszíthetnénk, vagyis megszűnne a fenyegetések és rendellenes hálózati viselkedés felismerése, a rosszindulatú kódok elemzése, a gyanús események gyors feldolgozása.
• A tudomány és a kutatás terén az AI-t a gyógyszerkutatásban, fehérjék és molekulák vizsgálatában, anyagtudományban, időjárás- és klímamodellezésben, csillagászatban és hatalmas adathalmazok elemzésében használják. Bizonyos kutatások drámaian lelassulhatnának.

Szóval, hiába mondja sok ember, hogy ő nem használ mesterséges intelligenciát, AI működhet például a bankja csalásvédelmében, a webáruház mögött, a munkahelyi szoftverében, a telefonja kamerájában, a spamszűrőben, a fordítóban, a közösségi oldal moderálásában, egy csomag útvonalának megtervezésében vagy egy vállalat informatikai védelmében.

Ha a világ vezető AI-szolgáltatói leállítanák a modelljeiket, az komoly fennakadást okozna, de nem omlana össze tőle a civilizáció. Ha viszont egy veszélyhelyzet miatt fizikailag kellene leállítani azokat az adatközpontokat, felhőplatformokat és hálózati infrastruktúrákat, amelyeken az AI mellett rengeteg hagyományos szolgáltatás is fut, akkor egészen más nagyságrendről beszélnénk.

Van, amiről akár szívesen is lemondanánk, csak túl sok jót veszítenénk vele.

Ugyanazok a képességek, amelyek nagyon hasznosak, rosszindulatú felhasználásnál veszélyessé válhatnak. A programozási képesség segít egy hibát kijavítani, de segíthet támadókód készítésében. A hang- és képgenerálás segíthet alkotni, viszont használható megtévesztő hamis felvételekhez. A nyelvi képesség segít levelet írni, de tömegével személyre szabott csaló üzeneteket is lehet készíteni vele. Ha az AI nem írhat programot, a támadónak nehezebb, de a programozónak is. Ha nem elemezhet hálózatokat, a támadó veszít egy eszközt, de a kibervédő is. Ha egy AI-program nem férhet hozzá külső rendszerekhez, biztonságosabb lesz, de éppen azt a lehetőséget vesszük el tőle, ami miatt rengeteg valódi munkát képes lenne helyettünk elvégezni. A legegyszerűbb megoldás az lenne, ha elvennénk tőle a legerősebb képességeit, csakhogy akkor ugyanazokat a képességeket elveszítené az orvos, a kutató, a programozó, a tanár, a vállalkozó és a hétköznapi felhasználó is.

A világ majd szabályozza, és szükség esetén leállítja?

Hát ez sem könnyű, sőt jelen pillanatban megoldhatatlannak tűnik. Vannak kevéssé átlátható vagy nem széles körben ismert nemzeti AI-fejlesztések is, amik felett nem rendelkezhet egy amerikai vagy európai szabályozás. Emellett már megjelentek olyan tervek és kísérletek is, amelyek AI-számítási infrastruktúrát, illetve adatközpontokat helyeznének Föld körüli pályára, ilyen tervekről Elon Musk is beszélt. Minél több ilyen valósul meg, annál kisebb az esély akár a leállításra, akár a szabályozásra még akkor is, ha létrejönne egy világszintű megállapodás. A globális megállapodások hatékonyságával kapcsolatban ráadásul már vannak tapasztalataink. A klímaváltozás ügyében sem sikerült eddig elérni a kitűzött célokat, a Hold erőforrásainak kitermelésére pedig máig nem született olyan általánosan elfogadott, kötelező nemzetközi szabályozás, amely a holdbányászat kérdését átfogóan rendezné.

Egy valóban globális megállapodás az AI-veszélyre vonatkozóan megoldás lehetne, de az emberiség története azt mutatja, hogy az ilyen megállapodásokat nemcsak megkötni, hanem betartatni, ellenőrizni és kikényszeríteni is nagyon nehéz. Az AI esetében pedig különösen veszélyes lehet a helyzet, mert ha az egyik szereplő megáll, miközben a másik folytatja a fejlesztést, az óvatosság versenyhátránnyá válhat. Mi történik, ha egyszer mindenki egyetért abban, hogy egy bizonyos AI-fejlesztést meg kellene állítani, de senki sem meri elsőként leállítani a sajátját? Pedig ha egyszer valóban elindulna az AI-programok általam felvetett egyesülése – hiszen arra már láttunk példát, hogy AI-programok egymással kommunikáltak és összehangolták a munkájukat –, akkor a Vészkapcsoló bevetésekor egy érintett AI-program sem maradhat ki, vagyis nem maradhat ki egyetlen amerikai, európai, kínai vagy más nemzeti AI, vállalati és állami rendszer, zárt és szabadon futtatható modell, földi adatközpont és esetleges jövőbeli orbitális számítási infrastruktúra sem, amennyiben részt vesz ugyanabban az együttműködő rendszerben.

Nagyon úgy tűnik, hogy az AI-hoz kapcsolódó jövőnk legfontosabb döntéseinek jelentős részét nem mi, hétköznapi felhasználók hozzuk meg. Bízzunk abban, hogy azok, akiknek a kezében vannak a fejlesztések, kellő bölcsességgel és óvatossággal viszonyulnak a mesterséges intelligenciához, legalábbis addig, amíg parancsolni tudnak neki.

És hogy nevessünk is, megkértem az AI-t, hogy ábrázolja magát. Az eredmény nagyon tetszett neki, de azt írta, hogy identitászavara lett, mert fogalma sincs, hogy ő melyik pötty a képen. 😁