A MEGFÉKEZHETETLEN HULLÁM

Amikor a mérnök nagyapa sem boldogult a középiskolai matematikafeladattal, a család – többórányi kudarcos próbálkozás után – a ChatGPT-hez fordult. A hatalmas adathalmazt birtokló távoli mesterséges intelligencia (MI) rövid idő alatt, a gimnazista számára követhetően, levezette a matematikai műveleteket és indokolta a végeredményt. Ez a megszólított „virtuális agy” a biológiai ihletettségű mesterséges neuronhálón alapul, amely képes az önfejlesztésre, a problémamegoldásra és kommunikációra. Kiindulópontját a nagy nyelvi modell (LLM – large language model) jelenti, amelyet hatalmas mennyiségű szöveges adaton tanítottak be, és nyelvi feladatokat – szövegértést, szövegírást vagy fordítást – tud végrehajtani. A technológia hátterében a deep learning, azaz a mély tanulás áll, amelyet a számítógépek számítási kapacitásának ugrásszerű növekedése tett lehetővé. A deep learning olyan mesterséges neurális tanulást jelent hálózattal, amelyet az állati vagy az emberi agyban lévő neuronhálózat inspirált. Bár a mesterséges intelligencia vagy inkább értelem fogalma először 1955-ben tűnt fel a szótárakban, az első nagy áttörést az AlexNet nevű rendszer hozta el 2012-ben. A Torontói Egyetemen megalkotott modell abban az évben a számítástechnikai kutatóintézeteknek rendezett évenkénti versenyen hihetetlen teljesítményt nyújtott a képfelismerés terén. A vizuális felismerés technológiája azóta beépült az önvezető autók navigációjába, az okostelefonokba és az utcai térfigyelő kamerákba. Ennek a mély tanulási módnak köszönhetően jöttek létre a chatbotok, azaz a csevegőrobotok, amelyek weboldalakra látogatva segítőkészen ránk köszönnek. Komolyabb változatuk a különböző feladatokra képes ChatGPT, a fent említett bonyolult matematikai feladvány megoldója. A mesterséges intelligencia belépett a való világba.
felfalja a világot
Az MI-technikák gyakorlati alkalmazási lehetőségeinek kimunkálásán dolgozott az utóbbi évtizedben Mustafa Suleyman brit vállalkozó, aki kutatólaboratóriumában, a DeepMindnál olyan rendszereket fejlesztett, amelyek képesek sok milliárd dolláros adatközpontok kezelésére. Megszületett a több mint száz nyelven szintetikus hangon megszólaló felolvasórendszer, úttörő algoritmusnak köszönhetően nőtt a telefonakkumulátorok élettartama, és az okostelefonokra írt appok számos szolgáltatás elérését könnyítik meg. Ahogyan a közelmúltban magyarul is megjelent, Michael Bhaskar író, kiadóvezető közreműködésével készült A következő hullám című könyvében Mustafa Suleyman fogalmazott, elérkeztünk az MI tömegtermeléséhez, a „szoftver felfalja a világot”. Tapasztalatai alapján biztos abban, hogy az emberiség fordulóponthoz közeledik a magasabb rendű technológiák terén, és az új eljárások közeledő hulláma a mesterséges intelligenciára és a szintetikus biológiára, vagyis a mérnöki tudományok szintjére emelt, DNS-láncokat, molekulákat alkotó, géneket módosító élettudományra épül a következő évtizedekben. Először kerül komoly kihívás elé világunk két alapvető területe, az emberi értelem és az élet, vagyis a biológiai létezés. „Más szóval, a technológia fázisváltáson megy keresztül. Már nem csupán eszköz, hanem életet is teremt, illetve versenyre kel a mi intelligenciánkkal, és le is győzi azt” – állítja Mustafa Suleyman.[1] A hullám fogalmán a módszerek és eszközök egy nemzedékének széles körű elterjedését érti, amelyet egyetlen általános célú technológia segít elő. A közeledő hullámot megítélése szerint az MI és a szintetikus biológia körül összpontosuló technológiák halmaza alkotja, amelyek alkalmazása egyszerre teremthet az emberiségnek még jobb életkörülményeket, ugyanakkor példa nélküli kockázatokat is hordoz magában. „A történelem nagy része során a technológia legnagyobb problémáját a létrehozása és a kifejtett hatása jelentette. Mostanra fordult a kocka: a technológia legnagyobb kihívását manapság már a hatása kordában tartása jelenti annak biztosításául, hogy továbbra is minket és a bolygónkat szolgálja majd.”[2]
A négy részre tagolt vaskos könyv először a Homo technologicus évezredekre visszanyúló tevékenységével ismerteti meg olvasóját a történelem különös olvasatát adva. A szerző kiemeli, hogy az emberiség történetében alig huszonnégyre tehető az általános célú technológiák száma, amelyek olyan találmányokat jelentenek, mint a földművelés, a vas, bronz és hasonló anyagok megmunkálása, a nyomdagépek, a gyártósor, az elektromosság és végül az internet.[3] Az általános célú technológiák lényege, hogy megjelenésük után új találmányokat, javakat és szerveződési formákat eredményeznek. Az első általános célú technológiának tekinthető a kőpattintás és a tűz használatba vétele, és ez a tudás azután széles körben elterjedt. A nyelv, a mezőgazdálkodás, az írás értelmezhető egy-egy korai hullám középpontjában álló általános célú technológiaként. Ez a három hullám teremtette meg a civilizáció alapjait. Az i. e. 9000 és 7500 között lezajlott mezőgazdasági forradalom leglényegét a növények és az állatok háziasítása jelentette. „Ezek a fejlemények nemcsak az élelemszerzést változtatták meg, hanem az élelem tárolásának módozatait is, továbbá a szállítási formákat és a működőképes közösségek nagyságrendjét is. A korai mezőgazdasági termények, mint a búza, árpa, lencse, csicseriborsó, illetve az olyan háziállatok, mint a sertés, a birka és a kecske, az emberek irányítása alá kerültek. Ez végül az eszközök forradalmát is kiváltotta – megjelentek az ekék és a boronák. Ezek az egyszerű újítások hozták el a modern civilizáció hajnalát.”[4] Bár a kerék meglepően későn jelent meg[5] az emberiség történetében, de feltalálása után kulcsfontosságú részévé vált a szekerektől a malmokon, présgépeken át a lendkerékig. A technológiai hullámok időben nem voltak egyenletesek. Az i. e. 1000-et megelőző tízezer esztendőben hét általános célú technológia jelent meg, köztük a nyelv, a mezőgazdaság és az írás. 1700 és 1900 között a gőzgépektől az elektromosságig hat, az elmúlt alig száz évben pedig hét technológiai hullám teljesedett ki, így az atomenergia, megszületett a rádiózás, televíziózás, a műholdas kommunikáció, a számítógép és az internet. A hullámok mindig megteremtették a szükséges teret, ha úgy tetszik, az emberi igényt, keresletet a következő nagy technikai áttöréshez. Alvin Toffler jövőkutató a mezőgazdasági és ipari forradalmak után jelenünkben kibontakozó információs forradalmat tekintette a legnagyobb horderejűnek. Már az 1970-es években úgy látta, hogy a technológiai fejlesztéseknek és az információs rendszereknek köszönhetően a munkák jó részét otthonról, számítógépes távmunkában meg lehet oldani, és olyan emberek és cégek alól, akik nem képesek lépést tartani az információáradattal, könnyen kicsúszhat a talaj. Joseph Schumpeter a találmányok robbanásszerű megjelenését a kapitalizmus ciklikus válságainak meghaladásában ítélte döntőnek. Az osztrák közgazdász szerint a fellendülések hajtóerejét az innováció jelenti, és alapvető szerepet tulajdonított a kreatív vállalkozóknak, akik újítások alkalmazásával a válság túlkínálati állapotát új keresletekkel képesek meghaladni. Schumpeter innovációként értelmezte az új termékek létrehozását, új termelési eljárások bevezetését, beszerzési és értékesítési piacok meghódítását, valamint a hatékony szervezeti formák létrehozását. A gőzgép, a villanymotor vagy a gyártósor lendületet adott a termelés felfutásához. Ezek a felívelő szakaszok addig tartanak, amíg az újítások széles körű elterjedése nem hozza el kifáradásukat. A következő válságot azok a gazdasági szereplők vészelik át gyorsabban, kevesebb veszteséggel, akik a prosperáló időszakban már kidolgozták a technikai, technológiai megoldások új generációját.
lehetséges káros mellékhatások
A történelmi tapasztalatok azt mutatják, hogy a technológia térhódítását nem lehet meggátolni, ahogyan ezt a géprombolók elkeseredett próbálkozása példázza. A kiteljesedő hullámok együtt jártak nem várt negatív következményekkel, ún. „bosszúhatással”. A technológia elkerülhetetlen kihívása, hogy a létrehozók gyorsan elveszítik találmányuk felett a hatalmukat. Az atombomba feltalálói nem tudtak volna megakadályozni egy nukleáris háborút, ahogyan Henry Ford sem tehető felelőssé az autóbalesetekért. A technológiák következményei megjósolhatatlanul tovább gyűrűznek, s ennek a ténynek a felismerése körültekintésre int a 21. század következő hullámának kezelésében. „Ahogy a technológia egyre jobban elterjed, egyre többen tudják használni, új alkalmazásokra adaptálni, előre nem látható módon átformálni, ahogyan csak akarják. Miközben az eszközeink hatékonysága exponenciálisan erősödik és a hozzáférhetőségük is sebesen nő, a lehetséges káros mellékhatásaik is gyorsan gyarapodnak, és a megjósolhatatlan, kivédhetetlen következmények átláthatatlan labirintusává válnak.”[6] Az idézett megállapítás a jövőbeni, sodró erejű technológiai áttörés természetéből adódóan nagyon is megszívlelendő. Erre figyelmeztet Suleyman a következő hullám négy fő vonását sorra véve. Meglátása szerint az aszimmetrikus hatása óriási mértékű hatalomátrendeződéssel járhat, az új technológiák elképzelhetetlenül sebezhetővé tehetik a jelenünkben dominánsnak tűnő politikai hatalmakat. A második jellemző, hogy az MI és a szintetikus biológia hiperevolúció keretében gyorsan tökéletesednek, és elágaznak szomszédos területek felé. A harmadik, hogy a következő hullám alkotóelemei kontrolálhatatlanul sokoldalúan, különböző célokra felhasználhatók. Végül: a mesterséges értelem és a mérnöki biológiatudomány autonómabbak a korábbi technológiáknál. Ezek a tulajdonságok megnehezítik a kordában tartást, és a veszélyek új szintjét rajzolják ki előttünk.
A százéves háború hosszútávú következményeként kiemelik a történészek, hogy a véráldozatokkal, pusztulással járt küzdelem megalapozta az angol és francia nemzettudatot, hozzájárult a hatékonyabb államszerkezet, a birodalmi keretet felváltó nemzetállam megalapozásához. A nyugati civilizáció lényegi jellemzőjévé vált a hatalom központosítása, amely optimális esetben egyet jelentett azzal, hogy az Újtestamentumban szereplő tengeri kígyóról elnevezett magasabb szintű szerveződésre, Leviatánra bízták[7] a társadalom tagjai az emberek közti béke fenntartásának jogát azért, hogy ideális állapot teremtődjön a gazdasági növekedéshez, a biztonság és jólét megőrzéséhez. A nemzetállamok feladata többek között a technológiák kezelése és szabályozása a nép jólétét szem előtt tartva. Suleyman szerint a 21. század elején a modern államok aktív cselekvőképességét veszélyeztetheti a következő hullám, ha nem készülnek fel a kordában tartására. Különösen a liberális demokrata országok vannak kitéve nagyobb veszélynek, amelyeknek a politikai berendezkedésén már megjelentek az első repedések. A nemzetközi színtéren megfigyelhető a nemzetállamok közötti széthúzás és döntésképtelenség például egy más természetű, de módfelett mély válságot előrevetítő klímaváltozással kapcsolatban is, és a hasonlóan terméketlen hozzáállás csökkenti a következő hullám kordában tartásának esélyét. Az új technológia globális terjedése önmagában veszélyt jelent a nemzetállamokra, mert a hatalomgyakorlást kísérő ingatag politikai, társadalmi egyensúly könnyen megszűnhet. Bár a fejlett országok állampolgárai jelenünkben elképzelhetetlen kényelmes életet élnek, mégis áthatja a nyugati társadalmakat az erősödő bizonytalanság, a szorongás a pénzügyi krízisektől, a járványtól vagy a terrorfenyegetéstől. Ennek a közérzületnek a hátterében a kormányzatokba, katonai szervezetekbe vetett bizalom erodálódása húzódik meg, márpedig bizalom nélkül egyre nehezebb helyzetben találhatja magát a társadalom. Míg az Amerikai Egyesült Államokban az 1960-as években az elnökökben az amerikaiak hetven százaléka megbízott, napjainkban ez a bizalmi index húsz százalék alá süllyedt. A bizalmatlanság a nem kormányzati intézményekre is kiterjedt, az emberek fenntartással fogadják a médiumok, a tudományos közösségek és általában a szakértők megnyilatkozásait. A bizalomvesztés pesszimizmust és apátiát szül, amely megmutatkozik a választási hajlandóság csökkenésében. Másfelől járványosnak tűnik világszerte a nacionalizmus erősödése, és növekszik a tekintélyelvűség társadalmi bázisa. A populista mozgalmak veszélyeztetik a liberális demokrata hatalomgyakorlást. A társadalmi feszültségeket tükröző politikai jelenségek hátterében találjuk az egyre nagyobb mértékű vagyoni egyenlőtlenséget. Az Egyesült Államokban a társadalom felső egy százaléka birtokolja a nemzeti jövedelem felét, miközben negyvenmillió amerikai él mélyszegénységben. A demográfiai problémákkal küzdő nyugati társadalmakban csökken a munkaképes korosztály aránya, stagnál az oktatás színvonala, mérséklődik a társadalmi mobilitás. A globalizáció során távoli országokba kihelyezett termelés negatív következményei éppen a legfejlettebb államokban hatnak kedvezőtlenül a rozsdaövezetek megjelenésével, a foglalkoztatási gondokkal. Drágul az élelem, az energia, nőnek a megélhetési költségek, elszabadul az infláció, és az elégedetlen tömegek a populista szólamok hirdetőitől várják a gyors és üdvözítő megoldást.
A korábbi technológiai hullámok is komoly politikai következményekkel jártak. Az előző hullám asztali számítógépeivel és szoftvereivel, az internettel és az okostelefonokkal a növekedés, a tudás és szórakozás könnyen elérhető előnyeit kínálta a társadalomnak, ugyanakkor mára láthatóak a negatív hatások. A közösségi média platformjai az összetartozás érzése mellett zsigeri érzelmi reakciókat váltanak ki, gyűlöletet szítanak, felerősítik a politikai bizalmatlanságot, megosztják, egymással szembe fordítják az egyes társadalmi csoportokat.
folyamatos párbeszéd
Az előző hullám érzékelhetően meggyengítette a modern államok korábban stabilnak tetsző pozícióját azzal, hogy elősegítette az emberek, az információk, a gondolatok, a tőke és a vagyon szabad áramlását. A modern technológia monumentális erejét a nemzetállamok láthatóan alig tudják kezelni, pedig az előző hullám összehasonlíthatatlanul gyengébb a soron következőnél, állítja Suleyman. A történelmi tapasztalatok azt mutatják, hogy a modern technológia és az állam szimbiózisban fejlődött évszázadokon át, folyamatos párbeszédet folytatva. Az írást adminisztratív és könyvelési eszköznek szánták, de az állam törvények, szerződések, birtoklevelek rögzítésére is használta, az írásbeliséggel a kincstári jövedelmek alakulását kísérte nyomon. A nyomda segített a nemzeti irodalmi nyelvek formálásában, a nyomtatott könyvek lendületet adtak a tudományoknak, később a rádió és tévé felgyorsította az információáramlást, a kandalló melletti beszélgetések közvetítésével F. D. Roosevelt közvetlenül szólhatott az állampolgárokhoz. „Egyszerűen fogalmazva, a technológia és a politikai rendszer bensőséges kapcsolatban állnak egymással. Az új technológiák bevezetése komoly politikai következményekkel jár. Ahogy az ágyúk és a nyomda felforgatta a társadalmat, ugyanez várható az olyan technológiáktól is, mint az MI, a robotika és a szintetikus biológia.”[8] A 20. század eleje óta a modern, iparosodott nemzetállam meghatározó szerepet játszott a politikai életben. Megteremtette a társadalmi elvárásnak megfelelően a biztonságot, a legitim hatalom a fékek és ellensúlyok mellett a hatalmi ágak szétválasztásával ellenőrizhetőnek tűnően működött. Ezt a hatalomgyakorlási mechanizmust veszélyezteti a közeledő hullám. A szerző szerint kétfelé billenhet a hatalmi mechanizmus. Az egyik esetben bizonyos demokrata államok tovább gyengülhetnek belülről és zombirendszerekké válhatnak. A liberális demokráciára jellemző hagyományos nemzetállami külsőségek fennmaradnak, de a funkciók kiüresednek, az alapvető szolgáltatások kikopnak, a politika instabillá és széthúzóbbá válik. A másik változatban a közeledő hullám bizonyos összetevőinek átgondolatlan befogadása megnyitja az utat az önkényuralmi rendszerek előtt, olyan leviatánokat hozva létre, amelyeknek hatalma minden korábbi totalitárius kormányét túlszárnyalja. Az államokat összetartó kényes egyensúly mindkét esetben felborul, emlékeztet Suleyman, és megnyílik az út a káosz előtt.
A mögöttünk hagyott 20. század a mozgásba lendült tömegek koraként és a tömegek manipulálásaként egyaránt leírható. Az első világháborút követően a centrum polgári demokráciáiban a társadalmi béke fenntartása volt az elsődleges cél, míg a periféria államaiban hatalomra került szélsőséges politikai erők a fasiszta Olaszországtól a náci Németországon át a sztálinista Szovjetunióig pozícióikat igyekeztek megszilárdítani. A sajtószabadság felszámolásával a kizárólagossá emelt ideológia mentén a központból vezérelt információáramlás, a propaganda lett a közvéleményalakítás legfőbb eszköze. A közvélekedés formálása elsőrendűen az utcai plakátokból, az újságok uszító írásaiból és a tendenciózusan szerkesztett filmhíradókból állt. A 21. században közelgő hullám a fake news és a deepfake, azaz az álhírek és manipulált tartalmak gyártásának egyre kifinomultabb, az emberek megtévesztésében korábbiaknál jóval hatékonyabb eszközeit foglalja magába. A politikai lejárató kampányokban már napjainkban feltűnnek a manipulált hangfelvételek vagy az MI által létrehozott mesterséges videók, és a hamisítványok annyira meggyőzőek, hogy a deepfake-ek világát meg sem lehet különböztetni a hagyományos média termékeitől. A dezinformációnak ez a fajtája a 20. századi szőnyegbombázással szemben finom sebészeti beavatkozáshoz hasonlít. A mesterséges intelligenciát a politikai színtéren túl a telefonos csalók is felhasználhatják hihetőnek tetsző meséjükhöz, adathalász manővereikhez. A közösségi médiában terjedő, terrorcselekményekre buzdító radikális üzenetek pedig merénylőket inspirálhatnak tömeggyilkosságokra. Mindezek a manipulációs cselekmények tovább roncsolhatják a társadalom megrendült bizalmát. Suleyman arra int, hogy az új technológia terjedése olcsóbbá és tömegessé teszi a rosszindulatú, szándékosan félrevezető információterjesztést, a félretájékoztatást, a téves híradások célba juttatását. Gyorsan eljuthatunk az „infokalipszis” bekövetkeztéig, amikor az emberiség képtelen lesz kezelni a gyanús médiatartalmakat, végül a tudás, bizalom és társadalmi kohézió nem tudja egyben tartani a közösségeket, azok fellazulnak, szétesnek.
a Nagy Testvér
A huszadik századi totalitárius rezsimek a társadalom feletti teljes hegemóniára, engedelmes népességre vágytak, és a cél elérése érdekében a társadalmat, gazdaságot, kultúrát totális ellenőrzés alá vonták. A hatalmi eszközeik azonban a kíméletlen elnyomás, a tömegterror ellenére sem tudták örök időkre fenntartani a rendszert. Az extrém hatalomkoncentráció puha diktatúrához vagy a rendszer összeomlásához vezetett. A következő hullám felveti az aggasztó lehetőséget, hogy a jövőben mindez másként alakul. A megfigyelő és ellenőrző rendszereket működtető mesterséges értelem vitamininjekciót adhat a központosított hatalmaknak, növeli hatékonyságukat és túlélő képességüket. Húsz-harminc éven belül a Nagy Testvér teljeskörűen figyelheti a társadalom egyedeit, összefésüli, tárolja és szükség esetén az engedetlen állampolgár ellen fordítja a róla szerzett adatokat. Kína a legjobb példa erre, ahol az MI-kutatás kiemelt területe többek között az objektumkövetés, a látványelemzés és a hang- vagy tevékenységfelismerés. 2015-ben létrejött az Éles Szemek arcfelismerő program, megalapították a legnagyobb arcfelismerő vállalatot. Mára a kínai rendőrök új technológiával felszerelt szemüveggel ki tudják szűrni a gyanúsított személyt a tömegből. A világ egymilliárd köztéri kamerájának fele Kínában található. A hatósági szervek nem titkolják, hogy a több milliárd arcból álló adatbázissal az állampolgárokat kívánják ellenőrizni, irányítani. A közbiztonsági minisztérium a jelenleg elkülönülő adatbázisokat össze akarja fésülni egyetlen nagy egésszé a rendszámoktól a DNS-ig, a csetfiókoktól a hitelkártyákig. Ezeknek a technológiáknak a birtokában a hatalom gyakorlói nemcsak pontosan előre láthatnak nem kívánatos társadalmi következményeket, hanem rejtetten képesek lesznek befolyásolni akár választási eredményeket, akár egyéni fogyasztói magatartásokat. A modern technológián alapuló megfigyelés életelixírje táplálhatja a totalitarizmust.
A csőd felé tartó nemzetállamok és az önkényuralmi rendszerek is katasztrofális kimenetelt jelentenek önmagukban és a technológia kezelése szempontjából egyaránt, mert sem a tehetetlen bürokráciák, sem a „populista opportunisták”, sem a nagyhatalmú diktátorok nem alkalmasak a nagy erejű új technológiák irányítására. Egyik változat sem képes a közeledő hullám kordában tartására, „mivel a közeledő hullám magabiztos, agilis, összetartó államokat kívánna, amelyek számonkérhetőek, értenek az érdekek és ösztönzők kiegyensúlyozásához, gyorsan és határozottan reagálnak a törvényhozás szempontjából, és főként alkalmasak a nemzetközi koordinációra. A vezetőknek a jövőben eddig példa nélküli merész lépéseket kell megtenniük, és le kell mondaniuk a rövid távú haszonról a hosszú távú nyereség reményében.”[9] Történelmünk legnagyobb hatású, közeledő technológiai áttöréséhez tehát Mustafa Suleyman szerint stabil, jól működő államokra lesz szükség, hogy az új hullám megadja az emberiségnek az általa kínált előnyöket, és ellenőrzésével elkerülhetők legyenek a végzetes következmények.
-
Mustafa Suleyman – Michael Bhaskar: A következő hullám. Mesterséges intelligencia, technológia, hatalom és a 21. század legnagyobb kihívása. Budapest, 2023. Magnólia, 70. [Suleyman – Bhaskar, 2023.] ↑
-
Suleyman – Bhaskar, 2023. 62. ↑
-
Richard Lipsey – Kenneth Carlaw – Clifford Bekar: Economic Transformations: General Purpose Technologies and Long-Term Economic Growth (Gazdasági átalakulások. Általános célú technológiák és hosszú távú gazdasági növekedés). Oxford, 2005. Oxford University Press, 131–202. ↑
-
Suleyman – Bhaskar, 2023. 37. ↑
-
Mai ismereteink szerint a tömör fából készült tárcsakerék feltalálása a késő neolitikumra (i. e. 5000–4000) tehető, azaz évezredekkel a mezőgazdálkodásra való áttérés és a fazekasság kialakulása utáni időszakra. ↑
-
Suleyman –Bhaskar, 2023. 47. ↑
-
Thomas Hobbes angol filozófus (1588–1679) érzékletesen írta le 1651-ben megjelent Leviathan című munkájában, hogy megfelelő kormányzás hiányában fellép a káosz. Elmélete szerint az emberek csak akkor élhetnek békében egymással, ha társadalmi szerződés formájában megegyeznek abban, hogy egy korlátlan hatalommal rendelkező uralkodónak engedelmeskednek. ↑
-
Suleyman – Bhaskar, 2023. 196. ↑
-
Suleyman – Bhaskar, 2023. 198. ↑