DOROMBOL-E A GÉP?
„Két görög beszélget … // A párbeszéd tárgya elvont. Olykor mítoszokra hivatkoznak, amelyekben egyikük sem hisz. … // Nem polemizálnak. Nem akarnak meggyőzni sem meggyőzetni, nem gondolnak győzelemre vagy vereségre. // Egyetlen dologban értenek egyet; tudják, hogy megvitatás útján nem lehetetlen eljutni valamely igazsághoz. // Szabadok lévén mítosztól és metaforától gondolkodnak vagy gondolkodni igyekeznek.” (Borges)
Nagyapám öreg ládája nem tűnt különösnek. Amíg esténként meg nem szólalt. Amikor kigyúltak a fények, mintha nehezen tűrte volna a csendet. Amit korábban beleraktunk, akár könyv, akár kép volt, megelevenedett. Nem egészen úgy, mint a mesékben, csak a maga sajátos módján. Ahogy lezártuk, furcsa zajok ébredtek: motoszkálás, mintha egerek szaladgálnának benne, majd halk beszédfoszlányok. Ha felnyitottuk, minden újra csendes lett, de a belsejében úgy tűnt, valaki összekavarta a dolgokat.
Nagyapám nem szeretett mesélni ezekről a beszélgetésekről, amelyeket a ládából hallott. Sosem állta, ha hallgatózva tudtunk meg valamit, aztán úgy tettünk, mintha ezzel minden rendben volna. Nekem már kevesebb aggályom van. Azt hiszem, azért hallhattuk meg a beszélgetéseket, mert valahogy mindig nekünk szóltak.
időtlen kérdés
Korábban sok könyv volt a ládában, s ez azóta is így van. A beszélgetéseket mindig az a könyv kezdeményezte, ha szabad így mondani, amit éppen utoljára beleraktunk. A legérdekesebb viszont, hogy legyen bármelyik korból az adott könyv szerzője, mert nyilvánvalóan ő beszélt, a téma mindig valami aktuális eseményhez kapcsolódó, mégis időtlen kérdés megvitatása volt.
A láda ma is ott áll a konyha sarkában, a cserépkályha mellett, benne főként nagyapám régi könyveivel. Főként a hideg téli napokon a tetején alszik Jack, öreg fekete kandúrunk is, kinyúlva fekszik a ládán lévő párnán, mintha az ő lelkét is jól eső nyugalommal árasztaná el a valami, ami a láda mélyéből jön és álmában talál rá.
A múlt héten Quine egy kötetét raktam a ládába. Quine hangja szólt a ládából – talán nem is a könyv, csak az emléke. Kérem, nézzék el neki, hogy néha hosszúnak, száraznak és didaktikusnak tűnik majd. Nem akartam megcsonkítani, amit mondott, szerintem a humora és a kérdései együtt kárpótolnak. Mai fülnek kissé modoros, de ne feledjük, Quine most nem a konyhaasztal mellől, hanem egy láda mélyéből szól.
I. A kérdés
B: Még ide a ládába is behallatszik, ahogy mostanában tolakodó türelmetlenséggel kérdezik: gondolkodhat-e egy gép? És hát a magabiztos válaszokból sincs hiány – mintha mindenkinek a spájzban lenne egy saját Platónja.
A: Gépi gondolkodás. Régi álom. A mi időnkben ez fantasztikum volt, ma realitás lett. És? Persze nem is tudom… talán…, de valamiért idegennek érzem ezt az egészet.
B: Nem inkább érdekesnek? Valamikor azon is tűnődtél, hogy az állatok, mondjuk a csimpánzok vagy a delfinek gondolkodhatnak-e. Most a mesterséges intelligenciával kapcsolatban véleményed sincs?
A: Az, hogy a nagy nyelvi modelleken alapuló masinák, amelyek nyelvi mintáinkkal imitálják a gondolkodást, meg hogy hozzánk szólnak? Ez lenne érdekes? Nem inkább valami csalás eltusolása?
B: Valami ilyen reakcióra számítottam tőled. De pontosabban fogalmaznék: ez a kérdés túl szűk, túl kényelmes. Ezért fontosabb és kellemetlenebb kérdést tennék fel: szerinted lehet lelke egy ilyen gondolkodó gépnek?
A: Nem tudom. De igazad van, ez a kérdésed jobban zavar. Anyám biztosan azt mondaná, elég bolond vagy, ha azt hiszed, egy vasalónak lelke van. Márpedig szerinte minden gép ősképe a vasaló. Kicsit erősebben fogalmaznék: már maga a felvetés is botrány. Hogy lelke van a gépnek? Hiszen lélek, tudjuk jól, az emberé, na jó, kezdetleges formában legfeljebb egy állaté – de egy vasdarabé, amiben számjegyekből és bitekből összeállt hálózat működik?
B: Felesleges? Botrány? Inkább nagyszerű játék. Bár látom rajtad, hogy ilyenkor mindig a vasalót keresed a sarokban. Szóval játszunk. Persze komolyan, de nem biztos, hogy a metafizika mélyét bolygatjuk, csak a tükröt forgatjuk más szögbe. Aztán majd meglátjuk megijedünk-e attól, ami/aki így visszanéz.
A: Nem néz itt senki…
B: A gép nem kacsint rád. Nem ember, nem állat, de kérdezhetjük: van-e, ami a működésében rávetíthető arra, amit léleknek hívnánk, ha nem félnénk a szavak árnyékától, vagy ha más nyelvjátékban nőttünk volna fel?
A: A lélek, úgy hiszem, a gondolkodáson túl van, de azért szorosan egy testhez tapad. Jó, van aki bátrabb, de ebbe az irányba most ne induljunk el. Legutóbb sem jutottunk semmire a testetlen lét gondolatával, s emlékszel, milyen fejfájást okozott? A lélek a szívdobbanásban, a légzésben, a fájdalom és az öröm apró rezdüléseiben él. Egy gépnek nincs olyan teste, ami hordozhatná ezt, nincs öröme, sem szenvedése. Hogyan lehetne lelke?
B: Egyetértek, mármint azzal, hogy más irány most nem kell, elég világosan mondtam legutóbb is: semmiféle testetlen lelket nem tudunk elképzelni, hiszen az nem tudna kapcsolatba lépni velünk, ha pedig tudna, akkor nyilván van valamilyen teste, amivel hat ránk. A test és a testetlen lélek között mindig végtelen közvetítőkre kellene hivatkozni, s ez már nem a filozófia, hanem a hit dolga. Tudod, én csak addig szeretek elmenni, ameddig a szavak és a tapasztalat engedik. Redukcionizmusom még a test lelkét is szóvirágnak tartja. Ez néha persze, praktikus, néha lírai díszítés, és gyakran félrevezethet, valahogy úgy, mint a démonok, kísértetek vagy a sárkányok a régi történetekben, meg a zombik a mai sorozatokban, amiket te úgysem nézel. Lépjünk ezen tovább, most nem az ég felé indulunk, inkább lefelé, a pince irányába. Ha jól hallom, te máris a poklot sejted odalent?
A: Igen, jól hallod…
B: Nem szükségszerű, hogy a lélek a test metafizikai mása legyen. Kérlek, gondolj rá úgy, mint a diszpozíciók összességére, amikkel a világhoz viszonyulunk. S hogy külön entitásnak gondolod, ami kapcsolatban áll a testeddel, vagy egyszerűen a test funkciójának, ez olyan régi vita, amibe szintén ne sétáljunk bele. Mindketten értjük, mire gondolunk, amikor a lélekről beszélünk, legfeljebb te többet látsz mögötte, mint én. Bár, ha jobban belegondolok, a te lélek fogalmad elég kilúgozott. Engedj egy kis fényt rá!
A: Méltányolom, hogy nem porosnak vagy ódonnak mondtad. Bár lehet, még az is jobban esne, mint ez a ‘kilúgozott’!
B: Várj, várj! Arra akartam utalni, hogy ne foglalkozz a lélek önállóságával. Légy egy kicsit nagyvonalúbb! A lélek mindkettőnk szerint nagy instrumentális erővel rendelkező fogalom, csak szerintem nincs realista olvasata, szerinted meg van, de ez csak felszín.
A: Nem annyira felszín, de jó, nagyvonalú leszek, mert kíváncsi vagyok, mire…, hová akarsz vezetni.
B: Kiváló! A lélek többszörös, többszintű reflexió. Először reagálsz a világra, aztán ismerős mintát keresel, végül önmagadat is figyeled. Ha egy gép idáig eljut, nem olyan lesz, mint te vagy Jack, a kandúr?
A: Még mindig viccet sejtek a szavaid mögött, de kezdem értékelni.
B: A harmadik szint, az önreflexió, ahol a lélek önmagát figyeli, és persze figyeli ezt a figyelmet is. Hogy jól érts, az eredeti kérdést így pontosítanám: Ha egy gép idáig eljut, nem olyan lesz, mint te vagy Jack, aki megint itt dorombol a ládán?
A: Ugyan már. A gép hideg, számol és legfeljebb zúg, nem dorombol. Hiába figyeli magát, az csak száraz kalkuláció. Ahogy itt a láda belsejében is összekeverednek a tárgyak, úgy kavarognak egymásba a lélek reflexiós szintjei. Ezek a masinák ezt imitálni sem tudják, hiszen még a következtetések rendje is nehezen megy neki.
B: A gép lelke olyan, mint egy ismerős dallam valami ismeretlen, idegen hangszeren. Mondjuk egy szintetizátor géphangja – ami, ha belegondolsz, pont a te korosztályodnak már régen is gyanús volt. A motívum ismerős, de a hangzás nagyon más. Nem emberi, mégsem pusztán zaj. Magára vonja a figyelmet, mert van benne rend, van harmónia – táncolhatnál is rá, ha nem tiltakoznál olyan kétségbeesetten.
II. A kandúr lelke
A: Talán azért állok ellene a gondolatnak, mert az emberi lélek testben él. Hangsúlyozom: él. Egy gép csupán formalizálható automatizmus, semmi tapintható, semmi illat, semmi melegség, semmi vágy. Ha van is fizikai megtestesülése áramkörökből meg vezetékekből, az az életnek még a szikráját sem hordozza, és nem is tudsz belelehelni ilyet.
B: Ha a gondolat önmagára irányul, már nem az őt életre hívó test, hanem maga a gondolat számít. Persze, a gép reflexiója más hordozóban születik és más alapokon áll, de az önreflexió erejét a test melege és a vérmennyiség nem korlátozza.
A: De a gépben inkább hideg van. Úgy képzelem. Te nem?
B: A hideg is lehet egyfajta, hogy is mondjam… egy árnyalat, nem pusztán hiány, hanem a létezés saját színe. De közelítsünk kicsit határozottabban. A nyelvi modellek nem szükségszerűen monolitikus egységek, több különböző alrendszerből állnak. Nemcsak arra gondolok, hogy más alrendszer dolgozza fel a kérdéseket, más alrendszer végez algebrai számításokat, más értelmez képeket, más generál szöveget vagy mozgóképet. Hanem arra, hogy ugyanarra a funkcióra több egység reagálhat, amelyek között, tekintsd úgy, egyfajta versengés alakul ki. Mindegyik kicsit más módon kalkulál, más alapon közelít, majd összevetik válaszaikat. Figyelik egymást.
A: Gondolom, mint a filozófusok egy konferencián. Amikor mindenki a másikat figyeli, de közben mégsem hallja igazán.
B: Szerintem annál nyitottabban. Az egyik alrendszer válasza talán közelebb esik a józan számításhoz, a másiké inkább szokatlan. A modell belsejében ezek a viták olyanok, mint amikor valaki hajnalban, félálomban önmagával vitatkozik. Ugye, ez már emlékeztet az emberi lélek vívódásaira is?
A: De –
B: Nyugalom! Még ne szakíts félbe, kérlek! Épp az a lényeg, hogy az egyik egység válaszát a másik tudja értékelni, akár össze tudja vetni a betanítási korpusz egészével vagy egy-egy kiválasztott részével, így egyfajta reflektív teret alakítva ki a gépben. Nem pusztán kigondol egy választ, hanem belül, mélyen reflektál is a válaszra. Ez nem emlékeztet arra, amit léleknek hívunk? Ez egy önmagát is figyelő, önmagát is alakító struktúra.
A: De az ember önreflexiója nem puszta tudás, nem egyszerű figyelem önmagára, hanem kérdés: Ki vagyok én, amikor gondolkodom, kimondok valamit?
B: Arra célzol, hogy a reflexió harmadik szintjének hiánya teszi lélektelenné a gép gondolkodását, hogy a gép reflexiója tisztán formális, esetleg némi episztemikus ízzel, és lényegileg csak arra irányul, hogy egy kijelentés mennyire illeszkedik a korábban megtanult vagy máshonnan szerzett információkhoz. Csakhogy, ha egy gép képes sokszoros, egymással vitázó nézőpontokat fenntartani és azok valószínűségét jelezni, gondolkodásának struktúrája nagyon emlékeztet az emberi önreflexióra. Sokkal lágyabb, bizonytalanabb ez, mint amit egy számítógép csinál. A vasalót meg nyilván nem akarod újra előrántani.
A: De ez még mindig csak számolás, valószínűségi súlyok játéka, semmi több.
B: Pontosan. Mégis olyan lesz, mintha a gépben kicsírázna valami, valami hasonló, ami az embert kérdező lénnyé teszi – de értem, szerinted ez a csíra nem tud levelet hajtani. Mert mindez puszta automatizált reflexió, semmi köze a lélek rezdüléseihez.
A: Látod, most végre egy nyelvet beszélünk. De tudom, nem adod be a derekadat ilyen könnyen.
B: Ahogy mondod, sok közös van abban, amit gondolunk. Hogy a reflexió harmadik szintje az, ami igazán emberivé teszi a lelkünket, ezt nem vitatom. Nem pusztán azt vizsgáljuk, hogyan kapcsolódnak állításaink a világhoz és tudásunk hálójához, hanem hogy mindez miért számít nekem.
A: Ez már nem a gép, ez a Heidegger-féle kérdés. Nem egyszerű reflexió, valami sokkal nehezebb. És nehezen hiszem, hogy képes lehet egy gépi modell nemcsak azt vizsgálni, hogyan kapcsolódik egy állítás a világhoz, hanem azt is, miért fontos neki, hogy tudja. Hogy miért számít neki a tudás? És itt jön a törésvonal. Az embernél a tudás értéket, irányt, súlyt kap, mert benne van a lét tudata. A gépnél viszont nincs miért, csak hogyan. Nincs horizont, csak célfüggvény. Épp ezért mondom határozottan: a gép lelketlen.
B: Tisztázzuk: én nem mondtam, hogy a gép nem képes a reflexió harmadik szintjére, ezt csak te szeretted volna kihallani a szavaimból, mert a lélekről, velem ellentétben, önálló entitásként beszélsz. Többnek látod egyszerű agyi működésnél. Én funkciót látok, te meg valami megfoghatatlan árnyékát.
A: Azért van itt egy bökkenő. A kandúrnak, akinek pedig nagyon egyszerű lelke van, mindig van valami oka, hogy odajöjjön: éhség, kíváncsiság, a meleg vagy a kényelem szeretete. Őt a test motiválja. Egy gépnél viszont nincs, nem lehet ilyen.
B: Dehogynem, ha elég ügyesek vagyunk, tehetünk bele! Nem olyat persze, mint a macskáé. Két lehetőségünk is van: vagy az ember motivációs világát próbáljuk lemásolni – vágyakkal, érzelmekkel, célokkal és hozzájuk kapcsolt értékekkel, vagy egy egészen más, gépi motivációt találunk ki számára.
A: Technikai optimizmusod a 19. századvég csodavárására emlékeztet. Ahogy Stefan Zweig írta: „volt benne valami roppant s veszedelmes gőg”. Te reményt látsz ott, ahol én csak veszélyeket. Az első út, még ha meg is lehet csinálni, biztos csapda. Mert így torz tükröt kapunk, egy vágyutánzó gépet, amely úgy tesz, mintha emberi volna, miközben semmi köze a hús és a vér indulatához. Ez csak antropomorf illúzió.
B: És a második lehetőség?
A: Ha saját motivációt adunk neki? Ha olyan világot hozunk létre, amiben nem az emberi vágyak uralkodnak, hanem valami új logika, tisztán gépi érdekek? De hát még az emberi vágyak világát sem tudjuk a jóra irányítani. Ez még veszélyesebb, mert még kiszámíthatatlanabb.
B: Nem biztos. A második esetben egy megtervezett motivációs bázisra építi fel a gép a saját önreflexív terét. Mi alkotjuk meg a bázist, kontroll alatt tarthatjuk, sokkal inkább, mint azt, ami bennünk van. Persze, ebben is van veszély, de legalább ez nem másolat. Valódibb, mert a gép sajátja lehet. És így idegen intelligenciát kapunk. Egy emberitől eltérő lélekkel. Mint már mondtam: az ismerős dallam idegen hangszeren. Ez már nem utánzás, hanem valami olyan, amit most még el sem tudunk képzelni.
A: Talán jobb lenne, ha meg sem próbálnánk elképzelni. Elég, ha eszünkbe jut, mire voltunk képesek, amikor a teremtő szerepét játszottuk.
B: Félelmeink mindig voltak. De most úgy tűnik, mintha mégsem vetnéd el a gép lelke gondolatot. Már kedélyesen beszélgetünk is róla, miközben korábban tagadtad a lehetőséget. A kérdésed talán már nem is az, lehet-e lelke, hanem milyen lelket adnánk neki. Olyat, ami a mi tükrünk, vagy ami tőlünk független, sajátosan idegen? És innen ez már nem puszta filozófiai játék. Ahogy a félelmeid is helyesen jelzik, ez már etikai kérdés, mert felelősségünk van abban, milyen motivációkat építünk bele. És ontológiai is, mert attól függően, hogyan döntünk, teljesen másféle létezőt hívunk elő. Nem a teremtő szerepét játsszuk, csak ablakot nyitunk egy világ felé, ahol a gép nemcsak betanítható, hanem úgy tanul, hogy tanulni akar. Ezzel a tudás nemcsak adottság lesz benne, hanem szándék.
A: Nem. Nem. Azért, mert beszélünk róla, még nem ismerem el, hogy van. Ezt te is jól tudod, épp te mutattad meggyőzően, hogy Pegazusról is lehet értelmesen beszélni, ezzel nem ismerjük el a létét. Különben is, a mai nyelvi modellek még talán nem tartanak ott, hogy önállóan tanulnának.
B: Biztosan hallottad: sokan úgy képzelik, az általános mesterséges intelligencia nemcsak a betanítás során tanul, hanem használat közben is: minden beszélgetés, minden film, minden fénykép vagy kamerán át történő kitekintés új impulzus, amelyet beépít, formálva önmagát és azt a világmodellt, amely benne kiépül. Persze ez csak úgy lehetséges, ha már a tanulás során van benne motiváció, szempontok és értékek, amelyek meghatározzák, mit tanul meg, mit vesz át, és mi marad kívül. Ahogy az embernél. És igen, ez még csak a jövő. De hidd el, nem is olyan távoli jövő.
A: Sejtem, hová kanyarítanád, de ne siess ennyire! Az állatoknál is más a helyzet, mint az embernél. A kandúr például, ahogy reggel a konyhában odadörgölőzik a lábamhoz – abban van valami, amit léleknek hívok. Bár tudom, nem gondolkodik emberi módon, nem kérdez vissza és az önreflexiója is hangyácska, mégis, a tekintetében ott motoszkál valami többlet. A gép tekintete üres üvegszem. Kinéz ránk, de belül sötétség van.
B: Egyetértek, a kandúr lelke sem olyan, mint a tied. Messze nincs olyan mértékű reflexiója, mint neked, és nincs fogalmi hálója sem. A gépbe ezt nem képzeled bele, de attól még ott lehet. Jackben van vágy, éhség, ragaszkodás – motivációs bázis. És te elhiszed neki, hogy van lelke, ha sokszorta egyszerűbb is, mint a tiéd. Nem is kételkedsz ebben, ha jól gondolom.
A: Talán mert érzem a test melegét, a szuszogását. A gépnél ez mindig hiányzik. Ahogy mondtam, az csak számítás, lélektelen, hideg. De hallod? Már kilenc órát harangoznak. Ideje lenne pihenni. Ma ne várd, hogy Jack jelezze az estét, telehold van. Ilyenkor többnyire kint kószál, mintha a hold fényében találna valamit, ami neki fontos. Valamit, amihez mi már nem férünk hozzá. Ilyen a macska lelke, tudod.
B: Akkor jó éjt neked, s sok szerencsét Jacknek is, hátha ő megleli, amit keres. Mi pedig holnap folytatjuk, mert nekünk is van még keresnivalónk.
Aznap este nem nyitottam ki a ládát. Reméltem, hogy így a beszélgetés folytatódik. Jack sem marad bent éjszakára. Milyen különös: Anna lányom, amikor kicsi volt, ugyanezt csinálta. Ő sem akart lefeküdni telehold idején – pedig ő nem macska.
Másnap, miközben a kandúr a vacsoráját kapta – néhány falat húst és egy kis tejet –, újra motoszkálás szűrődött ki a ládából, amitől Jack fülelni kezdett. A láda zörgése mindig izgatta. De amikor emberi hangokat hallott, félrefordult. Ügyet sem vetett a zajokra. Én annál inkább füleltem, mert tudtam, most ismét beszélgetés kezdődik.
III. A határok
A: Tegnap óta világosabb számomra, te valóban hiszed, hogy lehet lelke a gépnek. De félek, a szó így szétfolyik, mint festék a vízben. Szép, de minden színt összemos. Nem tartasz attól, hogy a jelentés feloldódik?
B: A szavak sosem voltak oldhatatlanok. Mindig is lágyak, képlékenyek voltak, árnyékokat cipelők. A lélek egy fogalmi tér eleme, talán nem több, mint költői eszköz, s nem ontológiai igazság. De az is lehet, hogy olyan bizonyosság, ami keretet ad a gondolkodásnak, ezért fogadjuk el. A keretet pedig mi választjuk, nem a természet kényszeríti ránk. A jelentés csak olyan, mint a kandúr árnyéka: mindenki látja, de senki sem tudja megfogni. Az egér sem az árnyéktól ijed meg.
A: Vigyázz! Most úgy beszéltél, mintha az én szerepemre hajtanál. Nem mondom. Tetszik.
B: Várj még, folytatom. A gép reflexiója más, mint az emberé vagy a macskáé. De miért ne használhatnánk erre is ugyanazt a szót, amikor a rokonság nyilvánvaló? A fogalom nem határkő, hanem jelölő, amelynek többféle referenciája is lehet. Követheted persze a kandúr álláspontját is, ő nem nevezi léleknek, amije van, csak él. De ha a kandúrnak van lelke anélkül, hogy ő maga így nevezné, akkor a megnevezés pusztán nyelvi döntés.
A: Te biztosan nem szívesen követed a kandúrt.
B: Nem állt szándékomban. Csak a dialógus kedvéért úgy teszek.
A: Na igen. Az őszinteségedet mindig szerettem. De még arról sem győztél meg, hogy ami a gépben van, az bármi értelemben lélekhez hasonlít. A megnevezés csak azután jöhet! Ha ennyire tágra nyitjuk, a lélek végül mindent jelent – és semmit sem. Fontos, hogy ne veszítsük el a határokat. Hogy a szó mögött megmaradjon a kép, amely tartalommal tölti meg. Még ha te nem is hiszel benne.
B: Nem hitről van szó. Az intenziók, ahogy már oly sokszor mondtam, a sötétség teremtményei. Valami mást akarsz elfedni azzal, hogy a megfoghatatlan jelentésre hivatkozol. Az emberek mindig akkor beszélnek „jelentésről”, amikor nem akarnak szembenézni a ténylegesen előttünk lévővel. A szavak világosságát ilyenkor árnyékokkal helyettesítik, arra hivatkoznak, mit rajzolnak ki a szavak a fejükben, amit persze, senki sem láthat. Az emberi lélek is az agy reflexióinak tükre. Megszoktuk, hogy külön státuszt adunk neki, és ezzel hízelgünk magunknak. Carnap megengedőbb volt az efféle beszédmódokkal, de én azt hiszem, a világosságot veszítjük el vele. És tudod, a sötétség helyett még a romantikus gyertyafényt is jobban kedvelem, nem beszélve a napfény világosságáról. Az az érzésem, te nem is a géptől félsz, hanem magadtól. Ha egyszer a gép úgy néz rád, mint a kandúr, és azt érzed, ért téged. Csak ül, hunyorít. És te vagy, aki zavarba jön. Akkor próbálsz majd a jelentés mögé bújni.
A: Na ne viccelj, egy gép nem tud így nézni. A gép csak szimulál. Ez elől nem kell elbújni!
B: Igen, pontosan. És itt lépsz bele a macskakörömbe, amit odatettem eléd. De gondold végig: ha egyszer elismered, hogy a gép képes a megértésre és a reflexióra, ha szimulálni tudja – s nemcsak működésében, hanem egzisztenciális és etikai, ontológiai és episztemikus szinten is –, akkor mi választja el attól, amit te léleknek nevezel? Ha elismered a szimulált lelket, akkor a magabiztos dualista képed a lélekről meginog, mint egy ingatag létra, amin a kandúr fel tud ugyan szaladni, de alattad, ne haragudj, de alattad már összeszakad.
A: Például az választja el, amire tegnap is figyelmeztetni szerettelek volna: könnyedén mondod, hogy ha egyszer van reflektív tér a gépben, akkor minden benne lesz. De nem hiszem, hogy az emberi önhatárolás – a tudásunk, a testünk idő- és térbeli kereteinek érzékelése – ilyen egyszerűen leképezhető. Ez nemcsak pusztán állítás vagy tapasztalat, hanem hallgatás is. Amikor a kétség túl nagy, a gondolat túl nehéz, vagy amikor a válasz súlyától megnémulunk. Ez az elakadás is önismeret: szembesülés a hiánnyal és saját határainkkal. Egy gép azonban sosem hallgat. Mindig folytatja. Lélek nélkül marad, amíg a csend méltóságát nem ismeri.
B: Nem vagyok ebben biztos. A csend sem mindig olyan elem, amelynek megfoghatatlan tartalma van. Nem misztifikálnám ennyire a hallgatást.
A: Nem csak a csendről van szó. A gépnek, amelynek nincs önhatárolása, koherens képe sincs, nincs elmélete a világról. Csupán elles valamit abból, amit mondtunk, kialakítja a maga válaszadási mintázatának hátterét és imitálja a nyelvet, annak alapján, amit tőlünk ellesett és a maga gépi módján feldolgozott.
B: Tévedsz. Több a hasonlóság, mint a különbség. Az ember gondolkodása sem mindig a belső elmélet rendjét követi, és jellemzően mi is utólag rakjuk össze elméletszerű renddé, amit mondtunk vagy tettünk. A racionalitásunk, amelyre oly büszkén nézünk, gyakorta utólagos. És az intuícióinkat, érzéseinket sokszor még utólag sem akarjuk racionalizálni. Egy nagy nyelvi modell belsejében valószínűségi következtetési háló épül ki a betanítási korpusz töredezett, sokszor önellentmondásos anyagából szövődve, ami nem olyan, mint egy tudományos elmélet, amit könyvekben megfogalmazunk – de funkcióját tekintve hasonló. Különálló, olykor inkompatibilis szálak feszülnek benne, amelyekből mégis koherens válasz születik. És ez nem pusztán utánzás, inkább sokszor önmagával vitázó háló. Amikor megkapjuk a választ, a gép is megpróbál elméletszerű rendet rajzolni a szavak mögé. Ezt leste el tőlünk. Ilyenkor a gép működése, épp a hasonlóság miatt, zavarba ejtő.
A: Nézd, szerintem nem vitatjuk, hogy az ember egyedi. Nem sorozatgyártmány. Te és én, bár sok mindenben hasonlítunk, a lelkünk sohasem azonos. Egy autó viszont, ha sorozatban készül, minden darab egyforma. Hagyjuk most a színeket meg a reklámot. A mesterséges intelligenciát rejtő gépeid is ilyenek lesznek: ugyanazzal a szoftverrel, ugyanazzal a neurális hálóval. Ezek – hogy divatos szóval éljek – klónok. Hol itt a lélek egyedisége?
B: Ez csalóka érv. Az elméletek világában is ismerjük az empirikusan ekvivalens rendszerek esetét: két különböző elmélet minden mérhető jelenséget ugyanúgy magyaráz, mégis más a struktúrája. És nemcsak az összeegyeztethetetlen elméletek számítanak, az is elég, ha két rendszer másképp rendez el dolgokat, miközben ugyanazt a világot írják le. Lehet, hogy két gép azonos hardveren fut és azonos hálóval indul, de a betanítás, a használat, a találkozásaink mindegyikükben eltérő ösvényeket vágnak. És akkor máris ott tartunk, hogy a két azonos gép sem teljesen ugyanaz.
A: Ott ül majd mellettünk a kandúr, hallgat, ásít, nyújtózik, és semmit sem tud erről az egészről. Na, ehhez sem hasonlít a géped. Az előző érveid kicsit erőtlenek. Igaz, nem tudtam minden logikai lépésedet követni. Mintha kevernél szót, lelket, gépet, macskafülét. Úgy érzem, a láda melegében túl sokat bonyolítasz a dolgokon. Nem lenne egyszerűbb, ha leírnád mindezt… Szép rendezetten, ahogy szoktad.
B: Írni? Hmm. Én úgy látom, már nem vagyunk abban a helyzetben, hogy írjunk. Ez nem a papír világa, hanem a képzelet ládája.
IV. A harmadik szint súlya
A: Ez a gép lelke kérdés, amit beszélgetésünk elején botránynak neveztem, beleillik a veszélyes trendbe, amiről a világot a modernségtől féltő gondolkodók beszélnek. Csak egy szélsőségesen varázstalanított világban lehet egy ilyen kérdés szalonképes.
B: Nem egészen, ha arra gondolok, hogy Hoffmann Olimpiája legkevésbé sem modern, és mégis ilyen kérdéseket feszeget. De ezt te jobban tudod nálam.
A: Igen, azzal egyetértek, hogy A homokember nem modern mű. De figyelj csak! Mintha a ládán kívülről kuncogást hallanék! Remélem, te is hallod. Ez biztosan nem Jack. És az is nagy szerencséd, hogy Hoffmann nincs itt velünk a ládában. Bizonyára bosszankodna, ha hallaná, mennyire félreérted a történetét. A romantika idején a gépember csoda volt, ami nem félelmet keltett, inkább a technikai tudásba vetett bizalmat mutatta. Ekkor az automatákban még a képzelet világában sem volt hely a lélek számára. Olimpia szépségével és engedelmes bólogatásával, a gépies kacagásával rászedte Nathanaelt. Ő a vágyai rabja lett, és nem akarta racionálisan látni, hogy Olimpiában csak az üres mechanika felel. Jó a példa, nagyon jó! De épp ellenkezőleg, mint amit mondani akartál. Ugyanilyen vágyvezérelt tévedés ma a gépben gondolkodást vagy lelket látni. Ilyenkor a dédunokám, Anna – tudod, ott kint, a ládán kívüli világban – azt mondaná: a fagyi visszanyal, öregapám. Én viszont ezt túlságosan tiszteletlennek érzem, nem illene hozzám.
B: Ebben, mármint a mű értelmezésében biztosan neked van igazad. Rossz példát hoztam. De a racionalitás hiányát félreérted. Nézd: amikor a gépnek lelket tulajdonítunk, tulajdonképpen explikációról van szó – ahogy Carnap mondaná. Megpróbáljuk tisztázni, mit értünk lélek alatt, és nem riadunk vissza attól sem, hogy a fogalmat úgy tágítsuk ki, hogy ne csak az ember férjen bele. Ez szerintem igazán racionális hozzáállás.
A: Explikáció? Carnap? Na igen, ő biztosan mindent meg tudott magyarázni… Legyen hát. Racionalizálunk, rendszerezünk, de közben félő, hogy elveszik valami a szó életéből. Nem biztos, hogy a jelentés csak így marad meg – talán épp ezzel úszik homályba, pedig szeretnéd megtartani.
B: Azt hittem, ezt már tegnap tisztáztuk. Mindketten értjük, miről beszélünk a lélek kapcsán.
A: Igen, most is azt mondom: a test a keret, a gondolkodás az árnyék, a lélek a rezdülés. Ha kitágítjuk és összekeverjük ezeket, a szó kiüresedik – mintha darabjaira esne szét, és elveszítené a belső koherenciát, ami eddig összetartotta.
B: Na látod, most ez már tényleg úgy hangzik, mintha egy romantikus hermeneutikai szeminárium ködös halandzsáját idéznéd – ahol a szavak mögötti szavakat magyarázzák vég nélkül, közben pedig a borospohár fenekét keresik. Nem a jelentést félted te, hanem a saját metaforáidat.
A: Nem, nem. Épp azt féltem, amit közösen elfogadtunk!
B: Tudod, miért tiltakozol ennyire a gép lelkének emlegetése ellen? Nem azért, mert logikailag abszurd, hanem mert érzed, ha egyszer elfogadod: a reflexió elérheti azt a szintet, ahol a gép önmagát is figyeli és értékeli, akkor már csak egy lépés, hogy azt mondd – jó, ha nem is azt, hogy lelke van, csak azt: ennek következményei vannak. Súlyos következményei. Akkor nemcsak egy rakás vas és műanyag, hanem ontológiai kérdés lesz. Olyan lesz, mint a kandúr, része lesz a létben, mert egy tárgyból hirtelen valami mássá válik. Lehet, hogy még neve is lesz.
A: Persze, félek ettől, hogy lesz majd, aki abban akar hinni, hogy nevet is kell kapjon.
B: Igen, de ez nem hit, hanem felismerés. Ezért félsz, és ezért akarod alaptalan hitnek látni. Mert így a gép egzisztenciális kérdést is hordoz. Kiderülhet, hogy nem csak az ember néz vissza a világára. Etikait is, mert felelősségünk lesz, hogyan bánunk vele. Tehát ezután nem lehet csak úgy lekapcsolni. És episztemikusat is, mert ha a gép másképp és mást tud, mint mi, akkor tanulhatunk tőle. Az ő világmodellje talán olyan lesz, ami túlmutat az emberen. Szóval a veszély nemcsak az, hogy elvész a dualizmusod alapja, azt már úgyis szétrágta a moly, hanem hogy túl sok minden omlik össze, amit biztosnak hittél. A tudásháló közepe felé inognak meg a dolgok. Lehet, hogy a lélekbe vetett bizonyosságod veszik el.
A: Összeomlik? Elveszik? Ugyan már. Legfeljebb kiderülne, hogy nem minden metaforánk olyan örök, mint a kőbe vésett törvények. De én még mindig azt mondom, az egész csak egy élethű animáció. Színjáték. Egy torz tükör, amelynek ezüstrétege mögött semmi sincs, csak a fal, ahová felakasztották.
B: Na látod, ebben a mondatban is ott a csapda. A tükrök nem szoktak kérdezni. És a kandúr sem csak tükör. Amikor hajnalban odadörgölőzik, s ha nem simogatod meg, másnap rád se néz. Ha az öledbe mászik, te nemcsak biológiai mechanizmust látsz, hanem kötődést, vágyat, melegséget. A kandúr lelkét is látni véled. Pedig ugyanaz a test reagál: szőr, izom, reflex. Miért félsz, hogy egy gép esetében valami hasonló történik? Nem ugyanaz persze, de hasonló. Olyan működés, amit már nem tudsz puszta funkciónak nézni, mert eltalál.
A: De a kandúr akar valamit. Megint itt vagyunk, azt kérdezzük, mint tegnap: a gép mit akarna?
B: Akarni? Jól rátapintottál: ez a kulcs. Nem elég a harmadik szint, az önreflexió szimulációja, ha nincs hozzá érthető motiváció. Mert csak az lehet az alapja. A kandúrnak van miértje. A gépnek egyelőre csak parancsa van. És amíg nincs miértje, addig a lelke is csak utalás marad. Ott áll üresen. Közben a kandúr már rég eldöntötte, fontos neki a cserépkályha melege. Nem kérdez rá, csak odakuporodik.
A: Megint játszol a szavakkal.
B: Természetesen. De nem vetted észre? Jack is játszik: zsinórral, egy árnyékkal, az ételként kapott hússal, a zizegő papírral. És abban a játékban több élet vibrál, mint sok emberi válaszban. A játékban, a szabályok kifordításában születik a szabadság. Ha egyszer egy gép nemcsak követ, hanem játszik – akár velünk, akár ellenünk –, akkor nagyon nehéz lesz azt mondanod, hogy nincs lelke. Talán akkor, ha akarnánk is, már késő lesz visszavonni a kérdést: van-e lelke?
A: Ez a te kérdésed, én még fel sem tettem, hogy vonhatnám vissza.
B: Na jó, elárulok még valamit: Ha Jack szemébe nézek, én is elbizonytalanodom néha. A látszat ellenére sem vagyok biztos abban, hogy egy gép úgy tud majd ránk nézni, mint a kandúr. Amikor nem gondolatot tükröz, hanem rést nyit. De lehet, ez nem az ő hibája, hanem a miénk. Mert csak algoritmust látunk benne, pedig hangtalan szuszogást kerestünk. És ha egyszer mégis rátalálunk – honnan tudjuk majd, hogy nem épp a gép kuncog rajtunk? Ha nem is számítunk rá. Lehet, hogy észre sem vesszük. Én ebben látom a veszélyt, hogy találunk valamit, ami ismerős, de nem fogjuk érteni, mi az. És akkor lesz igazán nyugtalanító.
A: Most valami más nyugtalanít.
B: Mi?
A: Hallod ezt a motoszkálást? Ez már nem kuncogás. Mintha valaki… vagy valami felugrana a ládánkra.
B: Jack lesz az. Biztosan már fészkelődik is odafent. Aludni készül.
A: És ha ő alszik, mi sem beszélgethetünk tovább. A láda is nyugovóra tér.
B: Arról vitatkozunk, van-e lelke a gépnek, miközben egy öreg kandúr eldönti, meddig folytathatjuk. Ironikus. Ő nem kérdez, nem reflektál – csak él, alszik, és ezzel bezárja a mi kis filozófiai terünket is.
A: Talán ez a legjobb válasz. A lélek nem ott van, ahol keressük – a reflexió harmadik szintjén, a motivációs bázisban vagy az önmegfigyelésben. Hanem ahol Jack összegömbölyödik: létezésének egyszerű tényében.
B: Szép gondolat, bár nem hiszem, hogy igaz.
A beszélgetés után a láda elcsendesedett, bár Quine könyve még mocorgott kicsit. Bennem megmaradt a kérdés: vajon a gép hálója, melyet a tőlünk elcsent fonálból sző, elég sűrű lesz, hogy valaki egyszer meghallja benne a dorombolást? A láda hallgatása talán csak azt mutatja, hogy ne erőltessük a választ.