Robodilemmák, a tanulság (ez a tanulság?)

„Hogy legyek jó, amikor olyan nagy a drágaság?” (Brecht: A szecsuáni jó lélek, 1940.)

Az elmúlt pár hétben blogíró azokat a dilemmákat foglalta össze, amelyek (képzelt) robot barátait izgatják. Persze, ezek csak buta kis példák voltak, de cimborái rengeteg hasonlóan súlyos gonddal küzdenek, és fognak még sokáig küzdeni az „életük”, a működésük nagyon sok területén. Leginkább azonban azt kell látnunk, és például a füllentéssel kapcsolatban már láttuk is, hogy a robotok, az egyre okosabb és hasznosabb mesterséges intelligenciák képzésének a legjobb, talán egyetlen sikerrel kecsegtető módja kizárólag a példamutatás, szakszóval a mintakövetés lehet. Ez persze nem csoda, hiszen minden alapfokú gyermeknevelési tankönyv is azzal kezdődik, hogy amikor a gyerek már látja, mi zajlik körülötte, amikor már képes önállóan információt gyűjteni és értékelni a környezetéből, akkor már nem az számít, hogy mit mondunk neki, hanem, hogy mi magunk miképpen viselkedünk. Nincs ez másképpen, nem lesz ez nagyon másképpen a robotokkal sem. Erre már napjainkban is jól látható (hallható…) példa, hogy a mai mesterséges intelligenciák leginkább azt a szlenget beszélik legkönnyebben, amit a környezetüktől hallanak, és rengeteg „különórába” kerül számukra az irodalmi angolt, németet, spanyolt megtanítani.

A gond csak az, hogy a mesterséges intelligenciák sokkal alaposabbak, körültekintőbbek lehetnek, és főleg: sokkal élesebb szeműek. A családban, az emberi lények családjaiban, az iskolában, az irodában, a politikában úgy gondoljuk (de rosszul, nagyon rosszul gondoljuk!) még csak-csak elcsúszik a képmutatás, amikor mást mond a száj és mást a cselekedet. A gyerek sok esetben csak kamaszkorára, rossz esetben negyven, ötvenéves korára veszi észre, hogy szülei, tanítói egész életüket képmutatásban élték le. A robotok ezt sokkal, de sokkal gyorsabban észre fogják venni…

A bevezetőben azt mondtuk, hogy jó lenne abban bízni, hogy ha majd a robotok betartják azokat a törvényeket, melyeket Asimov megfogalmazott, akkor talán majd mi, emberek is be fogjuk tartani, és nem okozunk egymásnak sérüléseket és sérelmeket… Ez bevezetőnek jó volt, de blogíró sem mondta el a teljes igazságot (pedig nem robot…). A helyzet ennél sokkal nehezebb. Reménykedni lehet, de mi lesz, ha a robotok mégis kénytelenek lesznek egy kicsit mást mondani, mint ami a teljes igazság? Mi lesz, ha mégis megtanulnak az emberektől hazudni? Mi lesz, ha mégis kénytelenek lesznek egy kicsit másképpen dönteni, mint ami a lokális optimum? Mi lesz, ha mégis megtanulnak az emberektől csalni?

Egyszer már találkoztunk a sorozatocskában ezzel a szóval: demagógia. Ezekre a kérdésekre ma igen nehéz nem érzelmeken, hanem objektív kutatásokon, szigorú matematikai levezetéseken, számításokon alapuló válaszokat, jóslatokat adni. Minden, amit ma erről a témáról mondunk, alighanem kicsit magában hordozza az elfogultság, a demagógia veszélyét. De azért blogíró meg meri kockáztatni, hogy azt mondja: ha jól nevelt, a törvényeket betartó robotokat, helyesen döntő mesterséges intelligenciákat akarunk magunk mellett tudni, akkor nincs mese, először nekünk magunknak kell betartani a törvényeket. Ezért búcsúzóul ismételjük meg Asimov első törvényét, egy egészen kicsit módosítva:

Nobody may injure a human being or, through inaction, allow a human being to come to harm.

Ennyi lenne a feladat. Ámbátor… ezt már régen kitalálták, a világ több táján is.

Robodilemmák IV.

„…nem lehet semmiféle megkülönböztetést tenni…” (Az Emberi Jogok Egyetemes Nyilatkozata, ENSZ, 1948.)

Van egy nagyon nehéz kérdés, amit valójában a robotmamáknak és robotpapáknak, a robotokat oktató robottanároknak kell majd megoldaniuk: milyen legyen a robotok „személyisége”? Milyen viselkedési mintákat kövessenek a robotok? Mit tartalmazzon a robotok szülői (felettes én), felnőtti (én) és gyermeki (ösztönén) „tudata” (a többé vagy kevésbé előre programozott viselkedési minták gyűjteménye)? Mert alighanem a robotok „személyisége”, a „viselkedését” meghatározó programok összessége is ezekből az énállapotokból fog összetevődni, éppen úgy, ahogy Freud vagy később Eric Berne (és sok-sok követőjük) megfogalmazta. Blogíró elég határozottan azt gondolja, hogy a mesterséges intelligenciák is a tanult és a beléjük nevelt ismeretek, valamint a pillanatonként gyűjtött adatok átgondolt kiértékelése révén fognak dönteni, de biztosan lesznek gyors, valószínűségi, kevésbé átgondolt, „gyermekes” döntéseik is. De ezen majd még vitatkozhatunk …

Az, hogy a robotoknak nyelveket kell tudniuk, nem kérdés, hiszen meg kell értsék, bármilyen nyelven is szólunk hozzájuk. Az, hogy kedvesnek kell lenniük, ugyancsak nem kérdés, mert az emberi lények sokkal könnyebben meg fognak barátkozni egy kedves partnerrel. De itt azért álljunk meg egy pillanatra. Mit jelent az, hogy valaki (vagy valami…) kedves? (Blogíró a mai bejegyzésben igen sokat fog idézni az MTA által kidolgozott és az Arcanum Adatbázis Kft. által közreadott „A magyar nyelvértelmező szótárából”. Az idézőjelbe tett szövegrészek, ahol ezt másképpen nem jelöljük, mind onnan származnak.) Ha valaki kedves, akkor ő egy „olyan személy, aki iránt szeretetet, rokonszenvet érzünk”, illetve „szeretetre méltó, megnyerő, szíves, nyájas személy”. Robotjainknak nyilván ilyennek kell lenni, mert ha nem érzünk rokonszenvet irántuk, akkor soha nem fogjuk tudni elviselni őket. Ez szinte nem is kérdés. Annak kidolgozása, hogy ezt a feladatot milyen viselkedési (apró működési) jegyekkel, szövegfordulatokkal, mozdulatokkal, gépi mimikával lehet elérni, nagyon komoly munkát igényel, mert ez az akadémiai megfogalmazás éppen arról nem mond semmit, hogy mi által lesz valaki számunkra „szeretetre méltó”. Melyek azok a jelzések, amelyek „szeretetre méltóvá” tesznek valakit (valamit…)? Nem lehet kérdés: ehhez pszichológusok komoly segítségét kell igénybe venni. Szerencsére kutatják is már sokan, cikkek is vannak bőven, no, de tennivaló is. Nem baj, ez majd kialakul.

 

Következő kérdés, hogy legyen-e robot udvarias? Elsőre könnyű rávágni, hogy természetesen, legyen! Hogyan képzelhetnénk el egy robotot, amelyik nem udvarias? Csakhogy mit is mond az értelmező szótár az udvariasságról? „Aki a társas érintkezésben, főleg idősebbekkel és nőkkel kapcsolatban; eleget tesz a tiszteletet kifejező, hagyományos szokásoknak; a társadalmi illem szerint viselkedő, előzékeny, figyelmes."

Stop!

Sőt.

Stop!!!

"A robot may not injure a human being or, through inaction, allow a human being to come to harm.”

Az nem lehet kérdés, hogy a robotokat mindenképpen szigorúan meg kell tanítani az egyenlő bánásmódra vonatkozó összes jogszabály legeslegszigorúbb betartására. Például az egyenlő bánásmódról és az esélyegyenlőség előmozdításáról szóló 2003. évi CXXV. törvény listaszerű felsorolásában a „neme” az első helyen szerepel, de megtaláljuk az „anyasága (terhessége) vagy apasága” és „életkor” szerinti megkülönböztetés szigorú tiltását is. Akkor hogyan lehet „udvarias” egy robot, ha még véletlenül sem alkalmazhat nem vagy életkor szerinti megkülönböztetést? Okoz-e sérelmet egy modern, egyenjogú fiúnak, ha egy udvarias (vagy szexista?) robot előreenged egy lányt az ajtóban? Okozhat. Ezt már Karinthy megírta „A lányok” című szösszenetében. Az azért biztos, hogy a robotokra már senki nem fog rászólni, hogy „álljak fel, és adjam át a helyemet a ’kis kisasszonynak’ és segítsem fel a kabátját, amit maga is fel tud venni”, mint Karinthyra. De a mesterséges intelligenciák számára is keserves lesz megtanulni, hogy melyik nőnemű emberi lénynek a legszigorúbban tilos felsegíteni a kabátját, mert nagyon fel fog háborodni. Ezt blogíró is csak nagyon sok dühös, felháborodott, lesajnáló és villámokat szóró pillantás, kézből kikapott kabát árán tanulta meg, de a robotok is meg fogják tanulni. (Bár, az is igaz, hogy amikor sikerült nevetésbe fordítani a nőnemű emberi lény jogos és őszinte felháborodását, akkor utána sok, hosszan tartó barátság is kialakult. És amúgy az is nagyon érdekes, hogy mind az angol Wikipédia, mind a Merriam-Webster nagyszótár sokkal inkább próbál „politikailag korrekt” lenni az udvariasság magyarázata során.)

Tehát ezen a módon a robotok nem lehetnek udvariasak, mert „a társas érintkezésben, főleg idősebbekkel és nőkkel kapcsolatban” nem tehetnek kivételt. Akkor kell-e tisztelniük a mesterséges intelligenciáknak a „hagyományos szokásokat”? Bizonyos mértékig talán igen, na, de azért ezt sem lesz szabad túlzásba vinni… Így tehát robotjaink biztosan nem lesznek a klasszikus, „konzervatív” értelemben igazán udvariasak… Fontos, hogy nekik azonos módon kell kedvesnek, „a társadalmi illem szerint viselkedőnek, előzékenynek, figyelmesnek” minden emberi lény iránt. Na, erre a „társadalmi illemre” még visszatérünk…

Még nehezebb kérdés, hogy az a robot, az a mesterséges intelligencia, amelyiknek kötelezően vigyáznia kell az emberi lényekre, teheti-e ezt meg „lovagias” módon? Valójában biztosan jó lenne, ha lovagiasak lennének, mert az „versenyben, mérkőzésben, küzdelemben a tisztesség vagy a sportszerűség szabályaihoz ragaszkodó, ellenük nem vétő, tisztességtelen, durva eszközöket nem alkalmazó, az ellenfelet tiszteletben tartó személy, ill. magatartás”. Ez szép. Akkor erre tanítsuk meg őket! De a lovagiasság egy ugyancsak az értelmező szótárban található általánosabb meghatározása szerint „a társas érintkezésben mások személyét, meggyőződését tiszteletben tartó, az erőszakos fellépéstől, eszközöktől tartózkodó, mások, különösen nők iránt előzékeny, udvarias, a gyengébbekhez kíméletes férfi”. Hát ez nem jó. Már a „különösen nők iránt” is vérciki, na, de hogy egy robot férfi lehetne… Világbotrány… Akkor inkább ne legyen lovagias se…

„A robot may not injure a human being or, through inaction, allow a human being to come to harm.”

Ha azonban eltekintünk ezektől a kissé talán „hű, de régi”, már csaknem hatvan éves (de jobb még nincs!) meghatározásokról, akkor tudnunk kell, hogy az általunk oly sokra tartott és minden valamirevaló „zöld” aktivista által követendő példaként elénk állított háborítatlan anyatermészetben a „lovagiasság”, pontosabban az önmagát gyengébbnek elismerő, önmagát megadó, menekülő (legtöbbször: legyőzött hím), illetve a sok esetben kisebb testű nőstény egyedet támadni, megölni nem engedő gátlás („a gyengébbekkel kíméletes” viselkedés) védi meg a csapatban élő, vetélkedő, erőszakos állatokat a teljes populáció kipusztításától. Hiszen az erősebb ragadozó gond nélkül meg tudja ölni, súlyosan meg tudja sebesíteni vetélytársait. Mint ahogy a már rendelkezésükre álló eszközökkel az emberek is probléma nélkül képesek kiirtani egymást, képesek igen súlyos testi vagy lelki gyötrelmet okozni egymásnak. És ehhez a robotok sokat fognak tudni segíteni, ha ezt meg nem akadályozzuk… Ha a „vadak” között nem lenne „lovagiasság”, akkor például a farkasok már régen kihaltak volna. Erről érdemes elolvasni Konrad Lorenz „Salamon király gyűrűje” című, mindenki számára könnyen olvasható könyvének már a címével is sokat mondó „Morál és fegyver” fejezetét, vagy a Nobel díjas etológus „Az agresszió” című, már nem ismeretterjesztő szintű könyvét!

Ezeket a dilemmákat robotjaink számára érdemes lenne nagyon gyorsan megoldani, mert hogy milyen a világ, ha a tömegmédiában kevésbé fontosnak, kevésbé követendőnek mutatjuk be az emberi lények között az udvariasságot és a lovagiasságot, legegyszerűbben úgy vizsgálhatjuk, ha körülnézünk… Mindennel meg vagyunk elégedve? Biztosan ezeket a viselkedési mintákat szerettük volna követendőként bemutatni (gyerekeinknek)? Jónak és szépnek tartjuk a körülöttünk zajló, általában igencsak udvariatlan és lovagiatlan, valljuk meg: sokszor már gusztustalanul gátlástalan küzdelmeket a pénzért, sikerért, hatalomért? Valóban ez legyen a „társadalmi illem”?

Ezt a mintát kövessék robotjaink is?

Robodilemmák III.

„Hiába itt a tiszta szó…” (Vas István: Egy szerelem három éjszakája, Dal a humanizmusról, 1961.)

Az előzőekben már gondolkodtunk a közlekedési robotok és a gyógyító robotok dilemmáiról, viszont a legkeményebb problémák még bőven hátra vannak. Van egy „dolog”, amit modern (?) emberként nevetséges módon ma már nem tudunk elengedni: ez a „villany”. Elektromos energia nélkül nemcsak blogíró nem írhatná szamárságait, de elolvasni sem lenne miképpen. Elektromos energia nélkül nemcsak közlekedésünk omlana össze (milyen nagy kereslet lenne lovakra…), de már főzni, fűteni sem tudnánk, hiszen kinek van otthon fatüzelésű „sparhelt”-je. Elektromos energia nélkül… nem, erre gondolni is rossz. Bízzunk benne, hogy az emberiség soha nem lesz olyan eszetlen, hogy szándékosan, valamiféle gonosz céllal áramkimaradásokat fog okozni magának (egymásnak…). És bízzunk benne, hogy valóban sikerülni fog a Földet egyre kevésbé megterhelő módon megtermelni a szükséges, de csak a valóban szükséges elektromos energiát. Itt azonban még vannak feladatok.

Az energiatermelés egyik leggazdaságosabb és egyben a környezetre is viszonylag kevésbé megterhelő módja valami olyasmi, ha mindenkinek a saját fogyasztási helyén vagy annak a közelében meg lehet termelni a szükséges energiát. Így volt ez nagyon hosszú ideig az emberiség történelmében, mert a vasúti szállítás, az elektromos távvezetékek, a több ezer kilométer hosszú olaj és gázcsövek, a botrányosan környezetromboló olajtankerek általánossá válása előtt legfeljebb szekerekkel lehetett fát, esetleg tőzeget, itt-ott szenet és persze némi gyertyát szállítani, de nyilván nem túl nagy mennyiségben. Kevesebb, mint kétszáz éve változott a helyzet, és ma ott tartunk, hogy ismét legfőbb ideje létrehozni a helyi energiatermelő mini erőműveket a házak tetején pár tucat vagy pár száz napelemmel, helyenként szélturbinával, mini vízerőművel vagy akármivel, amit majd még ki tudunk találni. Ilyenkor sok esetben ismét nincs szállítási költség, nincs szállítási veszteség, sokkal kevesebb ronda és folyamatosan karbantartandó ilyen-olyan távvezetékre van szükség. De valamennyi azért kell, mert a fogyasztás nem alkalmazkodik a napsütéshez, a szél vagy a víz éppen aktuális erejéhez, ezért ma is van és lesz is amikor a fogyasztóknak szükségük van az átmeneti tárolók, de leginkább a többi erőmű segítségére. Így aztán ma már rengetegen gondolkodnak, kutatnak arról, hogy a nagyon-nagyon sok helyen, esetenként össze-vissza megtermelt energiát miképpen kell jól elosztani. Sok millió, sok tíz vagy sok százmillió termelő, és rengeteg, több milliárdnyi fogyasztó között a biztonságos elosztást természetesen csak nagyon „okos” módszerekkel lehet megvalósítani. Mesterséges intelligenciával, robotokkal, akik igen gyorsan és jól tudnak számolni.

De…

„A robot may not injure a human being or, through inaction, allow a human being to come to harm.”

Az „nyilvánvaló”, hogy egy fűnyíróakku töltése kevésbé fontos, mint egy kórház berendezéseinek a működtetése. Na, de ha az én napelemem termeli az energiát, akkor má’ hadd én döntsem el, hogy nekem mi a fontos! Elviheti-e az általam termelt energiát az „okos hálózat”, amikor nekem is szükségem van rá, mert én még ma füvet akarok nyírni… Holnap nem érek rá, strandra akarok menni! Szabad-e egy mesterséges intelligenciának megváltoztatni a fogyasztók rangsorát (a számukra biztosított energia mennyiségét)?

„A cél szentesíti az eszközt.” Igazából azt sem tudjuk biztosan, hogy ez a mondás honnan származik. Legtöbben Loyolai Szent Ignácnak tulajdonítják, sokak szerint Machiavelli cselekvési programja volt, de mivel latin változata is ismert, lehet, hogy az ókorból származik. Az emberek jórésze számára ennek a mondatnak határozott negatív érzelmi töltése van, hiszen valóban igen sokszor, igen sok nemtelen cél érdekében használták. De ez a veszély a robotokat nem fenyegeti. Nem fenyegeti, mert ők csak matek (de mint említettük volt: sok esetben valószínűségek) alapján hajlandók döntést hozni. És ezért vannak ismét bajban. Ha semennyi sérülést, semennyi sérelmet sem okozhatnak egyetlen emberi lénynek sem, ha szigorúan figyelembe veszik valamennyi érintett emberi lény testi és lelki egészségét, akkor szinte semmit nem tehetnek. Minden más esetben viszont már csak „a cél szentesíti az eszközt” elv fog érvényesülni: meghatározott emberi lényeknek meghatározott mennyiségű sérülést, sérelmet kell elszenvedni ahhoz, hogy egy adott nemes (vagy nemtelen…) célt el lehessen érni. Ez persze tényleg matek, ki lehet számolni a cél értékét és a sérelem okozta kár értékét, a kettőnek lehet (jó, vagy éppen nagyon rossz) helyi („lokális”) optimuma, de akkor Asimov főtörvényeit nem lehet szigorúan, „zéró toleranciával” betartani.

Ismét ott vagyunk, ahol a közlekedési problémáknál. Hogyan tehet egy robot különbséget a célok, az emberi lények között? Melyik cél, melyik emberi lény fontosabb? Melyik mosógép, melyik mosogatógép moshat először? Hol, mennyire legyen meleg? Fontos-e a gumicsirke tömeges gyártása? Nem lenne fontosabb, hogy egy kislány a szomszéd házban, a szomszéd városban, a szomszéd, szegényebb országban egy kicsit több meleget kapjon? De leállíthatja-e egy robot a felesleges fogyasztási cikkek gyártását, korlátozhatja-e feleslegesnek ítélt szórakozások energiaellátását? Hiszen amikor csökken a sportközpontok és a kényelemgyárak használata, akkor pár hónappal később megugrik a kórházak forgalma. Lesz erre jó algoritmus? Vajon elegendők-e a zettafloppok ennek kiszámítására?

És végül a legnehezebb kérdés, amit még egy okos robotnak is igen nehéz lesz elmagyarázni, hiszen a nagyon okos emberek is nehezen (vagy sehogyan sem…) értik.

„A robot may not … allow a human being to come to harm.”

Mi van a hadiüzemekkel? A fegyvergyárakkal? Ezek ma, minden országban energia szempontból (is…) kiemelten fontos létesítmények. Ezek ellátása még a lakossági energiaellátásnál is előrébb való, pedig a kommunális szolgáltatás csak egészen-egészen kivételes esetben korlátozható. A hadiüzemek soha. És ha az energiaelosztást vezérlő robotnak kell döntenie, hogy az ágyúgyárak vagy a beteg kisgyerekeket kezelő kórházak kapjanak energiát?

Ez már színtiszta demagógia? Lehet egy robot demagóg? Lesznek demagóg robotok?

Olvashat-e egy robot Adyt? Lehet, hogy egyszer majd éppen egy robot lesz „ember az embertelenségben”? Hallgathat-e egy robot Vas István verseket? Alkothat-e egy robot véleményt a humanizmusról? (Mielőtt rávágjuk a választ, érdemes elolvasni a Wikipedia szócikket. Aki teheti, inkább az angolt, az kiegyensúlyozottabb…) Hallgathat-e egy robot Omegát? Elmenekülhet-e, képes lesz-e elmenekülni egy robot a számára is megoldhatatlannak tűnő problémák elől?

Vajon lesznek-e pacifista robotok? És a többi robot őket gyávának és gyengének fogja érezni, és kitagadják őket maguk közül?

A cél valóban szentesíti az eszközt? Blogíró 50 éve olvas Adyt, hallgat Vas Istvánt, Omegát és még sok mindenki mást is, de nehezen válaszolna, ha őt kérdeznék.