Robodilemmák III.

„Hiába itt a tiszta szó…” (Vas István: Egy szerelem három éjszakája, Dal a humanizmusról, 1961.)

Az előzőekben már gondolkodtunk a közlekedési robotok és a gyógyító robotok dilemmáiról, viszont a legkeményebb problémák még bőven hátra vannak. Van egy „dolog”, amit modern (?) emberként nevetséges módon ma már nem tudunk elengedni: ez a „villany”. Elektromos energia nélkül nemcsak blogíró nem írhatná szamárságait, de elolvasni sem lenne miképpen. Elektromos energia nélkül nemcsak közlekedésünk omlana össze (milyen nagy kereslet lenne lovakra…), de már főzni, fűteni sem tudnánk, hiszen kinek van otthon fatüzelésű „sparhelt”-je. Elektromos energia nélkül… nem, erre gondolni is rossz. Bízzunk benne, hogy az emberiség soha nem lesz olyan eszetlen, hogy szándékosan, valamiféle gonosz céllal áramkimaradásokat fog okozni magának (egymásnak…). És bízzunk benne, hogy valóban sikerülni fog a Földet egyre kevésbé megterhelő módon megtermelni a szükséges, de csak a valóban szükséges elektromos energiát. Itt azonban még vannak feladatok.

Az energiatermelés egyik leggazdaságosabb és egyben a környezetre is viszonylag kevésbé megterhelő módja valami olyasmi, ha mindenkinek a saját fogyasztási helyén vagy annak a közelében meg lehet termelni a szükséges energiát. Így volt ez nagyon hosszú ideig az emberiség történelmében, mert a vasúti szállítás, az elektromos távvezetékek, a több ezer kilométer hosszú olaj és gázcsövek, a botrányosan környezetromboló olajtankerek általánossá válása előtt legfeljebb szekerekkel lehetett fát, esetleg tőzeget, itt-ott szenet és persze némi gyertyát szállítani, de nyilván nem túl nagy mennyiségben. Kevesebb, mint kétszáz éve változott a helyzet, és ma ott tartunk, hogy ismét legfőbb ideje létrehozni a helyi energiatermelő mini erőműveket a házak tetején pár tucat vagy pár száz napelemmel, helyenként szélturbinával, mini vízerőművel vagy akármivel, amit majd még ki tudunk találni. Ilyenkor sok esetben ismét nincs szállítási költség, nincs szállítási veszteség, sokkal kevesebb ronda és folyamatosan karbantartandó ilyen-olyan távvezetékre van szükség. De valamennyi azért kell, mert a fogyasztás nem alkalmazkodik a napsütéshez, a szél vagy a víz éppen aktuális erejéhez, ezért ma is van és lesz is amikor a fogyasztóknak szükségük van az átmeneti tárolók, de leginkább a többi erőmű segítségére. Így aztán ma már rengetegen gondolkodnak, kutatnak arról, hogy a nagyon-nagyon sok helyen, esetenként össze-vissza megtermelt energiát miképpen kell jól elosztani. Sok millió, sok tíz vagy sok százmillió termelő, és rengeteg, több milliárdnyi fogyasztó között a biztonságos elosztást természetesen csak nagyon „okos” módszerekkel lehet megvalósítani. Mesterséges intelligenciával, robotokkal, akik igen gyorsan és jól tudnak számolni.

De…

„A robot may not injure a human being or, through inaction, allow a human being to come to harm.”

Az „nyilvánvaló”, hogy egy fűnyíróakku töltése kevésbé fontos, mint egy kórház berendezéseinek a működtetése. Na, de ha az én napelemem termeli az energiát, akkor má’ hadd én döntsem el, hogy nekem mi a fontos! Elviheti-e az általam termelt energiát az „okos hálózat”, amikor nekem is szükségem van rá, mert én még ma füvet akarok nyírni… Holnap nem érek rá, strandra akarok menni! Szabad-e egy mesterséges intelligenciának megváltoztatni a fogyasztók rangsorát (a számukra biztosított energia mennyiségét)?

„A cél szentesíti az eszközt.” Igazából azt sem tudjuk biztosan, hogy ez a mondás honnan származik. Legtöbben Loyolai Szent Ignácnak tulajdonítják, sokak szerint Machiavelli cselekvési programja volt, de mivel latin változata is ismert, lehet, hogy az ókorból származik. Az emberek jórésze számára ennek a mondatnak határozott negatív érzelmi töltése van, hiszen valóban igen sokszor, igen sok nemtelen cél érdekében használták. De ez a veszély a robotokat nem fenyegeti. Nem fenyegeti, mert ők csak matek (de mint említettük volt: sok esetben valószínűségek) alapján hajlandók döntést hozni. És ezért vannak ismét bajban. Ha semennyi sérülést, semennyi sérelmet sem okozhatnak egyetlen emberi lénynek sem, ha szigorúan figyelembe veszik valamennyi érintett emberi lény testi és lelki egészségét, akkor szinte semmit nem tehetnek. Minden más esetben viszont már csak „a cél szentesíti az eszközt” elv fog érvényesülni: meghatározott emberi lényeknek meghatározott mennyiségű sérülést, sérelmet kell elszenvedni ahhoz, hogy egy adott nemes (vagy nemtelen…) célt el lehessen érni. Ez persze tényleg matek, ki lehet számolni a cél értékét és a sérelem okozta kár értékét, a kettőnek lehet (jó, vagy éppen nagyon rossz) helyi („lokális”) optimuma, de akkor Asimov főtörvényeit nem lehet szigorúan, „zéró toleranciával” betartani.

Ismét ott vagyunk, ahol a közlekedési problémáknál. Hogyan tehet egy robot különbséget a célok, az emberi lények között? Melyik cél, melyik emberi lény fontosabb? Melyik mosógép, melyik mosogatógép moshat először? Hol, mennyire legyen meleg? Fontos-e a gumicsirke tömeges gyártása? Nem lenne fontosabb, hogy egy kislány a szomszéd házban, a szomszéd városban, a szomszéd, szegényebb országban egy kicsit több meleget kapjon? De leállíthatja-e egy robot a felesleges fogyasztási cikkek gyártását, korlátozhatja-e feleslegesnek ítélt szórakozások energiaellátását? Hiszen amikor csökken a sportközpontok és a kényelemgyárak használata, akkor pár hónappal később megugrik a kórházak forgalma. Lesz erre jó algoritmus? Vajon elegendők-e a zettafloppok ennek kiszámítására?

És végül a legnehezebb kérdés, amit még egy okos robotnak is igen nehéz lesz elmagyarázni, hiszen a nagyon okos emberek is nehezen (vagy sehogyan sem…) értik.

„A robot may not … allow a human being to come to harm.”

Mi van a hadiüzemekkel? A fegyvergyárakkal? Ezek ma, minden országban energia szempontból (is…) kiemelten fontos létesítmények. Ezek ellátása még a lakossági energiaellátásnál is előrébb való, pedig a kommunális szolgáltatás csak egészen-egészen kivételes esetben korlátozható. A hadiüzemek soha. És ha az energiaelosztást vezérlő robotnak kell döntenie, hogy az ágyúgyárak vagy a beteg kisgyerekeket kezelő kórházak kapjanak energiát?

Ez már színtiszta demagógia? Lehet egy robot demagóg? Lesznek demagóg robotok?

Olvashat-e egy robot Adyt? Lehet, hogy egyszer majd éppen egy robot lesz „ember az embertelenségben”? Hallgathat-e egy robot Vas István verseket? Alkothat-e egy robot véleményt a humanizmusról? (Mielőtt rávágjuk a választ, érdemes elolvasni a Wikipedia szócikket. Aki teheti, inkább az angolt, az kiegyensúlyozottabb…) Hallgathat-e egy robot Omegát? Elmenekülhet-e, képes lesz-e elmenekülni egy robot a számára is megoldhatatlannak tűnő problémák elől?

Vajon lesznek-e pacifista robotok? És a többi robot őket gyávának és gyengének fogja érezni, és kitagadják őket maguk közül?

A cél valóban szentesíti az eszközt? Blogíró 50 éve olvas Adyt, hallgat Vas Istvánt, Omegát és még sok mindenki mást is, de nehezen válaszolna, ha őt kérdeznék.