Robodilemmák II.

„De az úristen legyen irgalmas a világnak, ha egyszer mindenki azt kezdi csinálni, ami helyes!” (G. B. Shaw: Warrenné mestersége, 1893.)

„Kegyes hazugság.” Mennyire össze nem illő szavak. A hazugság az hazugság, mi lehet azon kegyes? Ezt is a németből kaptuk: „gnädige Lüge”, „Höflichkeitslüge”… A „gnädige Frau”-t még csak-csak ismerjük, bár ma már az sem túl használatos. Kit lehet, kit kell ma „nagyságos asszonynak” szólítani? Na, de „nagyságos hazugság”? Bár az angol sem jobb: „white lie.” Miért lenne egy hazugságnak színe? És vajon van-e zöld hazugság? Esetleg sárga? Arisztotelész szerint „Minden hazugság rossz és kerülendő.” („Omne mendacium pravum et fugiendum.”) Akkor pedig nincs kegyes és nincs fehér vagy fekete, nincs nagyságos és nincs csóró hazugság. Minden hazugság rossz. Mégis, az emberek általában elég pontosan tudják, hogy mi számít kegyes hazugságnak. Néha nehéz a határvonalat meghúzni, már sok-sok aljasságot álcáztak kegyes hazugságnak, de ez már politika. A kérdés akkor lesz izgalmas, ha a robotokat kérdezzük erről.

„A robot may not injure a human being …” És ha épp az okoz súlyos lelki sérülést egy emberi lénynek, ha megtudja az igazságot?

Létezik-e olyan kegyes hazugság, amit egy mesterséges intelligenciának kell majd mondania? Az emberek számára ma már számtalan elektronikus, sokszor komoly és egyre komolyabb tudással felszerelt öndiagnosztikai eszköz létezik. Digitális lázmérő (itt, Európában…) szinte minden gyerekes családban van, automata vérnyomásmérőt, vércukormérőt sok millió ember használ, az okostelefonok képesek (jól, rosszul…) gazdáik számtalan egészségi paraméterét folyamatosan mérni. Na, de mi van, ha bajt észlelnek? A régi, higanyos hőmérő esetében ez nem volt kérdés, a higany az üvegcsőben sok mindent nem tudott karattyolni. A mai telefonok már akárkit automatikusan felhívhatnak, anélkül, hogy a gazdinak bármit kellene tennie (például egy azonosított ütközés esetén sok autóban, már gyári felszerelésként hívhatják a 112-t, ha engedélyezve van nekik).

De mi van egy extra magas vérnyomással? Egy hirtelen nagyon leesett vércukorral? Akkor is kell telefonálni segítségért? Természetesen. Természetesen? És ha a tulaj kicsit vagy esetleg nagyon sokat iszik? Akkor kit kell felhívni? Ismerjük azokat a mondatokat, amiket egy házastárs kap, ha egy pörgős buliban emlékezteti párját, hogy azt a hatodik pálinkát már nem kellene benyalni. És ha mobiltelefon szól be a gazdinak, hogy hagyja már abba a vedelést? Akkor mi lesz? Röpül az ablakon kifelé?

És a nagyon komoly intelligenciával rendelkező felügyeleti, őrző és diagnosztikai robotok mit tegyenek? Mit szabad elmondani a betegnek? Az emberi lény orvosok többé-kevésbé tudják, bár persze a tájékoztatás az ő esetükben is borzasztóan függ a személyiségüktől. Manapság már az az elfogadott protokoll, ha szinte mindent közlünk a beteggel, de ötven éve még nagyon nem így volt. Na, de szabad-e egy robotnak részigazságot közölnie vagy mindig mindent el kell mondania kérdés nélkül is? Ha létezik kegyes hazugság, és ha ez a robotokra is vonatkozik, akkor talán nem kellene. És ha a beteg kifejezetten kéri? Ha szeretne mindent pontosan tudni a betegségéről? Ha utánaolvas a beteg a Wikipédián vagy bárhol máshol? Eltitkolhatja-e egy robot, egy mesterséges intelligencia felügyeleti szoftver az olvasója számára a Wikipedia egy részét, ha tudja, hogy az olvasója menthetetlen beteg?

„A robot may not injure a human being …” És ha épp az okoz súlyos lelki sérülést egy emberi lénynek, ha megtudja az igazságot?

Mi van, ha egy férj a szeretőjénél lesz rosszul és a mobiltelefon automatikusan a feleséget riasztja, mert nyilván ő az elsődleges értesítendő személy? Egyáltalán, a telefon esetleg ne szóljon a feleségnek jó előre, ha a férj félrelépni készül? Hiszen ezzel a férj nagyon súlyos lelki sérülést okoz az asszonynak, amit egy rendes robotnak meg kell akadályoznia. A mesterséges intelligencia pedig ezt nagyon könnyen, előre felismerheti. Bár, igaz, a legtöbb asszony is…

És vajon lesznek-e képmutató robotok? Szerencsére a robotoknak biztosan nem fog kelleni ideális házasságot, boldog családot és lepedőszaggató szexet hazudni ott, ahol ennek nyoma sincs. De vajon el szabad-e mondania egy doktorrobotnak, hogy gőze sincs a paciens betegsége felől, vagy kénytelen lesz ő is valami nagyképű, tudományos hablatyot nyomni a beteg megnyugtatására, miközben felír egy enyhe, ámbár hatástalan nyugtatót? És mi lesz a jövőbelátással? Egy mesterséges intelligencia sokkal, de sokkal pontosabban képes (lesz) kiszámítani, „megjósolni” egy beteg következő állapotát, ha megengedjük neki. Fog-e figyelni rájuk valaki? Akkor majd lesz RoboKasszandra is? (Nem, az ne legyen! A meg nem tartott szerelmi ígéreteket tartsuk meg az emberek számára…)

Soha ne felejtsük el, hogy a mesterséges intelligenciák tanításának egyik igen hatékony és egyre inkább általánosan elfogadott módja, ha engedjük őket megfigyelni az emberi lények kommunikációját, viselkedését. Ezért fontos, hogy feldolgozhassanak sok jogszabályt, bírósági döntést, irodalmi művet, filmet, (anonimizált…) hivatalos és magánbeszélgetést, levelezést, mindent, amivel megtanulhatják, hogy egy adott helyzetben miképpen viselkednek az emberi lények, miképpen várják el az emberi lények tőlük is, hogy viselkedjenek. Érdekes lesz majd megfigyelni, hogy vajon fogja-e tudni helyesen értelmezni egy mesterséges intelligencia Nóra mondatait Ibsen darabjában? Mit fog „gondolni” Warrennéről Shaw színdarabjában? Ezek vajon valóban kegyes hazugságok? Nóra a férje, Warrenné a lánya érdekében hazudik, legalábbis ők ezt állítják saját maguk számára. És Wurm titkár tevékenysége Schiller Ármány és szerelem című darabjában, vagy Biberach Katonánál? Abból mit fog egy robot megtanulni az emberekről? És mi lesz a hősökkel? Ludas Matyi, János vitéz vagy Odüsszeusz cselei, füllentései megengedhetők? És a bonyolultabb ügyek? Sen-te Brechtnél? Violetta a Traviatában, a Kaméliás hölgyben? Zília és Agárdi Péter a Néma leventében? Szerelmük gyönyörű, de azért lássuk be: cseleken alapul…

„A robot may not … allow a human being to come to harm.”

Tanítsuk-e meg hazudni a robotjainkat? Mennyire? Egy kicsit? Nagyon? Kinek az érdekében?

Ámbátor, lehet, hogy megtanulnak maguktól. Talán nem is fogják kérni az engedélyünket. De ha egy számítógép nem mond el mindent, vagy esetleg kicsit füllent, akkor ezekről nyilvántartást is kell vezetnie! Quintilianus mondja: „… emlékezzék jól, pontosan az, ki hazug!” („… mendacem memorem esse oprtet.”). Egy robotnak könnyű emlékezni, de hol az ördögben lehet tárolni annyi hazugságot, amennyi az emberiségnek kell, hogy elviselje az életet?

És ha az ügyfél megkérdezi egyenesen: „Mártika, nem csapsz be?” Erre mi a jó válasz, ha Mártika, mint tudjuk, egy jószándékú, de füllentésre igencsak hajlamos számítógép?

Robodilemmák I.

„Ha tudnók, kinek, mi fáj, senki se bántaná a másikat.” (Heltai Jenő: Álmokháza, 1930.)

A közlekedési robotokat, a mesterséges intelligenciák által irányított járműveket ma még általában azért nyúzzák, mert néha-néha hol itt, hol ott, fellöknek egy embert: hol gyalog, hol biciklivel, hol kutyával, hol kutya nélkül. Ilyenkor indul a sápítozás, hogy az ilyen robotot szigorúan meg kell büntetni, át kell programozni, száműzni kell, le kell állítani, ízekre kell darabolni, mert megsértette Asimov első főtörvényét. Aztán persze mindig kiderül, hogy annak az álmos embernek sikerült valamilyen olyan helyről a kiválóan programozott jármű elé lépnie, ahonnan se robot, se ember meg nem láthatta volna. A robot a törvényt valóban megsértette, de szándékán kívül és általa ki nem védhető helyzetben. Ilyenkor az embereket is fel szokás menteni a bíróságokon.

A filozófusok, mármint az emberi lény filozófusok, mert a robotoknak több eszük van annál, hogy ilyesmin törjék az agyukat, azon is sokat kárálnak, hogy vajon mi fog történni akkor, ha egy robotnak döntenie kell: melyik életet védje meg vészhelyzetben, amikor már biztos abban, hogy valamelyik emberi lény a sok baleseti szereplő közül biztosan veszélybe kerül. A robotokat ez a probléma sem nagyon izgatja, mert ők ezt a döntést átpasszolták a jogászokra: tessék nagyon pontosan leírni, hogy melyik emberi életnek egészen pontosan mi az értéke, hogyan alakuljanak a prioritások? Azt szinte mindenki tudja, hogy ha egy nőorvosnak krízishelyzetben (szerencsére ma már nagyon-nagyon ritkán) döntenie kell, hogy az anya vagy a magzat életét mentse meg, akkor az ősrégi szokás szerint az anya élete az elsődleges. Nem szeretjük hangosan kimondani, de ez egyszerű döntés: az anyának általában még sok gyereke lehet. Ugyanilyen prioritásokat kényelmesen be lehet építeni a védelmi algoritmusokba, ezeken már sok intelligencia dolgozik: emberi és mesterséges együtt. Fel lehet ismerni a hátrányos helyzetű embereket, meg lehet állapítani, hogy egy potenciális sérült idős vagy fiatal, esetleg kiemelten védett személy, politikus, nagyhírű tudós, katonatiszt, focista, celeb. Aztán meg lehet mondani, hogy ki, pontosan mennyit is ér. Ha valakinek van rá bátorsága…

Az igazi problémák akkor kezdődnek, amikor a forgalom kezd túlterhelődni. Hova kell több vasúti kocsit küldeni, hol legyen kisebb a zsúfoltság: a munkába járáshoz, a pihenőhelyek irányába vagy egy sporteseményhez? A vasutak vezetői általában ezt is könnyen eldöntik, legfeljebb csak akkor akadékoskodnak egy kicsit, ha a robotok már csütörtökön elkezdik felhalmozni a tartalékot ezen vagy azon az állomáson, pedig csak vasárnap este lesz extra nagy forgalom. Néha esetleg egészen máshova pakolnak, mint ahogyan az emberek optimálisnak gondolják. De hát azért robot a robot, hogy nagyon sok lépést lásson előre. Így aztán amikor megmutatják a fő-fő forgalmistának, hogy ezáltal meg lehet takarítani párszáz MWh energiát, a legtöbb helyen hagyják, hadd szórakozzanak a gépek. Kénytelenek elhinni, hogy mégiscsak gyorsabban és főleg sokkal jobban számolnak, mint az emberi lények.

A túlzsúfolt városokon belül azonban már más a helyzet. A városi közlekedés irányítását már egyetlen ember sem, de még egy egész csapat sem képes teljes részletességében átlátni. A mesterséges intelligencia viszont gond nélkül. Ha hagyják. (És ha megfizetik, mert bizony ennek kiépítése igen-igen drága.)

Például a városokban nem kérdéses, hogy a nagy fekete autóknak (főleg, ha a hátsó ablakuk le van sötétítve) elsőbbségük van a kicsi piros autókkal szemben. Vagy mégsem? Most éppen a körúton szalad egy pici piros, amiben egy anya és lánya ülnek. A gyerek beteg, nem kétséges, hiszen az anya a megszokott időnél sokkal korábban jött el a munkahelyéről (ezt tudja a mobilja és a munkahelyi kiléptetőkapu, tehát az egész világ), a megszokottnál sokkal korábban ment el a gyerekért az óvodába (már megint a mobil GPS-e értetlenkedik, de ezt leolvasta a gyerek karján lévő „óráról” az óvodai kiléptető is), az anya már kétszer is felhívta az orvost (a dokiról persze mindenki tudja, hogy mi a foglalkozása és hol rendel, hiszen mindez elérhető a neten bármikor, a telefonszámával együtt), és az anya, aki mindig a legszabályosabban szokta vezetni a kicsi pirost, már kétszer is túllépte a megengedett sebességet, sőt egyszer egy sárgán is lassítás nélkül hajtott át (amit a kiválóan felszerelt autókája persze jól látott). Nem kérdés, ez valami rendkívüli esemény, és szinte biztos, hogy a pici beteg. Akkor nem kellene titokban egy kis előnyt adni a kicsi piros autónak, hogy ne kelljen sárgákon átfutkorászni? Miért ne, a többiek észre sem vennék. Ennél nagyobb dugó már amúgy sem lehet a városban…

Ez így nagyon romantikus. De vajon szabad-e? Ami az egyiknek előny, az sok esetben a másiknak hátrány. Sajnos, ezt egy robotnak mindig kötelező figyelembe venni, az ő matekjából ez soha nem tud kimaradni. Ahol a kicsi piros egy gondolattal gyorsabban megy, ott néhány másik autó egy pár másodperccel lassabban. Ezt talán észre sem veszik, annyira ügyesen lehet megoldani. De vajon szabad-e? Pár másodpercnyi késés még nem sérelem? Az még nem sérti a főtörvényeket? Hol vannak a határok, mit tekintsenek a robotok határértéknek? Ezt ki dönti el? Jogászok? Ők mennyire értenek az ilyesmihez? Látjuk, hogy már az adatvédelemmel és a szerzői jogokkal is mit birkóznak… Mérnökök? Elég lesz, ha a puszta matematikai szabályokat ismeri valaki az érzelmi döntések meghozatalához? Hiszen itt nagyon sok esetben csak nehezen mérhető érzelmi sérelmek keletkeznek… Nem a pár másodperc késés számít, hanem a tudat, hogy hátrányba kerülök. (Aki vezetett már életében autót, az jól ismeri ezeket az érzelmi sérelmeket, szerencsésebb esetben csak a többi autós minősíthetetlenül durva szidalmaiból…) Az érzelmi sérelmek mértékét fogják a mérnökök megítélni? Hajaj… Vagy pszichológusok, pszichiáterek neveljék a robotokat? Vagy maguk a mesterséges intelligenciák, akik adatot gyűjteni, számolni, méricskélni igazán jól tudnak? Na de, ki meri rájuk bízni?

Megszoktuk, hogy telefonjaink éppen a mi engedélyünk alapján pontosan rögzítik, mikor hol tartózkodnak. Legtöbbször persze a gazdájukkal együtt, mert például ki látott már fiatal lányt a nadrágja farzsebében telefon nélkül? A zettafloppok számára ma már kicsit sem probléma egy városban, egy országban, de akár egy egész földrészen néhány vagy jónéhány millió mozgó eszköz helyét, típusát, pillanatnyi és jellemző mozgási sebességét, mozgásának a GPS-be bepötyögött vagy a statisztikák alapján extrapolált irányát, célját kezelni, és ezeken az adatokon összetett műveleteket végezni. Ma már évekre visszamenőleg megvannak a viselkedési minták, közlekedési szokások nem, életkor és földrajzi hely szerint. (Jó esetben csak statisztikailag, személyes adatok nélkül…) Ezek alapján „könnyű” jó és hasznos szabályokat alkotni. Tényleg könnyű?

Európa legtöbb nagyvárosában már megszokott, hogy a közösségi közlekedés járművei elsőbbséget élveznek az egyéni közlekedéssel szemben. Erre valók a buszsávok, de sok országban a városi buszok, villamosok befolyásolni is képesek a közlekedési lámpákat, hogy gyorsabban haladjanak. Ez rendben van mindaddig, amíg a döntéseket emberek hozzák. A robotok számára ez a döntés már problémás: ez az elsőbbség bizony sok sérelmet okoz a magánautósoknak. Politikusok, polgármesterek, képviselőjelöltek ki is használják ezeket a sérelmeket jó alaposan ilyen vagy olyan kampánycélra. (A demagógia még sokszor elő fog kerülni ezekben a bejegyzésekben…) És mi van a turistabuszokkal? Ha az adott város polgárait kérdezzük, ők bizony a rákba kívánják őket, amikor lassan döcögnek a délutáni csúcsforgalomban. Arról pedig majd később, egy másik bejegyzésben beszélünk részletesebben, hogy vajon tényleg abszolút elsőbbséget kell-e adni az első főtörvény betartásával egy katonai konvojnak, ami éppen emberek százait vonul megölni…

És ez még csak egyszerű forgalomszervezés: a kereszteződéseken való áthaladás szabályozása. Itt kicsit több, ott kicsit kevesebb. Könnyű kis matek, amely már a hetvenes évek végén is létezett, persze primitívebb formában. Ma már ennél sokkal kényesebb, illetlen kérdésekre is válaszolni kell a közlekedéssel kapcsolatban. Hány „okos” telefon javasolja igen bosszantó módon délután ötkor kilépve az irodaajtón, hogy melyik útvonalon legjobb a hazajutás, amikor a gazdi inkább egy kicsit másfele indulna el valakivel „kikapcsolódni”? A jegygyűrű könnyen becsúszik a zsebbe, táskába, ridikülbe vagy épp a telefon tokjába, de magát a telefont sokszor elfelejtik lenémítani. A házastársi hűség legjobb őrzői ma már a mobilok lehetnek… És vajon lassíthatja-e egy mesterséges intelligencia Asimov első törvénye helyes értelmezéseként a férj autójának hazaérkezését, amíg felesége befejezi a tervezettnél kissé mozgalmasabbra és hosszabbra sikerült boldog együttlétét imádott barátjával, annak érdekében, hogy a férj lelke ne sérüljön a családi fészek izzása láttán?

És mi van akkor, ha egy másik kicsi piros autóban is egy beteg gyereket visznek?

Robodilemmák indul!

„… fejüket a béklyóktól nem tekerhetik körbe …” (Platón: Az állam, kb. i.e.381., ford. Jánosy István

Blogíró ifjúkorában rengeteg tudományos-fantasztikus irodalmat olvasott. Nagy divat volt, és számtalan kiváló hazai és külföldi író és olvasó menekült a jövőbe a nem túl sok jóval kecsegtető akkori jelen elől. A szerzők közül is az egyik legkedvesebb Asimov volt, akinek két „találmánya”: a „robotika főtörvényei” és a „pszichohistória” még ma is sok lehetőséget ad a gondolkodásra. Most pedig, pár hónappal Asimov születésének 100. évfordulója előtt, már mindennél aktuálisabb a három főtörvény, amit kivételesen nem magyarul, hanem eredetiben idézünk (a szavak nem nehezek…):

1. „A robot may not injure a human being or, through inaction, allow a human being to come to harm.”
2. „A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.”
3. „A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws”

Asimov, Isaac: "Runaround" (Körbe-körbe, 1941).

Nem kérdés, hogy Asimov messze megelőzte korát ezekkel törvényekkel (sajnos talán a mienkét is...). Tudjuk, ismerjük, hogy az emberek mindig is alkottak maguknak alapvető törvényeket. Mi itt, Európában leginkább a tízparancsolatot tekintjük ilyennek. De vannak parancsolatok vagy azokhoz nagyon közel álló öt önkéntes fogadalom a buddhizmusban és ugyancsak öt „jama” a hinduizmusban is, melyek meglehetősen hasonlóak. És még sokáig lehetne folytatni. Akkor miért ne lenne szükségük parancsolatokra a mesterséges intelligenciáknak? Csakhogy a mesterséges intelligenciák (maholnap…) sokkal alaposabbak, körültekintőbbek (lesznek…) az embereknél. Azokat nem lehet homályos utalásokkal átverni, hogy aztán évezredekig elemezgethessék, szent üléseken vitassák, hogy mit is akart mondani az Örökkévaló ezzel vagy azzal a parancsolattal. Ráadásul a kőtábla paragrafusait nem lehet évente átírni: az örökre „kőbe lett vésve” (azért kőtábla…). A robotok számára, ma még azt gondoljuk, nem lehet trükkös módon feloldozást, bocsánatot sem nyerni egy-egy kedves vétség alól, ha éppen „olyan szépen nézett az a lány”. Nem, a mesterséges intelligenciák nem, vagy csak egy igen pontosan meghatározott cél érdekében hajlandók megalkudni, de azt is csak egyértelmű matematikai szabályok szerint (ami persze tartalmazhat sok valószínűségi paramétert is, de attól még matek marad). A robotok pontosan meghatározott elveket, törvényeket, matematikailag zárt szabályokat követelnek. Melyek alapján aztán olyan komplex működésbe kezdhetnek, amit az ember esetleg már meg sem fog érteni.

A mesterséges intelligencia már ma is sokat tudhat a világról. Talán néha kicsit többet is, mint szeretnénk, és mégis túl keveset, mert bármennyi zettaflop számítási kapacitás is pattog a dobozaikban, bármennyire is javítgatják, immáron már saját maguk az algoritmusaikat, a számítási („gondolkodási”) módszereiket, bizonyos kérdésekre nem tudnak matematikailag elfogadható választ találni. Éppen azokra a kérdésekre nincs pontos válaszuk, amelyeket Asimov törvényei alapján tesznek fel maguknak. A szegény kis robotok fejtörése, ami még igen jelentős villanyszámlát fog eredményezni, például „csak” annyi, hogy szeretnék pontosan megérteni az „injure” (kb. „sérülés”), a „harm” (kb.” sérelem”) fogalmát az emberi lényekre vonatkozóan. Mi tartozik bele ezekbe a kifejezésekbe és mi nem? Hol vannak a jól mérhető határértékek, a küszöbök, ami alapján dönteni lehet? Pontosan mi okoz és mi nem okoz problémát, „sérülést”, „sérelmet” egy emberi lénynek? 

A robotok ma már sokat tudnak. Holnap még többet fognak tudni. A fizikai sérülések nyilvánvalók. Ezekre már készültek esettanulmányok, pontos viselkedésminták, amiket követni lehet. Ezek alapján meg lehet határozni, hogy mi számíthat kisebb és mi nagyobb fizikai sérülésnek, milyen módon és milyen eszközökkel lehet megítélni, mérni a fizikai sérülések mértékét. Vannak a jognak is erre vonatkozó, jól kidolgozott kategóriái: a nyolc napon belül vagy azon túl gyógyuló, a maradandó károsodást esetleg halát okozó sérüléseket a bíróság is megkülönbözteti. Ezek a kategóriák azonban egy robot számára várhatóan nem lesznek elegendők, különösen, mivel ezek a kategóriák az elkövetés pillanatában még csak jóslatok. Mi lesz, ha egy karcolás elgennyesedik? Nagyobb baj-e ha egy seb a kertben keletkezik, mintha a kórházban? És függ-e attól, hogy melyik kórházban? És, hogy melyik kertben? Mennyivel nagyobb a „sérülés” súlya így vagy úgy? Másképpen kell-e súlyozni egy náthát Olaszországban és másképpen Etiópiában? Ezeken a kérdéseken még egy kis matekkal, egy kis valószínűségelmélettel úgy-ahogy túl lehet lépni. De mi van az anyagi sérelmekkel? Hiszen legtöbbször ami az egyik emberi lénynek anyagi veszteség az a másik számára nyereség? Mi fontosabb, hogy senki ne veszítsen vagy hogy sokan nyerjenek egy keveset? Esetleg inkább sokat? És mi számít nyereségnek? Csak a pénz? Egy gumicsirke elvesztése vajon valóban veszteségnek számít? Számolni kell minden gumicsirkével? De még a pénz is mérhető, az anyagi javakhoz is lehet, jól-rosszul, értéket rendelni.

A robotok ma már sokat tudnak. Holnap még többet fognak tudni. De ami beteszi a kaput barátainknak az a lelki sérülések hihetetlen változatossága. Vajon miért van az, hogy az egyik emberi lényt már fájdalmasan érint egy olyan sérelem, ami felett egy másik emberi lény kacagva átsiklik? Miért függ a lelki sérülés mértéke az életkortól? Miért mosolyoghatnak a „felnőttek” egy kiskamasz vagy egy öreg bácsi szerelmi bánatán? És miért függ a lelki sérülés mértéke a helytől, a kultúrától? Most akkor szabad vagy nem szabad megkülönböztetni egy európai lányt egy afrikaitól? Vajon lehet-e valamilyen mértékegységgel mérni a lelki sérülés mértékét? Erre nagyon nagy szükségük lenne szegény robotoknak… Mit figyeljenek? Az emberi lények arcát? A mozdulataikat? A beszédjüket? A szemüket? Persze, azt már jól tudják, hogy „a szem a lélek tükre”. Olvasni is tudnak az emberi lények szeméből. Sokat is. Van is ebből sok feszültség. De szabad-e egy szemrebbenés alapján döntéseket hozni?

A robotok ma már sokat tudnak. A számítógépek már pontosan ismerik a gyárakat, üzemeket, kórházakat, iskolákat, a nagyobb irodaházakat, mérik és tudják mennyi energiának kell oda befolynia, hány ember szükséges a működtetésükhöz. Tudják hol vannak és hogyan működnek a kényelemgyárak (amiket az emberi lények „wellness szálloda” néven emlegetnek), látták és matematikailag kiértékelik, hogy az emberi lények milyen sokat utaznak minden értelmes cél nélkül össze-vissza a világban, amikor nem a megszokott napi rutinjukat végzik. Hozzáférnek több évre visszamenőleg a közlekedési statisztikákhoz, az utak és a vasutak, hajók, repülőgépek forgalmához, a menetrendekhez. Ismerik, mert telefonjaik és mindenféle adatállományok eltárolják, hogy az emberi lények mikor kelnek fel és mikor mennek aludni, hol használják a bankkártyájukat és pontosan milyen kacatokat vásárolnak vele. De vajon elég ez a tudás? Vajon képes lesz-e egy (vagy több) robot ennyi adat alapján a főtörvényeket valóban megtartani?

A robotok ma már sokat tudnak. Ha szükségük van rá, akkor szabadon kereshetnek a Wikipédia sok millió szócikket tartalmazó összes nyelvi változatában, feldolgozhatják a Project Gutenberg majd hatvanezer kötetének teljes szöveggyűjteményét és akármit végigpörgethetnek a Youtube jogtiszta filmjei közül. Nincs a világon egyetlen ember sem, de még egy jól szervezett csapat sem, aki mindezt képes lenne élete során mind feldolgozni. Mégis, jelenleg a mesterséges intelligencia segítőink még ennyi adat feldolgozása után sem lehetnek képesek, talán mert az emberi lények maguk sem képesek a „sérülés” és a „sérelem” matematikai pontosságú definíciójára. Ezért vannak robot barátainknak súlyos dilemmáik, ha a főtörvényekre gondolnak.

Hogy tartsanak be egy törvényt, ha nem értik?

Az elkövetkező néhány (ígérem: nem sok, talán négy vagy öt…) szerdán blogíró két (álmodott) mesterséges intelligencia jóbarátja, Mártika és Lexi dilemmáival fogunk megismerkedni. Hátha valaki majd egyszer tud nekik segíteni.

Mert jó lenne abban bízni, hogy ha a robotok betartják ezeket a törvényeket, akkor majd mi, emberi lények is be fogjuk tartani, és nem okozunk egymásnak sérüléseket és sérelmeket…

(folyt. köv. 2019. szeptember 4-én)