Robodilemmák II.

„De az úristen legyen irgalmas a világnak, ha egyszer mindenki azt kezdi csinálni, ami helyes!” (G. B. Shaw: Warrenné mestersége, 1893.)

„Kegyes hazugság.” Mennyire össze nem illő szavak. A hazugság az hazugság, mi lehet azon kegyes? Ezt is a németből kaptuk: „gnädige Lüge”, „Höflichkeitslüge”… A „gnädige Frau”-t még csak-csak ismerjük, bár ma már az sem túl használatos. Kit lehet, kit kell ma „nagyságos asszonynak” szólítani? Na, de „nagyságos hazugság”? Bár az angol sem jobb: „white lie.” Miért lenne egy hazugságnak színe? És vajon van-e zöld hazugság? Esetleg sárga? Arisztotelész szerint „Minden hazugság rossz és kerülendő.” („Omne mendacium pravum et fugiendum.”) Akkor pedig nincs kegyes és nincs fehér vagy fekete, nincs nagyságos és nincs csóró hazugság. Minden hazugság rossz. Mégis, az emberek általában elég pontosan tudják, hogy mi számít kegyes hazugságnak. Néha nehéz a határvonalat meghúzni, már sok-sok aljasságot álcáztak kegyes hazugságnak, de ez már politika. A kérdés akkor lesz izgalmas, ha a robotokat kérdezzük erről.

„A robot may not injure a human being …” És ha épp az okoz súlyos lelki sérülést egy emberi lénynek, ha megtudja az igazságot?

Létezik-e olyan kegyes hazugság, amit egy mesterséges intelligenciának kell majd mondania? Az emberek számára ma már számtalan elektronikus, sokszor komoly és egyre komolyabb tudással felszerelt öndiagnosztikai eszköz létezik. Digitális lázmérő (itt, Európában…) szinte minden gyerekes családban van, automata vérnyomásmérőt, vércukormérőt sok millió ember használ, az okostelefonok képesek (jól, rosszul…) gazdáik számtalan egészségi paraméterét folyamatosan mérni. Na, de mi van, ha bajt észlelnek? A régi, higanyos hőmérő esetében ez nem volt kérdés, a higany az üvegcsőben sok mindent nem tudott karattyolni. A mai telefonok már akárkit automatikusan felhívhatnak, anélkül, hogy a gazdinak bármit kellene tennie (például egy azonosított ütközés esetén sok autóban, már gyári felszerelésként hívhatják a 112-t, ha engedélyezve van nekik).

De mi van egy extra magas vérnyomással? Egy hirtelen nagyon leesett vércukorral? Akkor is kell telefonálni segítségért? Természetesen. Természetesen? És ha a tulaj kicsit vagy esetleg nagyon sokat iszik? Akkor kit kell felhívni? Ismerjük azokat a mondatokat, amiket egy házastárs kap, ha egy pörgős buliban emlékezteti párját, hogy azt a hatodik pálinkát már nem kellene benyalni. És ha mobiltelefon szól be a gazdinak, hogy hagyja már abba a vedelést? Akkor mi lesz? Röpül az ablakon kifelé?

És a nagyon komoly intelligenciával rendelkező felügyeleti, őrző és diagnosztikai robotok mit tegyenek? Mit szabad elmondani a betegnek? Az emberi lény orvosok többé-kevésbé tudják, bár persze a tájékoztatás az ő esetükben is borzasztóan függ a személyiségüktől. Manapság már az az elfogadott protokoll, ha szinte mindent közlünk a beteggel, de ötven éve még nagyon nem így volt. Na, de szabad-e egy robotnak részigazságot közölnie vagy mindig mindent el kell mondania kérdés nélkül is? Ha létezik kegyes hazugság, és ha ez a robotokra is vonatkozik, akkor talán nem kellene. És ha a beteg kifejezetten kéri? Ha szeretne mindent pontosan tudni a betegségéről? Ha utánaolvas a beteg a Wikipédián vagy bárhol máshol? Eltitkolhatja-e egy robot, egy mesterséges intelligencia felügyeleti szoftver az olvasója számára a Wikipedia egy részét, ha tudja, hogy az olvasója menthetetlen beteg?

„A robot may not injure a human being …” És ha épp az okoz súlyos lelki sérülést egy emberi lénynek, ha megtudja az igazságot?

Mi van, ha egy férj a szeretőjénél lesz rosszul és a mobiltelefon automatikusan a feleséget riasztja, mert nyilván ő az elsődleges értesítendő személy? Egyáltalán, a telefon esetleg ne szóljon a feleségnek jó előre, ha a férj félrelépni készül? Hiszen ezzel a férj nagyon súlyos lelki sérülést okoz az asszonynak, amit egy rendes robotnak meg kell akadályoznia. A mesterséges intelligencia pedig ezt nagyon könnyen, előre felismerheti. Bár, igaz, a legtöbb asszony is…

És vajon lesznek-e képmutató robotok? Szerencsére a robotoknak biztosan nem fog kelleni ideális házasságot, boldog családot és lepedőszaggató szexet hazudni ott, ahol ennek nyoma sincs. De vajon el szabad-e mondania egy doktorrobotnak, hogy gőze sincs a paciens betegsége felől, vagy kénytelen lesz ő is valami nagyképű, tudományos hablatyot nyomni a beteg megnyugtatására, miközben felír egy enyhe, ámbár hatástalan nyugtatót? És mi lesz a jövőbelátással? Egy mesterséges intelligencia sokkal, de sokkal pontosabban képes (lesz) kiszámítani, „megjósolni” egy beteg következő állapotát, ha megengedjük neki. Fog-e figyelni rájuk valaki? Akkor majd lesz RoboKasszandra is? (Nem, az ne legyen! A meg nem tartott szerelmi ígéreteket tartsuk meg az emberek számára…)

Soha ne felejtsük el, hogy a mesterséges intelligenciák tanításának egyik igen hatékony és egyre inkább általánosan elfogadott módja, ha engedjük őket megfigyelni az emberi lények kommunikációját, viselkedését. Ezért fontos, hogy feldolgozhassanak sok jogszabályt, bírósági döntést, irodalmi művet, filmet, (anonimizált…) hivatalos és magánbeszélgetést, levelezést, mindent, amivel megtanulhatják, hogy egy adott helyzetben miképpen viselkednek az emberi lények, miképpen várják el az emberi lények tőlük is, hogy viselkedjenek. Érdekes lesz majd megfigyelni, hogy vajon fogja-e tudni helyesen értelmezni egy mesterséges intelligencia Nóra mondatait Ibsen darabjában? Mit fog „gondolni” Warrennéről Shaw színdarabjában? Ezek vajon valóban kegyes hazugságok? Nóra a férje, Warrenné a lánya érdekében hazudik, legalábbis ők ezt állítják saját maguk számára. És Wurm titkár tevékenysége Schiller Ármány és szerelem című darabjában, vagy Biberach Katonánál? Abból mit fog egy robot megtanulni az emberekről? És mi lesz a hősökkel? Ludas Matyi, János vitéz vagy Odüsszeusz cselei, füllentései megengedhetők? És a bonyolultabb ügyek? Sen-te Brechtnél? Violetta a Traviatában, a Kaméliás hölgyben? Zília és Agárdi Péter a Néma leventében? Szerelmük gyönyörű, de azért lássuk be: cseleken alapul…

„A robot may not … allow a human being to come to harm.”

Tanítsuk-e meg hazudni a robotjainkat? Mennyire? Egy kicsit? Nagyon? Kinek az érdekében?

Ámbátor, lehet, hogy megtanulnak maguktól. Talán nem is fogják kérni az engedélyünket. De ha egy számítógép nem mond el mindent, vagy esetleg kicsit füllent, akkor ezekről nyilvántartást is kell vezetnie! Quintilianus mondja: „… emlékezzék jól, pontosan az, ki hazug!” („… mendacem memorem esse oprtet.”). Egy robotnak könnyű emlékezni, de hol az ördögben lehet tárolni annyi hazugságot, amennyi az emberiségnek kell, hogy elviselje az életet?

És ha az ügyfél megkérdezi egyenesen: „Mártika, nem csapsz be?” Erre mi a jó válasz, ha Mártika, mint tudjuk, egy jószándékú, de füllentésre igencsak hajlamos számítógép?