„… fejüket a béklyóktól nem tekerhetik
körbe …” (Platón: Az állam, kb. i.e.381., ford. Jánosy István
Blogíró ifjúkorában rengeteg tudományos-fantasztikus irodalmat
olvasott. Nagy divat volt, és számtalan kiváló hazai és külföldi író és olvasó
menekült a jövőbe a nem túl sok jóval kecsegtető akkori jelen elől. A szerzők közül
is az egyik legkedvesebb Asimov volt, akinek két „találmánya”: a „robotika
főtörvényei” és a „pszichohistória” még ma is sok lehetőséget ad a
gondolkodásra. Most pedig, pár hónappal Asimov születésének 100. évfordulója
előtt, már mindennél aktuálisabb a három főtörvény, amit kivételesen nem
magyarul, hanem eredetiben idézünk (a szavak nem nehezek…):
- „A robot may not injure a human being or, through inaction, allow a human being to come to harm.”
- „A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.”
- „A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws”
Asimov, Isaac: "Runaround" (Körbe-körbe, 1941).
Nem kérdés, hogy Asimov messze megelőzte korát ezekkel törvényekkel (sajnos talán a mienkét is...).
Tudjuk, ismerjük, hogy az emberek mindig is alkottak maguknak alapvető
törvényeket. Mi itt, Európában leginkább a tízparancsolatot tekintjük ilyennek.
De vannak parancsolatok vagy azokhoz nagyon közel álló öt önkéntes fogadalom a
buddhizmusban és ugyancsak öt „jama” a hinduizmusban is, melyek meglehetősen
hasonlóak. És még sokáig lehetne folytatni. Akkor miért ne lenne szükségük
parancsolatokra a mesterséges intelligenciáknak? Csakhogy a mesterséges intelligenciák
(maholnap…) sokkal alaposabbak, körültekintőbbek (lesznek…) az embereknél. Azokat
nem lehet homályos utalásokkal átverni, hogy aztán évezredekig elemezgethessék,
szent üléseken vitassák, hogy mit is akart mondani az Örökkévaló ezzel vagy
azzal a parancsolattal. Ráadásul a kőtábla paragrafusait nem lehet évente
átírni: az örökre „kőbe lett vésve” (azért kőtábla…). A robotok számára, ma még
azt gondoljuk, nem lehet trükkös módon feloldozást, bocsánatot sem nyerni
egy-egy kedves vétség alól, ha éppen „olyan szépen nézett az a lány”. Nem, a
mesterséges intelligenciák nem, vagy csak egy igen pontosan meghatározott cél
érdekében hajlandók megalkudni, de azt is csak egyértelmű matematikai szabályok
szerint (ami persze tartalmazhat sok valószínűségi paramétert is, de attól még
matek marad). A robotok pontosan meghatározott elveket, törvényeket, matematikailag
zárt szabályokat követelnek. Melyek alapján aztán olyan komplex működésbe
kezdhetnek, amit az ember esetleg már meg sem fog érteni.
A mesterséges intelligencia már ma is sokat tudhat a világról. Talán
néha kicsit többet is, mint szeretnénk, és mégis túl keveset, mert bármennyi
zettaflop számítási kapacitás is pattog a dobozaikban, bármennyire is
javítgatják, immáron már saját maguk az algoritmusaikat, a számítási
(„gondolkodási”) módszereiket, bizonyos kérdésekre nem tudnak matematikailag
elfogadható választ találni. Éppen azokra a kérdésekre nincs pontos válaszuk,
amelyeket Asimov törvényei alapján tesznek fel maguknak. A szegény kis robotok
fejtörése, ami még igen jelentős villanyszámlát fog eredményezni, például „csak”
annyi, hogy szeretnék pontosan megérteni az „injure” (kb. „sérülés”), a „harm”
(kb.” sérelem”) fogalmát az emberi lényekre vonatkozóan. Mi tartozik bele
ezekbe a kifejezésekbe és mi nem? Hol vannak a jól mérhető határértékek, a
küszöbök, ami alapján dönteni lehet? Pontosan mi okoz és mi nem okoz problémát,
„sérülést”, „sérelmet” egy emberi lénynek?
A robotok ma már sokat tudnak. Holnap még többet fognak tudni. A fizikai
sérülések nyilvánvalók. Ezekre már készültek esettanulmányok, pontos viselkedésminták,
amiket követni lehet. Ezek alapján meg lehet határozni, hogy mi számíthat
kisebb és mi nagyobb fizikai sérülésnek, milyen módon és milyen eszközökkel
lehet megítélni, mérni a fizikai sérülések mértékét. Vannak a jognak is erre
vonatkozó, jól kidolgozott kategóriái: a nyolc napon belül vagy azon túl
gyógyuló, a maradandó károsodást esetleg halát okozó sérüléseket a bíróság is
megkülönbözteti. Ezek a kategóriák azonban egy robot számára várhatóan nem
lesznek elegendők, különösen, mivel ezek a kategóriák az elkövetés pillanatában
még csak jóslatok. Mi lesz, ha egy karcolás elgennyesedik? Nagyobb baj-e ha egy
seb a kertben keletkezik, mintha a kórházban? És függ-e attól, hogy melyik
kórházban? És, hogy melyik kertben? Mennyivel nagyobb a „sérülés” súlya így
vagy úgy? Másképpen kell-e súlyozni egy náthát Olaszországban és másképpen
Etiópiában? Ezeken a kérdéseken még egy kis matekkal, egy kis
valószínűségelmélettel úgy-ahogy túl lehet lépni. De mi van az anyagi
sérelmekkel? Hiszen legtöbbször ami az egyik emberi lénynek anyagi veszteség az
a másik számára nyereség? Mi fontosabb, hogy senki ne veszítsen vagy hogy sokan
nyerjenek egy keveset? Esetleg inkább sokat? És mi számít nyereségnek? Csak a
pénz? Egy gumicsirke elvesztése vajon valóban veszteségnek számít? Számolni
kell minden gumicsirkével? De még a pénz is mérhető, az anyagi javakhoz is
lehet, jól-rosszul, értéket rendelni.
A robotok ma már sokat tudnak. Holnap még többet fognak tudni. De
ami beteszi a kaput barátainknak az a lelki sérülések hihetetlen
változatossága. Vajon miért van az, hogy az egyik emberi lényt már fájdalmasan
érint egy olyan sérelem, ami felett egy másik emberi lény kacagva átsiklik? Miért
függ a lelki sérülés mértéke az életkortól? Miért mosolyoghatnak a „felnőttek”
egy kiskamasz vagy egy öreg bácsi szerelmi bánatán? És miért függ a lelki
sérülés mértéke a helytől, a kultúrától? Most akkor szabad vagy nem szabad
megkülönböztetni egy európai lányt egy afrikaitól? Vajon lehet-e valamilyen mértékegységgel
mérni a lelki sérülés mértékét? Erre nagyon nagy szükségük lenne szegény
robotoknak… Mit figyeljenek? Az emberi lények arcát? A mozdulataikat? A
beszédjüket? A szemüket? Persze, azt már jól tudják, hogy „a szem a lélek
tükre”. Olvasni is tudnak az emberi lények szeméből. Sokat is. Van is ebből sok
feszültség. De szabad-e egy szemrebbenés alapján döntéseket hozni?
A robotok ma már sokat tudnak. A számítógépek már pontosan ismerik
a gyárakat, üzemeket, kórházakat, iskolákat, a nagyobb irodaházakat, mérik és
tudják mennyi energiának kell oda befolynia, hány ember szükséges a
működtetésükhöz. Tudják hol vannak és hogyan működnek a kényelemgyárak (amiket
az emberi lények „wellness szálloda” néven emlegetnek), látták és
matematikailag kiértékelik, hogy az emberi lények milyen sokat utaznak minden
értelmes cél nélkül össze-vissza a világban, amikor nem a megszokott napi
rutinjukat végzik. Hozzáférnek több évre visszamenőleg a közlekedési
statisztikákhoz, az utak és a vasutak, hajók, repülőgépek forgalmához, a
menetrendekhez. Ismerik, mert telefonjaik és mindenféle adatállományok
eltárolják, hogy az emberi lények mikor kelnek fel és mikor mennek aludni, hol
használják a bankkártyájukat és pontosan milyen kacatokat vásárolnak vele. De vajon
elég ez a tudás? Vajon képes lesz-e egy (vagy több) robot ennyi adat alapján a
főtörvényeket valóban megtartani?
A robotok ma már sokat tudnak. Ha szükségük van rá, akkor szabadon
kereshetnek a Wikipédia sok millió
szócikket tartalmazó összes nyelvi változatában, feldolgozhatják a Project Gutenberg majd
hatvanezer kötetének teljes szöveggyűjteményét és akármit végigpörgethetnek a
Youtube jogtiszta filmjei közül. Nincs
a világon egyetlen ember sem, de még egy jól szervezett csapat sem, aki mindezt
képes lenne élete során mind feldolgozni. Mégis, jelenleg a mesterséges
intelligencia segítőink még ennyi adat feldolgozása után sem lehetnek képesek,
talán mert az emberi lények maguk sem képesek a „sérülés” és a „sérelem”
matematikai pontosságú definíciójára. Ezért vannak robot barátainknak súlyos
dilemmáik, ha a főtörvényekre gondolnak.
Hogy tartsanak be egy törvényt, ha nem értik?
Az elkövetkező néhány (ígérem: nem sok, talán négy vagy öt…) szerdán
blogíró két (álmodott) mesterséges intelligencia jóbarátja, Mártika és Lexi dilemmáival
fogunk megismerkedni. Hátha valaki majd egyszer tud nekik segíteni.
Mert jó lenne abban bízni, hogy ha a robotok
betartják ezeket a törvényeket, akkor majd mi, emberi lények is be fogjuk
tartani, és nem okozunk egymásnak sérüléseket és sérelmeket…
(folyt. köv. 2019. szeptember 4-én)