Robotok etikája

De mielőtt ebbe belevágunk, érdemes szétválasztani a mesterséges intelligencia és a gépi tanulás fogalmát is. Bár definíció szerint a mesterséges intelligencia egy részterülete a gépi tanulás, sokszor egymás szinonimájaként használják ezeket a fogalmakat, de nem ugyanazt értik alattuk. A gépi tanulás ahhoz hasonlatos, mint amikor a gyerekeim az általános iskolából átlépnek a középiskolába. Tudnak írni, olvasni, képesek figyelni a tanárra és megtanulni az új tananyagot, mert már tudják, hogy mi kell ehhez. Ezzel szemben a mesterséges intelligencia olyan, mint az éppen megszületett csecsemő. Nem tudja, hogyan kell beszélni, látni, hogyan kell megérteni, amit a szülők mondanak. Mégis képes ezeket mind megtanulni, mivel rendelkezik azokkal a képességekkel és készségekkel, amelyek ezt a tanulást lehetővé teszik számára. 

Visszatérve a robotokra, gyakran találkozhatunk manapság népszerű és hangzatos témákkal, amelyek azonban könnyen zsákutcába vezethetnek bennünket. A legtöbbet hangoztatott eset, amikor a jövőben egy robotnak – amely, tegyük fel, gépjárművet irányít – döntenie kell, hogy a zebrán elé lelépő kisgyermek és idős ember közül melyiket üsse el, feltételezve, hogy nem képes elkerülni mindkét balesetet. Érezhető, hogy ebbe a példába az emberiség kognitív tudata belesűríti az élményeit, mind a gépjárművezetés kihívásaival, mind pedig a mozifilmekben látottakkal és hallottakkal kapcsolatban. Mindennapos kihívás az autósok számára, hogy reagáljanak azokra a kihívásokra, amelyek az úgymond autós és gyalogos közösség zebrán történő konfrontálódásaiból származnak. Másrészt emlékszünk az Én, a robot című filmre, amikor a főhős felidézi azt az esetet, amelyben egy robot a süllyedő autóból őt mint felnőtt embert mentette ki a szintén bent ülő gyermek helyett, mivel úgy ítélte meg, hogy a felnőttnek ilyen helyzetben több esélye van az életben maradásra.   

De térjünk vissza a gyalogosátkelővel kapcsolatos problémára. Vajon mit várunk el a robottól helyes választásként? Valószínűleg sokan itt is azt mondanák, amit a filmbéli szereplő, hogy mentsük a gyermeket. Mások talán arra szavaznának, hogy az idős ember talán esélyesebb a túlélésre, ha végképp elkerülhetetlen az ütközés, így mentsük inkább őt. De ha megkérdeznénk a gyermek szülőjét, illetve az idős ember gyermekét, akkor nem kétséges, hogy milyen válaszokat kapnánk, amelyek szöges ellentétei egymásnak. 

Ezek alapján látszik, hogy ez nem egy objektíven eldönthető kérdés, pedig a robotok programozásánál objektívnek kell maradnunk, különben végtelen esetet és alesetet kell betáplálnunk a robotot vezérlő programba, ami teljes zűrzavart fog eredményezni előbb vagy utóbb. 

Azt gondolom, hogy maga a kérdés feltevése is téves, így egy fel nem oldható problémához jutunk. Amikor valaki KRESZ-vizsgát tesz, akkor senki nem kérdezi meg tőle, hogy egy ilyen vagy hasonló esetben mit választana, nemhogy ebből még vizsgáznia is kellene. Maga a kérdés feltevése is abszurd lenne. Akkor a robotokkal kapcsolatban miért keverjük össze a két témát? Javaslom, hogy válasszuk szét ezeket, és tisztábban fogunk látni. Egyfelől a robotnak meg kell felelnie bizonyos szabályoknak, amelyek védelmet biztosítanak az emberek számára, másrészt a gépjárművet irányító robotnak ismernie és alkalmaznia kell a KRESZ-ben előírtakat. 

És itt jutunk el a cikk témájához. A robotoknak bizonyos szabályoknak meg kell felelniük, hogy ne legyen létük és működésük ártalmas az emberekre. Ismeretes, hogy Isaac Asimov már alkotott három ilyen szabályt, de a fent említett filmben pont ezeknek a kritikáját láthattuk. A szabályokat követő robotok végül szeparálták az embereket egymástól, mert betartva a szabályokat arra jutottak, hogy az emberek gyakorlatilag egymásra veszélyesek, és csak így tudják megvédeni őket.

Ebből már következik, hogy nem ezek azok a szabályok, amelyeket keresünk, mivel alapvetően társas lények vagyunk, és nem ér annyit a biztonságunk, hogy egyedül éljük le az életünket. 

Viszont valamilyen szabályra vagy szabályokra szükségünk van, ha a talán nem is túl távoli jövőben robotokat fogunk otthon alkalmazni, akik vigyáznak, vagy csak együtt vannak gyermekeinkkel és szüleinkkel, míg a munkahelyünkön dolgozunk. Tudjuk, hogy a robotok felépítésükből adódóan erősebbek lehetnek nálunk, és nem szeretnénk állandóan azon aggódni, hogy történik-e valami baj szeretteinkkel a távollétünkben. 

Nyilvánvaló, hogy ezeknek a szabályoknak egyszerűnek és egyértelműnek kell len­niük, és nem is lehet belőlük túl sok, ellenkező esetben olyan szövevényes logikai hálót feszíthetünk ki velük, amelyet nem leszünk képesek átlátni, és minden esetet kiértékelni. 

Ebből következik egy újabb probléma is. Tegyük fel, hogy sikerül megalkotnunk ezeket a szabályokat, de azokat be is kell tudnunk tartatni, vagy legalább is kell tudnunk ellenőrizni, hogy a saját robotunk ­megfelel-e ezeknek. Az a kérdés, hogyan tudjuk majd mindezt hitelesen leellenőrizni. Valószínűleg sokan emlékeznek még a VW dízel botrányára. Senki sem gondol úgy egy autóra, mint egy robotra, mégis ezek az autók képesek voltak felismerni, hogy mikor tesztelik őket, és tudták, hogy ilyen esetben hogyan kell viselkedniük, milyen értékeket kell produkálniuk, milyen szabályoknak kell megfelelniük. Gyakorlatilag képesek voltak csalni, ami felveti a szabályoknak történő megfelelési teszt nehézségét. Lehet, hogy a szabályok megalkotásánál még nehezebb feladat lesz a megfelelő tesztelési eljárások kidolgozása. 

Ám az is előfordulhat, hogy rossz a megközelítésünk. Nem szabályokat és korlátokat kell alkotnunk, hanem utat kell mutatnunk. A robotokkal gyakorlatilag egy új fajt alkotunk. A Wikipédia szerint egy naiv, de leggyakrabban használt definíció úgy szól, hogy a faj az élőlények olyan csoportja, melynek egyedei képesek szaporodni egymással és termékeny utódokat létrehozni. A robotok klasszikus értelemben nem fognak szaporodni, de már most is robo­tok gyártanak robotokat a gyárakban, tehát utódokat képesek létrehozni. Szintén a Wikipédia szerint az élőlények élet­jelenséget mutató, önazonosságukat fenntartó (homeosztatikus), önmagukból reprodukálható információt hordozó, termodinami­kailag nyílt, disszipatív (energiát szétszóró), evolúcióra alkalmas rendszerek. A robotok képesek saját belső hőmérsékletüket szabályozni, ahogy a számítógépek is képesek hűteni processzoraikat ventilátorral, tehát homeosztatikusak. Önmagukban hordozzák felépítésük információját, tehát képesek reprodukcióra. Disszipatívak, működésük során csökkentik belső energiájukat, merítik akkumulátorukat. Nyilvánvalóan alkalmasak lehetnek evolúcióra, hibáikat felismerve és az újabb generációkban ezeket kiküszöbölve. A mozgás életjelenségnek számít, így ezzel a jellemzővel is rendelkeznek. Ezek alapján akár tekinthetjük új fajnak is a robotokat. Ha pedig ezek után önálló fajként tekintünk rájuk, akkor ennek megfelelő viszonyt is kell velük kialakítanunk.

Térjünk tehát vissza a robotokkal való viszonyunkra. Az egyik lehetséges megközelítés, ha a robotokat alárendeltnek tekintjük, és szabályokat határozunk meg számukra, amelyek akár szigorúbbak is lehetnek azoknál, amit magunktól, mint emberektől elvárunk, talán tudat alatt kimutatva vélt felsőbbrendűségünket vagy félelmünket. A másik megközelítés, ha partnernek, társnak tekintjük őket, és szabályok helyett inkább példát mutatunk neki abból, hogy mi az elvárt viselkedés ebben a közegben. 

Az első megközelítéssel az lehet a probléma, hogy idővel a robotok képesek lehetnek felismerni, hogy ezek a szabályok hátrányosak számukra az emberekkel szemben, és igénnyel élnek majd az iránt, hogy ők is azonos jogokkal rendelkezzenek, mint az emberek. Félő, hogy ezt az igényt nem tudjuk majd kontrollálni. Mert ami működött az amerikai kontinens európaiak által történő leigázása során a technológiai fejlettségből adódóan, az szintén működhet a harc terén nálunk jóval erősebb és hatékonyabb robotok esetén, csak most a mi kárunkra.

A második megközelítés felveti annak lehetőségét, hogy az általunk biztosított szabadsággal visszaélnek a robotok, és saját uralmuk alá hajtják az emberiséget. Azt gondolom, hogy ez a félelem csak saját magunk ismeretéből és múltjából fakad. A történelem során számos esetet láthattunk, hogy egyes emberek visszaéltek egy-egy közösség nyújtotta lehetőségeikkel. Ám ez nem jelenti azt, hogy a robotoknak is feltétlenül ezt kell tenniük, vagy így fognak cselekedni. 

Persze elképzelhető olyan köztes út is, ahol olyan szabályokat határozunk meg a robotoknak, amelyeket magunkkal szemben is támasztunk és betartunk, vagy legalábbis igyekszünk betartani. 

Egy biztos, a robotok a mesterséges intelligencia révén hamar ráébrednek majd, hogy a jelenünkről és múltunkról szóló információk nagy része elérhető az interneten, ami alapján hamar kiismerhető az emberek viselkedése és gondolkodásmódja, s felismerhetők a földön és környezetében rendelkezésre álló lehetőségek egy adott faj fennmaradására, továbbfejlődésére és terjeszkedésére. 

Ha a múltunkat nem is tudjuk megváltoztatni, legalább törekedjünk arra, hogy olyan jelent és lehetséges jövőt mutassunk másoknak – akár a robotoknak is –, amely követendő példa lehet számukra, és biztosítja az emberiségnek a jelenlegi vagy ennél jobb életszínvonalat és körülményeket.