Mit tegyen az önvezető autó karambol esetén? Mit tegyen a SkyNet, háborús konfliktus esetén? Elpusztíthatja az emberiséget a gép a Föld védelmének érdekében?

Egy alapvető és sokkal messzebbre mutató kérdés, amire meg kell találni a választ. Ugyanis jelenleg az önvezető autók terén képezi ez vita tárgyát, azonban hosszabb távon, a robotika és a mesterséges intelligenciák által irányított világunk fejlődése során, nagyobb volumenű kérdésekben is kivetülnek az alapvetések, amiket most meghatározunk. A jövőben, az emberek nagyobb csoportjainak sorsáról is az MI dönthet. Népek, országok, társadalmi osztályok, sőt, az egész emberiség vonatkozásában is.

Amikor az emberiség problémáinak a megoldásában, stratégiai kérdések eldöntésében és konkrét megoldások kidolgozásában is a gépek intelligenciájára hagyatkozunk, akkor is az önvezető autók cikkbeli problémáival találkozunk csak sokkal nagyobb léptékekben. Ráadásul, ahogyan az önvezető autók esetén, a probléma érzékelése, a döntés meghozatala és a végrehajtás is a gép kezében van és az embernek nincs is ráhatása, úgy az olyan globális problémák kezelésében is megtörténhet ez, mint az éghajlatváltozás, a háborúk kezelése, gazdasági lépések végrehajtása.

Már csak azért is, mivel a későbbiekben a mesterséges intelligencia olyan komplex stratégiákat fejleszthet ki, amit az ember már nem is képes megérteni, csupán rábízva magát, hagyja azt végrehajtani. Például az AlphaGo2 MI, ember elleni go játszmájának stratégiáját több száz órán keresztül próbálták elemezni a szakértők, de mai napig nem teljesen értik.

Kit mentsen a járművet vezető mesterséges intelligencia elkerülhetetlen ütközéskor? Az utasokat vagy a járókelőket, a fiatalt vagy az időset, a szegényt, a gazdagot, a nőt, a férfit? E nehéz kérdésekre előbb-utóbb választ kell adnia a technológiának. Ráadásul, mint kiderült, a világ minden részén másképp gondolkodnak az emberek a problémáról.

Ugyan az önvezető autók közúton még nem közlekedhetnek szabadon (mindenképp szükség van engedélyre a teszteléshez, és egy sofőrnek is ott kell ülnie, ha bármi probléma lenne), azonban az gyakorlatilag kétségtelen tény, hogy a közeli jövő egyik nagy lehetőségét jelentik. És az egyik nagy problémáját, amire most még nem nagyon látjuk a megoldást – mutat rá cikkében az Origo.

A portál összeállítása arra kérdésre hívja fel a figyelmet, hogy ha egy önvezető autó semmiképp nem tudja elkerülni a balesetet, akkor az utasait kell megvédenie, vagy a járókelőket? Vagyis, hogy mi lenne morálisan a helyes egy olyan helyzetben, ami mindenképpen katasztrófával végződik?

Fotó: Shutterstock

Mint írják, ezt próbálta kideríteni a Massachusetts Institute of Technology (MIT) egy kutatásban, ami inkább egyfajta felmérésnek tekinthető, mint hagyományos tudományos kutatásnak. A mérésben résztvevőknek a Moral Machine nevű kvízjátékot kellett használni, amit több mint 40 millióan meg is tettek, így tehát elég nagy a merítés.

Adott a klasszikus dilemma: ön lát egy vonatot nagy sebességgel haladni a sínpályán öt ember felé, azonban van lehetősége kezelni a váltót. Ha nem csinál semmit, akkor az öt ember biztosan meghal, viszont ha átkapcsolja a váltót, akkor a másik sínpályán álldogáló egy ember hal meg, aki pedig egyébként túlélte volna. Mit tesz?

A MIT kutatói ezt a problémát húzták rá az önvezető autókra, és bővítették ki összesen 26 millió különböző variációval. Ha az önvezető autó semmiképp nem tudja elkerülni a karambolt, akkor az utasait áldozza fel, vagy rántsa félre a kormányt, és hajtson a járókelők közé? Ha pedig az utóbbit választja, akkor inkább kit üssön el:

Egy sikeres vagy szegény embert?
Időset vagy fiatalt?
Bűnözőt vagy büntetlen előéletűt?
Számít-e, hogy a gyalogosok például szabálytalanul kelnek át az úton?
Mennyire foglalkozzon az állatokkal?

A végeredmény pedig több szempontból is érdekes, és a preferenciák érezhetően eltérnek nemcsak kontinensekként vagy kultúrkörökként, de még országonként is.

Az a világon mindenhol általánosan kimutatható volt, hogy résztvevők inkább az emberi élet megvédését preferálták az állatokéval szemben, és a fiatalokét az idősekkel szemben, de általánosan a legtöbben azt szerették volna, hogy lehetőleg minél több emberélet meneküljön meg.

Jóval kisebb részben ugyan, de a globálisan összegzett végeredmény szerint inkább a nőket mentenénk meg a férfiak helyett, a gazdagabbakat a szegényebbek helyett, és a járókelőket az utasok helyett. Abban is nagyjából egyetértett a Föld, hogy a bűnözők járjanak rosszul, ha köztük és egy kutya között kell választani.

Ezen túlmenően azonban már tényleg nagyon változnak a preferenciák világszerte. A nyugati országokban az emberek inkább a fiatalokat mentenék meg, ha lehetőségük lenne rá, míg a Távol-Keleten és az iszlám világban ez nem érdekelte annyira a résztvevőket.

A déli országokban egyértelműen a nők és az egészségesnek tűnők életét részesítették előnyben státusztól függetlenül, míg a státusz nyugaton jobban számított.

A japánoknál, norvégoknál és a szingapúriaknál volt a legfontosabb a járókelők megkímélése, míg a kínaiaknál, észteknél és a tajvaniaknál ezen volt a legkevesebb hangsúly.

Az MIT elismeri, hogy ez nem egy klasszikus kutatás, amire aztán komolyan építkezni lehet. A résztvevők csoportját semmilyen módon nem kontrollálták, így például a gyenge internethozzáféréssel rendelkező országokban a gazdagabb rétegből került ki a válaszadók többsége. Ezen kívül a részvevők zöme 20-as és 30-as éveiben járó, többnyire egyetemet végzett férfi volt.

Az MIT célja inkább az volt, hogy az önvezető autók elkerülhetetlen bevezetése előtt egy alapos tudományos és társadalmi vitát kezdeményezzen.

„Mielőtt engedélyezzük az autóinknak az erkölcsi döntések meghozatalát, egy globális beszélgetést kell elindítani, hogy kifejezhessük preferenciáinkat a gyártó cégeknek és az őket szabályzó politikai erőknek” – írják.

Mindenesetre az önvezető autókat tervező mérnökök jelentős része nem feltétlenül tartja relevánsnak ezt az egészet.

A Google önvezetős rendszerén dolgozó vezető mérnök, Andrew Chatham például úgy véli, hogy ezek olyan hipotetikus helyzetek, melyekhez még csak hasonlóba sem futottak bele a tesztek során, és az a céljuk, hogy a jövőben se merülhessen fel hasonló. Ehhez pedig egész egyszerűen egy nagyon jól megtervezett rendszer szükséges.

Ha pedig vészhelyzet van,

Chatham szerint majdnem mindig egyetlen válasz van: tövig kell nyomni a féket.

Ezek a rendszerek mindig is abban lesznek a legbiztosabbak, ami előttük van, de ezen kívül fékezés közben jobban is irányítható marad az autó, mintha megpróbálna kitérni és beleszaladni valamibe. Szóval valami nagyon extrém helyzetnek kell kialakulnia ahhoz, hogy ne a fékezés jelentse a megfelelő választ – összegez a cikk.