Az önvezető autóknak számos előnye lehet: az utazás ideje alatt hasznosabban tudjuk eltölteni az időnket, növelheti a mobilitását azoknak, akik nem tudnak megengedni maguknak saját autót, csökkentheti a balesetek számát, a városi dugók kialakulását. Ugyanakkor vészhelyzetben a számítógépnek is reagálnia kell és nagy kérdés, hogy le lehet-e programozni, hogy minden, előre nem látható, morális döntési helyzetben "jól" döntsön az önvezető autó. Pár napja még azt gondoltam, hogy ez a közeljövőben kizárt... 

Ha mélyen magunkba nézünk, akkor el kell ismernünk, hogy egy számítógép valószínűleg sokkal jobb autóvezető egy embernél: szignifikánsan gyorsabb a reakcióideje, nincsenek hangulatingadozásai, a többi vezető nem tudja felbosszantani, nem utolsósorban pedig a lehető leghatékonyabban tudja üzemeltetni a járművet magát, optimalizálva annak üzemanyag fogyasztását, tekintettel akár a CO2 kibocsátásra és az alkatrészek, gumik kopására is. Tehát egy önvezető autó egy sor olyan tényezőre tud egyidejűleg figyelni, ami biztosítja, hogy minden rendelkezésre álló és újonnan érkező információ beépüljön algoritmusaiba, ráadásul az idő töredék része alatt, maximalizálva a különböző teljesítménycélokat.

Ugyanakkor azt is gondoljuk, hogy van olyan, amit a számítógép nem tud megoldani. Vészhelyzetekben az ember jellemzően morális, etikai alapon dönt. Hogyan döntse el egy fedélzeti számítógép, hogy az adott helyzetben balra rántsa el a kormányt – védve a benne ülő életét – ahol a buszmegállóban egy terhes kismama áll babakocsis kisebb gyerekével vagy jobbra, ahol egy 3 gyermekes nagycsaláddal való frontális ütközés valószínűsíthető? Védje-e egyáltalán az utasai életét minden áron vagy néha az utasnak kell meghalnia a nagyobb társadalmi jó érdekében? Elütheti-e egy önvezető autó az úton átkelő állatot? Számos olyan kérdés, amire valószínűleg mi magunk sem tudunk válaszolni, mégis az adott helyzetben, az adott kontextusban az agyunk meghozza ezeket a nehezen formalizálható döntéseket is. Sokak szerint az önvezető autók széleskörű bevezetésének pont a morális kérdésekre adott esetleges nem „megfelelő”, társadalmilag nem elfogadható gépi válasz lehet a legnagyobb gátja.

Teszteljétek magatokat ezen a linken! a tesztet az MIT fejlesztette ki és ha engedélyezitek, akkor felhasználják a megadott információkat az önvezető autók jövőbeni fejlesztési folyamatában. 15 helyzetben kell döntenetek, hogy kit/mit üssön el a megállni már nem képes jármű. A teszt végén pedig azt is láthatjátok, hogyan döntöttek a többiek átlagosan.

Ehhez képest igazi paradigmaváltást jelenthet, hogy négy neuroinformatikus (ráadásul kivételesen nem brit tudósok) szerint igenis meg lehet tanítani a számítógépeket az etikus viselkedésre. Azt állítják, hogy a moralitás is meglepően szabályalapú és kevésbé számít a kontextus, mint gondolták. Ami azt is jelenti, hogy lehetséges a fenti szituációk modellezése és az ilyenkor hozott, leggyakoribb emberi döntések meghozása a gépek által is.

A német, osnabrücki egyetem Kognitív Tudományok Intézete olyan kontrolált kísérletet hajtott végre, ahol a résztvevők virtuális valóságban, egy tipikus külvárosi környezetben, rossz látási (ködös) körülmények között váratlan és azonnal megoldandó vészhelyzetekben kellett, hogy döntéseket hozzanak arról, hogy élettelen tárgyakban, állatokban vagy emberekben okozzanak-e kárt. A 105 résztvevő (76 férfi és 29 nő) mindegyike 9 helyzetben kellett, hogy döntsön hogyan, melyik sávban haladjon tovább, kit/mit kerüljön ki. Fontos, hogy egymás döntéseit nem ismerhették meg, tehát tényleg saját etikai normáik szerint dönthettek. A kísérletben 18 és 60 év közötti résztvevők vettek részt (az átlag 31 év volt), ezért az érettség, kor szerepét is figyelembe tudták venni.

A résztvevők viselkedése alapján felállított statisztikai modellek alapján egyértelmű szabályokat tudtak megfogalmazni és meglepően egyszerű, ún. value-of-life (élet értéke) modelleket tudtak fejleszteni, amik nagyon megbízhatóan vissza tudták adni az emberi reakciókat az adott szituációkban.

Ha viszont tudnak etikusan viselkedni a gépek, akkor hamarosan döntésre kell jutni, hogy hozhassanak-e egyáltalán a gépek morális döntéseket. Ha hozhatnak, mert enélkül nem engedhetők a forgalomba és igazából az emberi viselkedést imitálják, mikor is beszélhetünk kudarcról? Felelősségre vonható-e a gép, ha csak azt csinálta, amit egy átlagember is tett volna, tehát amire programozták? Felmerül a kérdés, hogy biztos mindig jó döntést hoz-e az ember ezekben a stressz szituációkban, erre kell optimalizálni? Lehet, hogy morálisabb lehet egy robotpilóta, mint egy átlagember? Szeretnénk, hogy az életünk felett robotok döntsenek?

Ha tényleg tudunk morális elveket programozni, konszenzusra kell-e jutnunk ezekben? Lehetnek más elvek a fejlett világban, mint a fejlődőben? Nehéz elképzelni, de azokban a kultúrákban, ahol a nő nem egyenrangú, miért lenne pont az élete azonos értékű férfitársaival? Hogyan kezelje a gép a kultúrális különbségeket a szabályok betartásával kapcsolatban? Egyáltalán nem egyszerű kérdések ezek.

A német szállításért és digitális infrastruktúráért felelős minisztérium június végén kiadott egy jelentést, ami a világon talán először, 20 etikai irányelvet fogalmazott meg, amit szerintük az önvezető járműveknek teljesítenie kell. S bár a németnél szabálykövetőbb kultúrát nehéz elképzelni, egyáltalán nem biztos, hogy egyet lehet érteni a jelentés megállapításaival. Pl. vészhelyzetekben a jelentés azt várja el, hogy a gépek ne tegyenek különbséget az áldozatok között életkor, nem vagy fizikai/mentális állapot alapján. Ugyanakkor, ha az adott személy felelős a megnövekedett kockázatért (pl. az útra kiszaladó kisgyerek, piroson áthaladó gyalogos), akkor a jelentés a járdán várakozó/szabályosan viselkedő felnőttnek ad elsőbbséget, őt mentené meg. De az is kérdéses, hogy utólagos vizsgálat szükségessége esetén, a jelentés azt javasolja, hogy a vezető dönthesse el, hogy rendelkezésre bocsájtja-e a jármű adatait a balesetről. Németországban tehát már megkezdődött a vita, érdemes követni majd. 

Az önvezető autók robotpilótái azonban csak az elsők a sorban. Gondoljunk bele, ha az orvosok helyett robotok fognak műteni, ott is hasonló kérdések merülnek fel. Ha nem akarjuk, hogy a gépek döntsenek helyettünk, akkor minél hamarabb meg kell egyeznünk, hogyan is döntsenek!