A 2016 őszén rendezett párizsi autókiállítás nyüzsgő kiállítótermének egyik eldugott sarkában a Mercedes-Benz szóvivője különös kijelentést tett. Christoph von Hugo, a gépjárművezetés-támogató és aktív biztonsági rendszerekért felelős igazgató azt a kérdést kapta, hogy mit tenne egy vezető nélküli Mercedes ütközés esetén.

„Ha legalább egy emberi életet biztosan meg lehet menteni, akkor legalább azt az egyet meg kell menteni.”

Logikusnak tűnik, és semmi egetverő újdonság nincs benne – gondolhatnánk. Hugót azonban nem akármilyen balesettel kapcsolatban kérdezték, hanem arra az 1960-as években elterjedt gondolatkísérletre utaltak, amely „villamosdilemma” néven híresült el. A morális dilemmára épülő kérdésben két rossz közül kell választani.

Az eredetileg elszabadult villamosról szóló példa vezető nélküli autókra átfogalmazva valahogy így hangzik: Képzeljük el, hogy valamikor a jövőben egy vezető nélküli autóban utazunk a városban. Előttünk a lámpa pirosra vált, autónk azonban meghibásodik, és nem lehet megállítani. Az ütközés elkerülhetetlen, de az autó két opció közül is választhat: oldalra rántsa-e a kormányt, és nekirohanjon a betonfalnak, ezzel feltehetően utasai halálát okozva, vagy haladjon tovább, megölve minden előtte áthaladó gyalogost, utasait azonban életben hagyva?

Kétségtelenül mindenkinek megvan a maga véleménye. Hihetünk abban, hogy az autónak egyszerűen a lehető legtöbb életet kell megmentenie, ahogy abban is, hogy a „Ne ölj!” parancsának engedelmeskedve a gép utasainak kell elfogadniuk a következményeket.

Hugo világosan közölte a Mercedes álláspontját: „Mentsük, aki a kocsiban van.” Válaszát így folytatta: „Ha csupán annyit tudunk biztosan, hogy egy halálesetet megelőzhetünk, akkor ennek kell lenni az elsődleges célnak.”

A nyilatkozat utáni napokban az internetet ellepték a Mercedes álláspontját támadó kommentek, például a következő: „Az autóik tehát úgy fognak viselkedni, mint egy tipikus európai luxusautóvezető, aki felsőbbrendűnek érzi magát.”

hvgkonyvek.hu

A Science magazinban ugyanez év nyarán megjelent felmérés szerint a válaszadók 76%-a úgy vélte, a vezető nélküli autó morális kötelessége lenne a lehető legtöbb embert megmenteni, még a benne ülők élete árán is.

A Mercedes tehát a közvélekedés ellenében tette le a voksát. Vagy mégsem? Amikor ugyanis a felmérés arra kérdezett rá, hogy a válaszadók vajon megvásárolnának-e egy olyan autót, amely bizonyos körülmények között képes lenne megölni őket, már sokkal kevesebben áldozták volna fel magukat a moralitás oltárán.

A probléma tehát igen megosztó – és nem csak abból a szempontból, ki mit válaszolna elvei és szíve szerint. A technológiával foglalkozó írók és újságírók sohasem unják meg ezt a kérdést, a vezető nélküli járművekkel foglalkozó szakértők azonban csak a szemüket forgatják a villamosdilemma hallatán.

Pedig rendkívül találó és szemléletes: egyszerű megfogalmazásával mindenki számára érthetővé teszi a vezető nélküli autókra váró egyik kihívást, és felszínre hozza az érzéseinket azzal kapcsolatban, hogy egy algoritmus dönt helyettünk saját életünkről és másokéról. Az új technológia – ahogy mindig is – a hatalom, az irányítás és a felelősség kérdéseivel szembesít.

És persze azzal, hogy vajon elvárhatjuk-e a gépektől, hogy alkalmazkodjanak hozzánk, vagy nekünk kell alkalmazkodnunk hozzájuk. A vezető nélküli autózás szakértői talán nem is ezért legyintenek a kérdésre – sokkal inkább azért, mert pontosan tudják, milyen messze vagyunk még a villamosdilemma valósággá válásától.

A fenti cikk Hannah Fry Emberek és gépek című könyvének szerkesztett részlete. A könyvben többek között választ kapunk arra, hogyan lopakodtak be az algoritmusok mindennapi életünk valamennyi színterére – az egészségügytől kezdve a bűnüldözésen át a politikáig. Tulajdonképpen fogalmunk sincs róla, mennyi hatalmat engedtünk át nekik eddig, és arról sincs, vajon nem mentünk-e már túl messzire. A könyvet itt rendelheti meg kedvezménnyel.