szerző:
HVG Könyvek
Tetszett a cikk?
Értékelje a cikket:
Köszönjük!

Hogy néz ki az eredetileg elszabadult villamosról szóló példa a vezető nélküli autókra átfogalmazva? Részlet Hannah Fry matematikus Emberek és gépek című könyvéből.

A 2016 őszén rendezett párizsi autókiállítás nyüzsgő kiállítótermének egyik eldugott sarkában a Mercedes-Benz szóvivője különös kijelentést tett. Christoph von Hugo, a gépjárművezetés-támogató és aktív biztonsági rendszerekért felelős igazgató azt a kérdést kapta, hogy mit tenne egy vezető nélküli Mercedes ütközés esetén.

„Ha legalább egy emberi életet biztosan meg lehet menteni, akkor legalább azt az egyet meg kell menteni.”

Logikusnak tűnik, és semmi egetverő újdonság nincs benne – gondolhatnánk. Hugót azonban nem akármilyen balesettel kapcsolatban kérdezték, hanem arra az 1960-as években elterjedt gondolatkísérletre utaltak, amely „villamosdilemma” néven híresült el. A morális dilemmára épülő kérdésben két rossz közül kell választani.

Az eredetileg elszabadult villamosról szóló példa vezető nélküli autókra átfogalmazva valahogy így hangzik: Képzeljük el, hogy valamikor a jövőben egy vezető nélküli autóban utazunk a városban. Előttünk a lámpa pirosra vált, autónk azonban meghibásodik, és nem lehet megállítani. Az ütközés elkerülhetetlen, de az autó két opció közül is választhat: oldalra rántsa-e a kormányt, és nekirohanjon a betonfalnak, ezzel feltehetően utasai halálát okozva, vagy haladjon tovább, megölve minden előtte áthaladó gyalogost, utasait azonban életben hagyva?

Kétségtelenül mindenkinek megvan a maga véleménye. Hihetünk abban, hogy az autónak egyszerűen a lehető legtöbb életet kell megmentenie, ahogy abban is, hogy a „Ne ölj!” parancsának engedelmeskedve a gép utasainak kell elfogadniuk a következményeket.

Hugo világosan közölte a Mercedes álláspontját: „Mentsük, aki a kocsiban van.” Válaszát így folytatta: „Ha csupán annyit tudunk biztosan, hogy egy halálesetet megelőzhetünk, akkor ennek kell lenni az elsődleges célnak.”

A nyilatkozat utáni napokban az internetet ellepték a Mercedes álláspontját támadó kommentek, például a következő: „Az autóik tehát úgy fognak viselkedni, mint egy tipikus európai luxusautóvezető, aki felsőbbrendűnek érzi magát.”

©

A Science magazinban ugyanez év nyarán megjelent felmérés szerint a válaszadók 76%-a úgy vélte, a vezető nélküli autó morális kötelessége lenne a lehető legtöbb embert megmenteni, még a benne ülők élete árán is.

A Mercedes tehát a közvélekedés ellenében tette le a voksát. Vagy mégsem? Amikor ugyanis a felmérés arra kérdezett rá, hogy a válaszadók vajon megvásárolnának-e egy olyan autót, amely bizonyos körülmények között képes lenne megölni őket, már sokkal kevesebben áldozták volna fel magukat a moralitás oltárán.

A probléma tehát igen megosztó – és nem csak abból a szempontból, ki mit válaszolna elvei és szíve szerint. A technológiával foglalkozó írók és újságírók sohasem unják meg ezt a kérdést, a vezető nélküli járművekkel foglalkozó szakértők azonban csak a szemüket forgatják a villamosdilemma hallatán.

Pedig rendkívül találó és szemléletes: egyszerű megfogalmazásával mindenki számára érthetővé teszi a vezető nélküli autókra váró egyik kihívást, és felszínre hozza az érzéseinket azzal kapcsolatban, hogy egy algoritmus dönt helyettünk saját életünkről és másokéról. Az új technológia – ahogy mindig is – a hatalom, az irányítás és a felelősség kérdéseivel szembesít.

És persze azzal, hogy vajon elvárhatjuk-e a gépektől, hogy alkalmazkodjanak hozzánk, vagy nekünk kell alkalmazkodnunk hozzájuk. A vezető nélküli autózás szakértői talán nem is ezért legyintenek a kérdésre – sokkal inkább azért, mert pontosan tudják, milyen messze vagyunk még a villamosdilemma valósággá válásától.

A fenti cikk Hannah Fry Emberek és gépek című könyvének szerkesztett részlete. A könyvben többek között választ kapunk arra, hogyan lopakodtak be az algoritmusok mindennapi életünk valamennyi színterére – az egészségügytől kezdve a bűnüldözésen át a politikáig. Tulajdonképpen fogalmunk sincs róla, mennyi hatalmat engedtünk át nekik eddig, és arról sincs, vajon nem mentünk-e már túl messzire. A könyvet itt rendelheti meg kedvezménnyel.

VELETEK VAGYUNK – OLVASÓKKAL, ÚJSÁGÍRÓKKAL!

A hatalomtól független szerkesztőségek száma folyamatosan csökken, a még létezők pedig napról napra erősödő ellenszélben próbálnak talpon maradni. A HVG-ben kitartunk, nem engedünk a nyomásnak, és minden nap elhozzuk a hazai és nemzetközi híreket.

Ezért kérünk titeket, olvasóinkat, hogy tartsatok ki mellettünk, támogassatok bennünket, csatlakozzatok pártolói tagságunkhoz, illetve újítsátok meg azt!

Mi pedig azt ígérjük, hogy továbbra is minden körülmények között a tőlünk telhető legtöbbet nyújtjuk a számotokra!
HVG Könyvek HVG Könyvek

Hogyan segíthet a mellrák felismerésében egy algoritmus?

Egy olyan területen, ahol az orvosok évtizedek óta keresik a választ a kérdésre: miért válik az egyik abnormális mintázat veszélyesebbé, mint a másik, egy friss szemmel érkező algoritmus sokat segíthet - véli Hannah Fry matematikus. Részlet az Emberek és gépek című könyvből.

HVG Könyvek HVG Könyvek

Csak a buták nem hisznek a tudományos bizonyítékoknak?

Az adatok és érvek saját előítéleteink szerint való mérlegelésének hajlama gyakori az intelligens emberek körében is. A jelenség ellen nem jelent védelmet, ha valaki okos vagy tanult. Sőt bizonyos körülmények között akár gyengeséggé is válhat - mutat rá Tim Harford Adatdetektív című könyvében. Részlet.

HVG Könyvek HVG Könyvek

Mi kell ahhoz, hogy a jeopardys Watsonból jó orvos legyen?

A tévés vetélkedőben bizonyító, Watson néven elhíresült számítógép az orvostudományban egyelőre nem váltotta be a hozzá fűzött reményeket. Fejlesztéséhez többek között magasan képzett emberi tanítókra lenne szükség, akik hajlandók akár éveket a gép betanítására áldozni - mutat rá Hannah Fry matematikus Emberek és gépek című könyvében. Részlet.