Napjainkban algoritmusok segítenek diagnosztizálni a mellrákot, elkapni a sorozatgyilkosokat és megelőzni a repülőgép-baleseteket. Mindenkinek gyors és ingyenes hozzáférést biztosítanak az emberiség teljes tudásbázisához, és egyetlen szempillantás alatt kapcsolatot teremtenek két ember között a világ bármely táján. De ahogy elragadott minket a vágy és a mohóság, hogy a világ minél több problémáját automatizáljuk, átestünk a ló túloldalára, és a régi problémáinkat újakra cseréltük.

Az algoritmusok – bármily hasznosak és ámulatba ejtők is – rengeteg bonyodalmat okoznak, amelyeket nekünk kell megoldanunk. Bárhová nézünk is – az igazságszolgáltatásban, az egészségügyben, a rendfenntartásban, sőt még az online vásárlásban is –, mindenhol olyan nehézségekbe ütközünk a magánadatok védelmével, a részrehajlással, az elszámoltathatósággal és az átláthatósággal kapcsolatban, amelyek maguktól nem oldódnak meg. Az algoritmusok olyan kulcskérdéseket feszegetnek, hogy mi az emberi lét lényege, milyen társadalmat szeretnénk építeni, és hogyan viszonyulunk az érzéketlen gépek eljövendő uralmához.

De talán pont ezzel tapintunk rá a lényegre. Talán éppen ott rontjuk el a dolgot, hogy rajtunk uralkodó entitásokként tekintünk az algoritmusokra. Az a tény, hogy kérdés nélkül hajlandóak vagyunk elfogadni a gépek döntéseit, az emberi rosszindulat előtt is szélesre tárja a kaput. De még azok az algoritmusok is hajlamosak visszaélni a hatalmukkal, amelyek tényleg azt csinálják, amit ígérnek.

Ha azonban állandóan csak az algoritmusok hibáit hánytorgatjuk fel, abba a tévedésbe eshetünk, hogy a tökéletes algoritmusról álmodozunk. De vajon találkozhatunk-e kifogástalanul igazságos algoritmussal? Még azok is, amelyek első pillantásra jónak tűnnek – például a robotpilóták vagy a rákot diagnosztizáló neurális hálózatok –, alaposabban megvizsgálva ugyancsak problémásak. Ha elég mélyre ásunk egy rendszerben, biztos, hogy valamiféle igazságtalanságba ütközünk.

Az algoritmusok igenis hibáznak

hvgkonyvek.hu

Képzeljük tehát el egy pillanatra, hogy elfogadjuk: tökéletesség egyszerűen nem létezik. Az algoritmusok igenis hibázni fognak. Az algoritmusok igenis részrehajlók lesznek. Ez azonban nem téríthet el bennünket a további munkától – attól, hogy egyre pontosabbá és igazságosabbá tegyük. Ha elfogadjuk, hogy az algoritmusok az emberekhez hasonlóan nem tévedhetetlenek, talán kevésbé kezeljük majd szentírásként a szavaikat.

Képzeljük el: ahelyett, hogy az algoritmusokat elérhetetlenül magas mércéhez igyekszünk igazítani, inkább úgy tervezzük meg, hogy (az elkerülhetetlen) tévedés esetén könnyebben helyreigazíthatóak legyenek, és időt és fáradságot nem kímélve azon dolgozunk, hogy a döntéseiket éppoly könnyű legyen megkérdőjelezni, mint amilyen könnyű magát az algoritmust alkalmazni.

Az is megoldás lehetne, ha eleve úgy építenénk meg, hogy az alapelemektől kezdve módosíthatóak legyenek. Ha az egész tervezés abból indulna ki, hogy az algoritmusok támogassák, ne pedig akadályozzák az emberi döntéseket. Ha az algoritmusok pontosan tudatnák velünk, hogyan jutottak el a válaszhoz, nem csak közölnék velünk a végeredményt.

Talán azok a legjobb algoritmusok, amelyek minden fázisban figyelembe veszik az embert. Amelyek tudják, hogy hajlamosak vagyunk túlságosan megbízni egy gép döntéseiben, miközben tisztában vannak saját bizonytalanságaikkal és hibáikkal is, amelyeket büszkén elénk tárnak. Az IBM „Jeopardy”-nyertes Watsonjának éppen ez volt az egyik legszimpatikusabb tulajdonsága. A kvízműsor formátuma ugyan engedte volna, hogy a gép csupán egyetlen választ adjon meg, az algoritmus mégis közölte az összes lehetséges alternatívát, és mérlegelés közben pontszámokkal jelezte, mennyire tartja valószínűnek a helyességüket.

Talán ha a bűnözők visszaesési hajlandóságát is hasonlóképpen adnánk meg, a bírák hajlamosabbak lennének szkeptikusabban tekinteni az algoritmus javaslataira. Ha pedig az arcfelismerő algoritmusok egy helyett több lehetséges egyezést kínálnának fel, kevesebb lenne a téves azonosítás. Ugyanez a tulajdonság teszi a mellrákot diagnosztizáló neurális hálózatokat olyan hatékonnyá. Az algoritmus nem jelenti ki ellentmondást nem tűrően, melyik beteg rákos, csupán felhívja a figyelmet azokra a gyanús részletekre, amelyeket egy patológusnak ellenőriznie kell. Az algoritmus és az ember partnerként dolgozik együtt, ismerve egymás gyengeségeit, és kihasználva saját erősségeit.

Olyan jövőről álmodom, ahol az arrogáns, hatalmaskodó algoritmusok a múlt homályába merülnek. Ahol az emberek már nem megkérdőjelezhetetlen mesterükként tekintenek a gépekre, hanem ugyanúgy kezelik, mint bármely más erőforrást. Ahol kétségbe vonják döntéseiket, alaposan felülvizsgálják indokaikat, szembenéznek saját érzelmeikkel, tudni akarják, kivel szemben részrehajlók, felelősségre vonják a hibákért, és szó nélkül semmibe sem nyugodnak bele. Ez a boldog jövő kulcsa, ahol az algoritmusok pozitív erőként közreműködhetnek a társadalomban.

A fenti cikk Hannah Fry Emberek és gépek című könyvének szerkesztett részlete. A könyvben többek között választ kapunk arra, hogyan lopakodtak be az algoritmusok mindennapi életünk valamennyi színterére – az egészségügytől kezdve a bűnüldözésen át a politikáig. Tulajdonképpen fogalmunk sincs róla, mennyi hatalmat engedtünk át nekik eddig, és arról sincs, vajon nem mentünk-e már túl messzire. A könyvet itt rendelheti meg kedvezménnyel.