A mesterséges intelligenciák számos hasznos képességgel rendelkeznek, de minden előnyüket még nem ismerik a szakértők. Mi több: olyan rendszerek is akadnak, amelyeknek a működése azokat is zavarba hozza, akik hosszú ideje kutatják a területben rejlő lehetőségeket.

Hasonló esetről számolt be néhány, a Motherboard által idézett kutató is, akik az orvosdiagnosztikai területen elérhető programoknál bukkantak rá egy ijesztő „képességre”: vannak szoftverek, amelyek a röntgenképek alapján képesek megállapítani a vizsgált emberről, hogy az melyik népcsoportba tartozik. Ezt kell úgy érteni, hogy a rendszer az ilyen felvételek alapján is „látja”, ha egy ázsiai vagy afroamerikai páciens adatait elemzi.

A kutatóknak nem sikerült rájönni, mi okozza a rendszerek ilyen fokú pontosságát, amely ráadásul ijesztően nagy: még a legrosszabban dolgozó program is az esetek 80 százalékában eltalálja az eredményt. Az ennél jobban működő szoftverek viszont 99 százalékos pontosságúak a kutatók szerint, vagyis lényegében soha nem hibáznak.

A tudósok különféle kísérleteket végeztek, hogy megzavarják a rendszert, illetve rábukkanjanak annak gyenge pontjára. A próbálkozás azonban kudarcba fulladt, mert a szoftverek még azokat a röntgenképeket is képesek volt elemezni, amelyek minőségét szándékosan lerontották, és amelyeket a hús-vér orvosok már nem tudtak értelmezni.

A kutatók úgy összegezték a tapasztalataikat, hogy egyelőre nem tudni, mi az oka annak, hogy bizonyos rendszerek ilyen képességekkel is rendelkeznek, mert a szoftvereket felkészítő minta erre önmagában nem tűnik elégségesnek. A szakértők arra figyelmeztettek, hogy a különleges tulajdonság növelheti a rendszerszintű rasszizmust és előítéletességet, így mielőbb cselekedni kell.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.