Tudásukat tekintve lenyűgözőnek tűnhetnek a mesterséges intelligencia rendszerek, azonban előfordulhat, hogy nem egészen úgy működnek, ahogyan arra a tervezőik gondoltak, és persze meg is hibásodhatnak. Ezek pedig gondot jelentenek, miután egyre komolyabb feladatokat bíznak az ilyen algoritmusokra, robotokra.
Az AI meghibásodásának számos oka lehet, beleértve a tervezési hibákat vagy a nem mindig megfelelő betanítási adatokat. A kódjaikban is lehetnek sebezhetőségek, amelyeket azután kihasználhatnak a hackerek. Ahhoz tehát, hogy egy rendszert javítani lehessen, tudni kell, hogy mi a meghibásodás oka. Csakhogy egy ilyen rendszer az esetek döntő többségében nem vall erről, ráadásul annyira bonyolult, hogy gyakran még a tervezőinek is feladja a leckét, ha a probléma nyomába kell eredni.
Léteznek persze technikák, amelyekkel vizsgálni lehet az AI-rendszereket, azonban ezeknél hozzá kell férni a belső adatokhoz, amit sok vállalat nem szívesen ad ki „külsős” szakértők számára. Vannak azután az úgynevezett forenzikus (igazságügyi) módszerek, amelyekkel a drónok, önvezető járművek és más hasonló rendszerek meghibásodásaiból származó bizonyítékokat nyerik ki, azonban ezek egyike sem képes rögzíteni azokat a nyomokat, amelyek a rendszerben lévő mesterséges intelligencia teljes körű kivizsgálásához szükségesek. Problémát jelenthet ugyanis, hogy a fejlett mesterséges intelligenciák akár folyamatosan frissíthetik a döntéshozatali lépéseiket, ami végsősoron lehetetlenné teszi a kivizsgálásukat ezekkel a módszerekkel.
E problémával foglalkozva, a Georgiai Műszaki Intézet kutatói kifejlesztettek egy különleges rendszert, az AI Psychiatryt (AIP-t), amelyik egészen más úton vizsgálná a meghibásodott AI-rendszert: újraalkotják azt a forgatókönyvet, amelyben a mesterséges intelligencia meghibásodott. Vagy – ahogy a kutatók a The Conversation folyóiratban beszámoltak róla – a rendszer „újraéleszti” a gyanús AI-modellt, hogy az szisztematikusan tesztelhető legyen.
Az AI Psychiatry forenzikus algoritmusokat alkalmaz a AI-rendszerek döntéshozatala mögött bújó adatok elkülönítésére. Ezeket egy funkcionális modellé állítják össze, amely épp úgy működik, mint az eredeti modell. A szakemberek ezután ellenőrzött környezetben „újraéleszthetik” az AI-t, és rosszindulatú bemenetekkel tesztelhetik, hogy kiderüljön, mutat-e káros vagy rejtett viselkedést.
A kutatók harminc AI-modellen tesztelték fejlesztésüket, közülük néhányat akarattal ők „fertőztek meg”. A rendszer sikeresen helyreállította, újratelepítette és tesztelte valamennyi modellt, beleértve a valós helyzetekben gyakran használtakat is, például az önvezető járművek utcatábla-felismerését.
A szakemberek szerint az eddigi tesztek arra utalnak, hogy az AI Psychiatry hatékonyan képes megoldani az olyan hibák mögött rejlő digitális rejtélyeket, mint az önvezető autók balesetei, amelyek korábban több kérdést hagytak nyitva, mint amennyire választ adtak. Ha mondjuk az AI Psychiatry nem talál sebezhetőséget az autó MI-rendszerében, akkor az lehetővé teszi, hogy kizárják a mesterséges intelligencia hibáját, és más okokat, például egy hibás kamerát keressenek.
Az AI Psychiatry persze nem csak az önvezető autók esetében vethető be. A fő algoritmusa generikus: azokra az univerzális komponensekre összpontosít, amelyekkel minden AI-modellnek rendelkeznie kell a döntéshozatalhoz. Ezáltal az amerikai kutatók megközelítése könnyen kiterjeszthető bármely olyan AI-modellre, amely népszerű fejlesztési keretrendszereket használ. Bárki, aki egy lehetséges AI-hiba kivizsgálásával foglalkozik, használhatja a rendszert egy modell értékelésére anélkül, hogy előzetesen ismerné annak pontos architektúráját – írják a kutatók. Azt is hozzáteszik, hogy újdonságuk nyílt forráskódú (a GitHubon is megtalálható), így bárki használhatja.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
