A most második alkalommal elkészült Data and AI Impact Report: The New Economics of Trust című jelentés szerint a szervezetirányítás, adatminőség és ellenőrizhetőség területén a legszigorúbb gyakorlatot követő – egyelőre szűk – vállalati kör rendre jobban teljesít versenytársainál: AI-fejlesztéseik legalább kétszer akkora megtérülést hoznak. A megbízható mesterséges intelligencia terén lemaradó szervezeteknek kevesebb mint öt százaléka mondhatta el ugyanezt.
Amikor az AI jól működik, hihetetlen hatást tud elérni, ugyanakkor jól dokumentált tény, hogy a legfejlettebb AI-ügynökök hibaaránya összetett feladatoknál meghaladhatja a 25 százalékot – ez pedig elfogadhatatlan ott, ahol nagy a tét, mondja Bryan Harris, a SAS technológiai igazgatója.
„A pontossághoz és a megbízható ismételhetőséghez a vállalatoknak be kell építeniük a szakterületi tudást az ügynöki munkafolyamatokba, az irányítást és a felügyeletet pedig továbbra is embereknek kell kézben tartaniuk.”
Ahogy az AI egyre önállóbbá válik, a vállalatok új kihívással szembesülnek: olyan rendszerekben kell megbízniuk, amelyeket az emberek nem értenek teljesen – teszi hozzá Chris Marshall, az IDC alelnöke, hangsúlyozván azokat az eredményeket, hogy az erősebb felügyelet, a magyarázhatóság, az elszámoltathatóság és a szilárd adatalapok egyre inkább előfeltételei annak, hogy az AI-t sikeresen lehessen nagy léptékben bevezetni.
A jelentés szerint a mesterséges intelligencia, amely nem tudja megmagyarázni magát, komoly üzleti kockázatot rejt.
A kutatók azt tapasztalták, hogy sok szervezetnél a dolgozók egyre kevésbé hagyatkoznak olyan rendszerekre, amelyekről nem tudni, helyes eredményt adnak-e, és amelyek nem tudják elmagyarázni, hogyan jutottak egy döntésre. Minél önállóbb az AI, annál nagyobb ez a kockázat – a magyarázhatóság ezért a siker egyik kulcsa.
A jelentés az AI bevezetésének egyik legnagyobb akadályát is megvizsgálta: azt, amikor a dolgozók nem bíznak az AI döntéseiben, ezért felülbírálják őket, és kézzel javítanak rajtuk. Ez tovább mélyíti a bizalmi hiányt, és időbe, termelékenységbe és pénzbe kerül a vállalatoknak. Mivel az AI döntései csak annyira jók, mint az adatok, amelyekre épülnek, a felülbírálások visszaszorításához először is szilárd adatalapokat kell felépíteni.
Mitől lesz megbízható az AI?
A megbízható AI olyan mesterséges intelligencia, amelyet úgy terveztek, hogy megbízhatóan, etikusan és biztonságosan működjön, megfeleljen a szabályozási előírásoknak, és világosan meg tudja mutatni, hogyan jutott egy döntésre. A szervezet minden szintjén a felhasználóknak és a döntéshozóknak – előre rögzített felelősségi lánc mentén – számon kell tudniuk kérni az AI-rendszert a hibás vagy hiányzó eredményekért. Emellett minden AI-rendszert alá kell vetni a szervezetirányítási (governance) elveknek, és bizonyíthatóan meg kell felelnie egyértelmű szabályoknak.
A kutatás szerint a felhasználók 97,2 százaléka legalább időnként felülbírálja az AI ajánlásait.
A válaszadók leggyakrabban azért bírálták felül a technológiát – függetlenül attól, hogy helyesnek tartották-e az eredményt –, mert a rendszer nem tudta megindokolni a döntését.
A generatív AI iránti bizalom 76 százalékos, az AI-ügynökök iránti már csak 66 – vagyis minél önállóbb a rendszer, annál nagyobb az aggodalom.
A jelentés szerint egyre szélesebb a megtérülési szakadék: azok a szervezetek, amelyek a megbízható AI-ba fektetnek, tizenötször nagyobb eséllyel számolnak be erős vagy magas megtérülésről az AI-projektjeiknél. (62 százalék áll a 4 százalékkal szemben.) A legmegbízhatóbb AI-gyakorlatot követő vállalatok 1,85-ször nagyobb nyereséget érnek el 13 különböző üzleti mutató – köztük az árbevétel-növekedés, a költségmegtakarítás és az ügyfélélmény – terén.
A legtöbb szervezet rendkívül fejletlen vagy súlyosan elavult adatokra és adatinfrastruktúrára építi AI-rendszereit. Szilárd adatalap nélkül azonban nincs átláthatóság és magyarázhatóság sem, így a vállalatok nehezen tudják hatékonyan menedzselni az MI-t, és nehezen aknáznak ki belőle valódi értéket.
A vállalatoknak mindössze 17,5 százaléka rendelkezik olyan, teljesen optimalizált adatinfrastruktúrával, amely megfelel az AI-ügynökök igényeinek – ez visszafogja a teljesítményt.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
