Keleti Arthur kibertitok-jövőkutató, IT-biztonsági stratéga és az Informatikai Biztonság Napja, az ITBN alapítója szerint a cégek számára ebből nem az következik, hogy hátra lehet dőlni. Inkább azt kellene mielőbb kideríteni, milyen AI-t használnak valójában, milyen üzleti folyamatokban, milyen adatokkal, és ki dönt az eredmények alapján.
Keleti Arthur november 18-án az AI Talks 2026 konferencia „Haladék, de nem felmentés: mit érdemes az EU AI-rendeletről tudni cégvezetőként?” című kerekasztal-beszélgetésének résztvevője lesz a Bálna Budapestben, a rendezvény előtt ezért leültünk vele, hogy jobban belelássunk a mesterséges intelligencia szabályozásának szövevényes világába.
Az AI Act több rendelkezése már alkalmazandó, miközben az AI Omnibus, vagyis az AI Act-et módosító és egyszerűsítő uniós rendelet bizonyos határidőket későbbre tolt. Mit jelent valójában ez a haladék?
Keleti Arthur: A halasztások elsősorban a nagy kockázatú rendszereket érintik. Az olyan felhasználási módoknál, mint például bizonyos hitelbírálati, vagy HR-folyamatok, illetve a biometrikus azonosítókat alkalmazó rendszerek esetében 2027. december 2-ig tolták ki a részletes szabályok alkalmazását, a szabályozott fizikai termékekbe épített nagy kockázatú AI-megoldásoknál pedig 2028 augusztusáig. Úgy gondolom, hogy ami most történik, az inkább a jogszabály és a valóság szinkronizálása, ugyanis már az AI Act megjelenésekor látszott, hogy az eredeti határidők egy része nagyon ambiciózus.
Ettől még számos szabály már most is él: a tiltott AI-gyakorlatokra és az AI-jártasságra (AI literacy) vonatkozó előírások 2025 februárja óta alkalmazandók, 2026 augusztusától pedig több átláthatósági követelmény is életbe lépett, emellett december 2-ával élesednek a régi generatív rendszerek vízjelezésére és bizonyos alkalmazásokra (vetkőztető applikációk), illetve pedofil tartalmakra vonatkozó tilalmak. Tehát a haladék semmiképpen nem azt jelenti, hogy 2027 végéig nincs teendő.
Ahogy említetted, az AI Act nagy kockázatúnak minősít bizonyos felhasználásokat, például bizonyos HR- és oktatási rendszereknél, biometrikus vagy hitelbírálati folyamatoknál. Egy átlagos cégvezető honnan tudhatja, hogy valamelyik rendszere ebbe a kategóriába tartozik?
K.A.: Itt nem technológiai definícióból kell kiindulni, azonban elengedhetetlen, hogy egy cégnek legyen felhasználási leltára, hogy milyen AI-eszközt milyen célokra használ. Azaz, kell, hogy legyen erről egy lista, azt elő kell venni, és megnézni, milyen területeken használ a vállalat AI-t.
A HR különösen jó példa: a toborzás, az előléptetés, a teljesítményértékelés vagy egy felmondással kapcsolatos döntés esetén máris rögtön felmerülhet a nagy kockázatú felhasználás. Egy álláshirdetésre jelentkezőket követő rendszer, egy úgynevezett ATS (applicant tracking system) korábban lehetett sima adminisztrációs eszköz, de ha már elkezdi AI-jal rangsorolni a jelentkezőket, egészen más helyzet áll elő. Ugyanez igaz például a hitelbírálatra, bizonyos élet- és egészségbiztosítási felhasználásokra vagy az igazságszolgáltatás egyes területeire.
A vezető számára szerintem az egyik legfontosabb kérdés az, hogy az AI hoz-e emberekkel kapcsolatos döntést, vagy érdemben befolyásolja-e ezeket.
Ha nagy kockázatú rendszert használunk, nem elég egyszer megvenni és utána elfelejteni. A megfelelő embereket ki kell jelölni a felügyeletére, figyelni kell a bemeneti adatok relevanciáját, a rendszer működését. Emellett nem elegendő egyszerűen naplózni az esetleges incidenseket, ezeknek a naplóknak a megőrzéséről is gondoskodni kell, legalább hat hónapig, illetve az incidensekről jelentést is kötelező tenni. Fontos, hogy tájékoztatni kell a munkavállalói képviselőket és az összes érintettet is. Ha pedig hitelbírálati vagy biztosítási felhasználásról van szó, ott az AI Act előírja az úgynevezett alapjogi hatásvizsgálatot (FRIA) is, ami egyaránt vonatkozik a közjogi szervekre valamint a magaskockázatú rendszereket alkalmazó magánszektorban tevékenykedő felhasználókra is. Ezek viszonylag egyszerű követelményeknek tűnhetnek, de ha végigmegyünk a teljes folyamaton, máris jelentős szervezeti feladatsor áll össze belőlük. Szintén fontos, hogy a cégvezetők nem támaszkodhatnak csak arra, hogy az AI-szolgáltatók gondoskodnak a jogi megfelelőségről, mivel egy szolgáltató aláírása nem tekinthető tanúsítványnak.
Mit tud kezdeni a cégvezetés a shadow AI jelenségével, vagyis amikor a munkavállalók a vállalat hivatalos kontrollján kívül használnak AI-eszközöket? Ilyenkor mi a helyzet a felelősséggel, meddig mondhatja azt a cég vezetése, hogy nem tudták, hogy ez történik a vállalaton belül?
K.A.: A vezetés addig mondhatja azt, hogy nem az ő felelőssége, amíg tényleg nem tudhatott róla, viszont ha már tud róla, onnantól ez védhetetlen. Ráadásul ha egy vezető ma azt mondja, hogy fogalma sincs, mire használják az AI-t a munkatársai, akkor ott önmagában is valamilyen vezetési probléma van. A nemzetközi és hazai kutatásokból is az látszik, hogy rengetegen használnak saját eszközöket vagy saját fiókokat munkára, ezért ha egy szervezet azt állítja, hogy náluk ilyen nincs, könnyen lehet, hogy egyszerűen nem látják.
A tiltás – akárcsak a szabályozás – önmagában szerintem rossz stratégia, mert minél erősebben tiltunk, annál több shadow AI keletkezhet. Inkább ellenőrzött vállalati eszközöket kell biztosítani, megfelelő szerződéses feltételekkel. Legyen világos az adatosztályozás, tudják a kollégák, mit lehet és mit nem lehet feltölteni, és legyen valamilyen monitorozás is.
Az AI Act az AI-literacy, vagyis az AI-jártasság fejlesztését is elvárja a szervezetektől. Hogyan lehet ezt értelmesen csinálni, hogy ne egy újabb kötelező e-learning legyen belőle?
K.A.: Fontos megemlíteni, hogy az Omnibus 2026 júliusától csupán azt írja elő, hogy a szervezeteknek támogatnia kell a jártasságot, garanciát nem ír elő. Ettől függetlenül, ezen a téren én a szerepalapú képzésben hiszek. Egészen mást kell tudnia egy HR-esnek, aki AI-alapú szűrőrendszerrel dolgozik, és mást annak a vezetőnek, aki az eredmény alapján dönt. Érdemes valós hibákat bemutatni, megmutatni, hogyan torzíthat egy automatizált rendszer, hogyan kell az adatokat kezelni, mit lehet betölteni és mit nem.
A szabályzatokat sem lehet megúszni, de ezeket folyamatosan frissíteni kell. Egy 2024-ben készült AI-szabályzatban valószínűleg még egy szó sincs az agentekről, miközben ma már ezekről is beszélnünk kell. Éves, akár féléves felülvizsgálatra van szükség.
Mi történik akkor, ha nem is új AI-rendszert veszünk, hanem a már használt HR-, CRM- vagy pénzügyi szoftverünk kap egy új AI-funkciót, mert a fejlesztő cég egyik napról a másikra bekapcsolja, vagy egy szoftverfrissítésnél megjelenik a felületen az AI?
K.A.: Szerintem ez 2026 és 2027 egyik leginkább alulbecsült kockázata. A szoftverszolgáltatók óriási nyomás alatt vannak, hogy minél több AI-funkciót építsenek be a termékeikbe, így valóban, akár egyik napról a másikra megjelenhet egy olyan funkció, amely egy korábban alacsony kockázatú rendszert a nagy kockázatú felhasználás felé tol. Az említett HR-nél ez például nagyon könnyen megtörténhet. Tegnap a rendszer még csak adminisztrált, ma pedig már automatikusan rangsorolja a jelentkezőket.
Minimumként azt javasolnám, hogy az új AI-funkciók alapértelmezésben legyenek kikapcsolva. A beszállítói szerződésekben jelenjen meg, milyen AI-funkciók vannak a termékben és milyen besorolás vonatkozik rájuk. A változáskezelésnél pedig vizsgáljuk meg külön, hogy egy frissítés érinti-e az AI-funkciókat.
És igen, ehhez olvasni kell a release note-okat, azaz az új verzióval érkező mellékletet. Erre ironikus módon akár AI-t is lehet használni: figyelje helyettünk a frissítési jegyzékeket, és jelezzen, ha olyan új képesség jelenik meg, amely megváltoztathatja a kockázati besorolást. Utána pedig frissíteni kell az AI-leltárt.
Sok rendszerben az emberi kontroll annyiból áll, hogy az AI javaslatot tesz, az alkalmazott pedig rányom az elfogadás gombra. Mikor valódi a human-in-the-loop, vagyis az érdemi emberi felügyelet?
K.A.: Az egyik legegyszerűbb kérdés, hogy mennyi idő jut a döntésre. Ha húsz másodperc alatt kell jóváhagynom valamit, amihez normál esetben percek vagy órák kellenének, akkor jó eséllyel biodíszlet vagyok.
Azt is érdemes nézni, milyen gyakran bírálja felül az ember a gépet. Ha ez az arány gyakorlatilag nulla, az is gyanús. Meg tudja állítani az ember a folyamatot, vagy csak terelgetheti? Hozzáfér olyan információkhoz, amelyeket a rendszer nem lát? Érti, mi alapján született a javaslat?
Van egy fontos szervezeti kérdés is: mi történik azzal az emberrel, aki megállítja a folyamatot? Megvédi a szervezet, mert jól végezte a feladatát, vagy utólag őt kérik számon azért, mert lassította a működést? Ha az utóbbi, akkor az emberi kontroll megint csak papíron létezik.
Az embernek valódi döntési lehetőségre, elegendő információra, megfelelő időre és szervezeti felhatalmazásra van szüksége. Ezek nélkül a human-in-the-loop könnyen a megfelelési, azaz compliance-folyamatok kiszolgálójává válik.
Az AI Act mellett ott van a GDPR, a NIS2, a pénzügyi szektorban a DORA és több ágazati szabály. Hiba ezeket egymástól függetlenül, különálló feladatokként kezelni?
K.A.: Biztosan hiba, ezeket a szabályozásokat egységben kell nézni. Az adatvédelmi, kiberbiztonsági, beszállítói és AI-kockázatok folyamatosan összeérnek. Egy AI-incidens egyszerre érinthet személyes adatot, információbiztonságot, harmadik fél által nyújtott szolgáltatást és az AI Act szerinti kötelezettségeket.
A NIS2 miatt már rengeteg vállalatnak foglalkoznia kell kockázatkezeléssel, auditokkal és incidenskezeléssel. A pénzügyi szektorban a DORA például különösen intenzíven foglalkozik a harmadik felek technológiai kockázataival. Ezekből a meglévő folyamatokból kellene kiindulni az AI-nál is. Nem hiszem, hogy az a jó megoldás, ha a vállalat minden új rendelethez létrehoz még egy külön megfelelési szigetet.
Mit tehet egy magyar cégvezető most, anélkül, hogy hónapokig tartó AI Act-projektet indítana?
K.A.: Egyetlen dolgot nehéz mondani, de egy hónapon belül néhány alapvető lépést szerintem szinte minden vállalat meg tud tenni. Én először is kijelölnék egy felelőst a szervezetben, majd vele csináltatnék egy anonim, amnesztiaszerű felmérést arról, hogy a munkatársak milyen AI-eszközöket használnak. Nem az a cél, hogy megtaláljuk a „bűnösöket”, hanem hogy végre lássuk a valós helyzetet.
Utána megkérdezném, mire használják ezeket. Megnézném a beszerzési és szerződéses adatokat, hogy papíron milyen AI-rendszereink vannak, és ezt összevetném a tényleges használattal. Gyorsan megvizsgálnám azt is, hogy van-e olyan használat, amely már tiltott gyakorlat lehet.
Ha ez megvan, már van egy első AI-felhasználási leltárunk és egy valós helyzetképünk. Innen lehet továbbmenni a beszállítók átvilágítására, a szabályzatokra, a képzésre és a nagyobb kockázatú rendszerek részletes vizsgálatára.
November 18-án az AI Talks közönségével is ezekről a kérdésekről beszél majd. Ön mit szeretne látni a vállalatoknál a következő időszakban?
K.A.: Engem egyre inkább a védelem foglalkoztat: ha valaki manuális módszerekkel próbál védekezni egy nála ötvenszer vagy százszor gyorsabb rendszerrel szemben, veszíteni fog. Ez olyan, mintha azt mondanám, majd én megverem a sakkozógépet. Nem fogom.
Arra vagyok kíváncsi, hogyan reagálnak erre a cégek. Van-e már valaki, akinek kifejezetten az AI-kockázatok és az AI működésének felügyelete a feladata? Van-e AI-felhasználási leltáruk? Tudják-e egyáltalán, mire használják az AI-t a szervezetben?
És talán még fontosabb kérdés, hogy megértettük-e már, milyen rendszerekkel állunk szemben. Ezek egyre nagyobb mennyiségben tudnak önállóan döntéseket hozni, és időnként olyan képességeket is mutathatnak, amelyekre előre nem számítottunk. Ennek a biztonsági és szervezeti következményeit szerintem még csak most kezdjük igazán megérteni.
A 2026-os HVG AI Talks konferenciára lehet még jegyet vásárolni a https://aitalks.hu/ weboldalon.
