Fontos lenne a mesterséges intelligencia szabályozása, ám az csak akkor ér valamit, ha kellően erős – vélik az amerikai Cornell Egyetem és a Carnegie Mellon Egyetem kutatói. A Proceedings of the National Academy of Sciences című tudományos folyóiratban megjelent publikációban arról írtak, hogy a gyenge szabályozások „visszaüthetnek”, és olyan termékek létrehozását eredményezhetik, amelyek potenciálisan veszélyesebbek, mint a szabályozás nélküliek.
A kutatók közgazadságtani elméleteket, valamint a játékelméletet felhasználva egy olyan elméleti modellt hoztak létre, amelynek célja, hogy megmutassa: az AI szabályozása hogyan lehet a leghatékonyabb.
A szakemberek úgy találták, hogy a valódi biztonság érdekében egy szigorú szabályozásra van szükség, és a modelleket fejlesztő cégeket kell, hogy megcélozza, nem pedig azokat, amelyek használják az AI-t. Annak ellenére, hogy az egyes AI-felhasználási esetek szabályozása elsőre logikusnak tűnhet, a kutatók szerint ez visszaüthet, és csökkentheti az AI-termékek általános biztonságát.
Mindezt azzal magyarázzák, hogy ha a felelősség a felhasználó cégekre hárul, akkor az a fejlesztőket „felmenti” a felelősség alól, így lazábban kezdik venni a biztonsági garanciákat is – írja a Gizmodo.
https://hvg.hu/tudomany/20251202_etikai-dilemmak-chatgpt-mentalis-segitsegnyujtas-openai
A tanulmány rendkívül fontos pillanatban jelent meg, az Egyesült Államok ugyanis épp azt próbálja kitalálni, hogy miként lehetne szabályozni a mesterséges intelligenciát. A kérdésben alapvetően két tábor alakult ki. Az egyik oldalon állnak a szabályozásellenes technológiai szakemberek, akik sokkal enyhébb szövetségi korlátokat képzelnek el. Ez nagyrészt összhangban van a Trump-adminisztráció megközelítésével.
Ez a csoport azt állítja, hogy a AI-iparól le kell rázni „a felesleges korlátokat”, hogy a lehető leggyorsabb legyen az innováció, mert csak így nyerheti meg az Egyesült Államok a globális AI-versenyt Kínával szemben.
A másik oldal ezzel szemben úgy látja, a profit miatt a cégek hajlamosak alábecsülni az alulszabályozott AI veszélyeit. A hátrányok között gyakorlatilag minden negatív tényező szerepel, a mentális egészség romlásától kezdve az AI okozta munkanélküliségig.
A kutatók úgy látják, hogy a biztonság és a profit nem biztos, hogy vagy–vagy helyzetet jelent. Úgy látják, a megfelelően erős szabályozás minden szempontból hatékony lehet: amellett, hogy biztonságosabb lesz az AI, ez a biztonságosság növeli az AI-t használó cégek számát és költési hajlandóságát.
A szakemberek szerint a megoldás egy klasszikus fogolydilemma, vagyis a játékelmélet azon alapmodellje, amikor két félnek össze kellene dolgoznia a legjobb eredmény érdekében. Ha ezt nem teszik meg, legfeljebb közepes lesz az eredmény, amit csak az ér el, aki elárulja a másikat.
Ebben az esetben a döntéshozók lehetnek azok, akik vagy úgy döntenek, hogy együttműködnek a szereplőkkel a szabályozás érdekében, vagy egyedül döntenek arról, bebiztosítva a saját hasznukat.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
