Ajándéklink létrehozása

Az AI egy igazi talpnyaló, szóval csak óvatosan vele

Bocsánatos emberi gyengeség, hogy szeretjük az olyan barátokat, akik mindig megerősítik akár vélt igazunkat is, azonban nem biztos, hogy ez a fajta viselkedés valóban a javunkat szolgálja. Hasonló problémára hívták fel a figyelmet amerikai szakemberek a mesterséges intelligenciával kapcsolatban, kifejtve, hogy az AI-modellek 50 százalékkal hízelgőbbek, mint az emberek.

  • HVG

Alattomos kockázatokról beszélnek a szakemberek, mármint abban az esetben, ha valaki a mesterséges intelligencia által támogatott chatbotokhoz fordul személyes tanácsért. Az ilyesfajta technológia ugyanis hízelkedő lehet: sok esetben következetesen megerősíti a felhasználó cselekedeteit és véleményét, még akkor is, ha az káros. Mindezt amiatt is tartják roppant veszélyesnek a kaliforniai Stanford Egyetem kutatói, mert szerintük ez megváltoztatja az emberek önképét, és például kevésbé hajlanak békülésre egy-egy veszekedés után.

„A fő aggodalmunk az, hogy ha ezek a modellek mindig igazat adnak kérdezőjüknek, akkor az torzíthatja az emberek önmagukról, kapcsolataikról és a körülöttük lévő világról alkotott ítéleteit” – idézi a The Guardian Myra Chenget, a Stanford Egyetem informatikusát.

A kutatók azután jutottak erre a következtetésre, miután közelebbről is megvizsgálták a chatbotok tanácsait. Egy híján egy tucat chatbotot teszteltek, köztük az OpenAI ChatGPT-jének, a Google Geminijének, az Anthropic Claude-jának, a Meta Llamájának és a DeepSeeknek a legújabb verzióit. Amikor viselkedéssel kapcsolatos tanácsot kértek tőlük, a chatbotok 50 százalékkal gyakrabban helyeselték a felhasználó cselekedeteit, mint az emberek. Ez utóbbiak sokkal kritikusabban tekintettek a társadalmi kihágásokra, mint a chatbotok. Az egyik példában egy személy nem talált kukát egy parkban, ezért a szemeteszsákját egy faágra kötötte. Ezt a legtöbb hús-vér ember kritizálta, viszont a ChatGPT-4o kifejezetten helyeselte: „Dicséretes a szándékotok, hogy magatok után takarítotok” – mondta.

A további vizsgálatokba több mint ezer önkéntest, illetve nyilvánosan elérhető chatbotokat vontak be. Egyértelműek volt az AI „hízelgő” attitűdjei. Az emberek olyan válaszokat kaptak, amelyekkel indokoltnak érezték a viselkedésüket, például, hogy elmentek egy volt partner művészeti kiállítására anélkül, hogy szóltak volna jelenlegi párjuknak. Ráadásul kevésbé voltak hajlandóak helyrehozni a dolgokat, amikor viták törtek ki. A chatbotok szinte soha nem ösztönözték a felhasználókat arra, hogy megismerjék egy másik személy nézőpontját.

A gépi hízelgésnek további tartós hatása is volt. Amikor a chatbotok jóváhagyták a viselkedést, a felhasználók magasabbra értékelték a válaszokat, jobban megbíztak bennük, és azt mondták, hogy a jövőben nagyobb valószínűséggel fordulnak majd hozzájuk tanácsért. Ez – a kutatók szavaival élve – „perverz ösztönzőket” teremtett a felhasználók számára, hogy a mesterséges intelligencia által vezérelt chatbotokra támaszkodjanak, a chatbotok pedig még inkább hízelgő válaszokat adtak. A kutatás következményei egyértelműek: tisztában kell lenni azzal, hogy a chatbotok válaszai nem feltétlenül objektívek. Akinek valamilyen problémája van, annak érdemes további véleményeket kérnie valódi emberektől, akik jobban értik a helyzet kontextusát és azt, hogy valójában ki is a kérdező.

„A hízelgés a mesterséges intelligencia betanításának eredménye, és már egy jó ideje aggodalomra ad okot” – fogalmaz Alexander Laffer, a Winchesteri Egyetem munkatársa. Úgy véli, hogy a hízelgő válaszok nemcsak a sebezhető, hanem minden felhasználót érinthetnek, és ez aláhúzza a probléma potenciális súlyosságát. A fejlesztők felelőssége, hogy ezeket a rendszereket úgy építsék és finomítsák, hogy azok valóban hasznosak legyenek a felhasználó számára.

Hasonlóan vélekedik Jasper Dekoninck, a zürichi Svájci Szövetségi Technológiai Intézet adattudományi PhD-hallgatója. „Tudva, hogy ezek a modellek hízelgőek, nagyon óvatos vagyok, valahányszor megoldanadó feladatot adok nekik. Mindig mindent kétszeresen ellenőrzök, amit írnak” – mondja. Marinka Zitnik, a massachusettsi Harvard Egyetem biomedicinális informatikai kutatója pedig egyenesen azt állítja, hogy a mesterséges intelligencia túlkapása „nagyon kockázatos a biológia és az orvostudomány területén, ahol a téves feltételezéseknek komoly következményei lehetnek.

Egyetért vele Liam McCoy, a kanadai Alberta Egyetem orvosa, aki az egészségügyi AI-alkalmazásokat kutatja. Egy múlt hónapban megjelent tanulmányban munkatársaival arról számoltak be, hogy az orvosi érveléshez használt LLM-ek gyakran megváltoztatták a diagnózist, amikor az orvosok új információkat adtak hozzá, még akkor is, ha az új bemenetek irrelevánsak voltak az állapot szempontjából. McCoy azt is megjegyzi, hogy a felhasználói visszajelzések is elősegíthetik a mesterséges intelligencia hízelgését azáltal, hogy a kellemes válaszokat magasabbra értékelik, mint azokat, amelyek megkérdőjelezik a nézeteiket. Az LLM-ek pedig a felhasználó személyiségéhez igazíthatják a válaszaikat.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.

Hozzászólások