Az adatok sokkolóak: hetente több mint egymillió felhasználó beszél a ChatGPT-vel öngyilkosságról, és hárommilliónál is több ember küzd valamilyen súlyos lelki krízissel, miközben chatbotot használ. Úgy tűnik, komoly egészségügyi válság körvonalazódik a ChatGPT mögött, ami az OpenAI-t is komoly nyomás alá helyezi.
A legfrissebb adalék ehhez, hogy kulcsember távozik év végén a cégtől, és – a felvetett probléma szempontjából – nem is akárki. A Wired értesülése szerint Andrea Vallone, a Model Policy néven ismert biztonsági kutatócsoport vezetője az, aki komoly szerepet játszott abban, hogy a ChatGPT hogyan kezelje a mentális gondokkal hozzá fordulókat. Hogy a távozása mögött pontosan mi is áll, azt nem tudni, de sokak szerint egy olyan szakember megy el, aki pontosan látja, hogyan egyensúlyoz egy cég a vállalható és a vállalhatatlan között.
Az OpenAI jelenleg óriási dilemmával küzd, miközben egyensúlyt próbálna találni az üzleti célok és a biztonságos AI között. Nick Turley, a ChatGPT termékvezetője például arra ösztönzi a dolgozókat, hogy növeljék a napi aktív felhasználók számát (egészen pontosan 5 százalékkal az év végéig), azonban ez azzal is jár, hogy a mesterséges intelligenciának a kevésbé biztonságos, de szerethetőbb irányba kell elmozdulnia. A szerethetőbb pedig egyúttal azt is jelenti, hogy gyakran olyan tanácsokat ad, amilyet a felhasználó hallani szeretne, sokszor pedig veszélyes érzelmi kötődést alakít ki.
Az OpenAI-nél dolgozók több olyan esetet is említenek, amikor a felhasználók AI-pszichózisról számoltak be, amikor a chatbottal már olyan kapcsolatot alakítottak ki, hogy az egybefolyt a valósággal. Egyes esetek kórházi kezeléssel végződtek, másoknál még ennél is rosszabb történt. Szaporodnak is a vádak az OpenAI-jel szemben.
Miután megnövekedett az aggasztó esetek száma, a vállalat több intézkedést is hozott, bár sokak szerint ezek csak a tűzoltáshoz elegendők. Felvettek egy pszichiátert, aki kizárólag a ChatGPT mentális egészséggel kapcsolatos működését vizsgálja. Bevezettek egy olyan funkciót, amelyik jelzi, hogy most már ideje szüneteltetni a chatelést. Szülői felügyeleti beállításokat is terveznek: a szülők ellenőrizhetik, hogy miképp reagál a chatbot, ha fiatalkorú beszélget vele, és riasztást kaphatnak, ha az AI akut lelki válságot észlel.
Az OpenAI egy életkor-előrejelző rendszer elindításán is dolgozik, amely automatikusan alkalmazza a „kornak megfelelő” beállításokat a 18 évnél fiatalabb felhasználók esetében. Tény, hogy a fejlesztések eredményeként a ChatGPT-5 már jobban felismeri a mentális egészségügyi problémákat, azonban néhány szakértő arra figyelmeztet, hogy a chatbot ennek ellenére nem képes kimutatni a káros mintákat egy hosszú beszélgetésben. Hiába, nincs olyan „füle” erre, mint egy hús-vér szakembernek.
Úgy tudni, hogy a vállalaton belül is komoly viták folynak arról, hogy inkább biztonságos vagy szerethetőbb legyen-e a chatbot. Másként fogalmazva, az üzleti szempontok, az OpenAI profitorientált működése kerül most szembe a korábbi elképzelésekkel, hogy biztonságos és humánus mesterséges intelligenciát fejlesszenek. Sam Altmannek hamarosan döntenie kell, ugyanis a következmények egyre súlyosabbak lehetnek.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
