Szólni fog a szülőknek a Meta, ha a tinédzser gyermekeik öngyilkossággal vagy önkárosítással kapcsolatos témákról beszélget a cég chatbotjával – írja a TechCrunch a közösségimédia-óriás közlése nyomán.
A Meta azon is dolgozik, hogy a rendszere értesíteni tudja a segélyszolgálatokat ilyen esetekben.
Az AI-cégek az elmúlt időszakban többször is a figyelem középpontjába kerültek, mivel nem egy esetben felmerült, hogy az AI-chatbotok rosszul reagáltak a komoly gondokkal küzdő fiatalokkal folytatott beszélgetések során. Az OpenAI ellen például pert is indítottak már szülők, akik úgy vélik, hogy gyermekük öngyilkosságához a ChatGPT-nek is köze volt.
A Meta most egy olyan AI-rendszert fejlesztett, amely felismeri, ha a beszélgetésekben önkárosításra történő utalások vannak. A Meta nem szeretné alaptalanul riogatni a szülőket, így mielőtt egy ilyen értesítést kiküldenek, egy ember is átfésüli a beszélgetést.
https://hvg.hu/tudomany/20250901_openai-chatgpt-mesterseges-intelligencia-beszelgetes-mentalis-zavar-gyilkossag-ongyilkossag
Amennyiben a beszélgetés alapján nem egyértelmű a veszély, a Meta inkább biztosra megy, és ekkor is kiküldi a figyelmeztetést.
A biztonsági funkciót első körben az Egyesült Államokban, Ausztráliában és több más régióban teszik elérhetővé – Magyarországon még várni kell a bevezetésre, de az év végéig világszerte bekapcsolják.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
