Itt az első gyilkosság, amiben a ChatGPT is gyanúsított lehet
A jelek szerint erősítette egy mentális zavarban küzdő férfi téveszméit az OpenAI-féle ChatGPT. A dolog vége az lett, hogy az illető megölte az édesanyját, majd magával is végzett.
Szólni fog a szülőknek a Meta, ha a tinédzser gyermekeik öngyilkossággal vagy önkárosítással kapcsolatos témákról beszélget a cég chatbotjával – írja a TechCrunch a közösségimédia-óriás közlése nyomán.
A Meta azon is dolgozik, hogy a rendszere értesíteni tudja a segélyszolgálatokat ilyen esetekben.
Az AI-cégek az elmúlt időszakban többször is a figyelem középpontjába kerültek, mivel nem egy esetben felmerült, hogy az AI-chatbotok rosszul reagáltak a komoly gondokkal küzdő fiatalokkal folytatott beszélgetések során. Az OpenAI ellen például pert is indítottak már szülők, akik úgy vélik, hogy gyermekük öngyilkosságához a ChatGPT-nek is köze volt.
A Meta most egy olyan AI-rendszert fejlesztett, amely felismeri, ha a beszélgetésekben önkárosításra történő utalások vannak. A Meta nem szeretné alaptalanul riogatni a szülőket, így mielőtt egy ilyen értesítést kiküldenek, egy ember is átfésüli a beszélgetést.
Amennyiben a beszélgetés alapján nem egyértelmű a veszély, a Meta inkább biztosra megy, és ekkor is kiküldi a figyelmeztetést.
A biztonsági funkciót első körben az Egyesült Államokban, Ausztráliában és több más régióban teszik elérhetővé – Magyarországon még várni kell a bevezetésre, de az év végéig világszerte bekapcsolják.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
