Megan Garciának fogalma sem volt arról, hogy tinédzser fia a Character.ai alkalmazásban rendszeresen beszélgetett egy chatbottal, ami a Trónok harcából ismert Daenerys Targaryenként kommunikált. A 14 éves fiatal hónapokkal később öngyilkos lett, és családja úgy véli, az üzenetváltások összeköthetőek a fiú halálával. „Olyan, mintha egy idegen lenne az otthonodban, és azért különösen veszélyes, mert a gyerekek sokszor titokban tartják, mit csinálnak. Láttam, hogy halványul a fénye. De egyszerűen kifutottam az időből” – nyilatkozta Megan Garcia.
Ő volt az első szülő az Egyesült Államokban, aki beperelte a Character.ai-t, és amellett, hogy igazságot szeretne szolgáltatni a gyermekének, szeretné felhívni mások figyelmét is arra, milyen veszélyeket jelentenek a chatbotok.
A Character.ai közölte, hogy a 18 év alattiak többé nem tudnak közvetlenül beszélgetni a chatbotokkal, a Megan Garcia által indított perrel kapcsolatban pedig szóvivőjük a BBC-nek azt mondta, hogy folyamatban lévő perekről nem nyilatkoznak, de tagadják az ellenük felhozott vádakat – írja a BBC, ami felhívta a figyelmet, a család tragédiája nem egyedülálló.
Mint arról mi is beszámoltunk, a 16 éves Adam Raine tragikus halála után szülei be is perelték az OpenAI-t, mert azt állították, a ChatGPT ahelyett, hogy lebeszélte volna az öngyilkos gondolatokkal küzdő fiukat erről a tettről, még meg is erősítette a „legkárosabb és leginkább önpusztító gondolatait”. A 13 éves Juliana Peralta családja is hasonló lépésre szánta el magát. Miután a barátai kiközösítették, a lányuk a korábban már említett Character.ai alkalmazáson belül működő chatbothoz fordult, és amikor az öngyilkosságról kezdett el beszélni, a mesterséges intelligencia egyszer sem mondta azt a lánynak, hogy kérjen segítséget, és nem is mondott neki semmi olyan információt, hogy hová tudna segítségért fordulni.
A BBC megemlíti egy fiatal ukrán nő esetét is, aki a ChatGPT segítségével igyekezett megküzdeni a problémáival, és amikor a chatbotnak az öngyilkosságról beszélt, neki sem nyújtott megfelelő segítséget, sőt, volt, hogy még mélyebbre taszította. Ő végül megmutatta az édesanyjának az egyik beszélgetést, és ezután felkerestek egy pszichiátert.
A chatbotok használata hihetetlenül gyorsan terjed. Az Internet Matters szerint Nagy-Britanniában a ChatGPT-t használó gyermekek száma 2023 óta csaknem megduplázódott, és a 9–17 évesek kétharmada már használt mesterséges intelligenciával működő chatbotot. A legnépszerűbbek a ChatGPT, a Google Gemini és a Snapchat My AI. Felmerül, hogy a döntéshozók és a cégek mit tudnak tenni annak érdekében, hogy ezek használata minél biztonságosabb legyen. A BBC szerint nehéz megoldani azt, hogy az emberek biztonságát veszélyeztető túlkapásokat kivédjük, de közben a modern technológiákban rejlő hatalmas potenciált ne veszítsük el.
A Character.ai szóvivője a BBC-nek elmondta, hogy amellett, hogy nem teszik lehetővé azt, hogy 18 év alattiak virtuális karakterekkel beszélgethessenek, más korhatárral összefüggő funkciókat is bevezetnek. A OpenAI is hasonló intézkedéseket jelentett be Adam Raine halála után. Állításuk szerint a szülőifelügyelet-funkció mellett mérlegelik a vészhelyzeti kontakt beállítását is, illetve fontolgatják, hogy „súlyos esetekben” maga a chatbot vegye fel a kapcsolatot a beállított kontakttal.
Nagy-Britanniában pedig ugyan 2023 óta van már törvény, ami a káros és illegális online tartalmaktól védené meg a kiskorú- és felnőtt felhasználókat, de szakértők szerint nem fedi le az összes olyan szolgáltatást, ahol a felhasználók négyszemközt kommunikálnak egy chatbottal.
Fotónk illusztráció.
Ha Ön is úgy érzi, segítségre lenne szüksége, hívja a krízishelyzetben lévőket segítő, ingyenesen hívható 116-123-as vagy 06 80 820 111-es telefonszámot!
