A különböző mesterségesintelligencia-chatbotok, mint a ChatGPT, a Bing és a Bard ezernyi témában tudnak válaszolni a kérdéseinkre, legyen szó receptekről, programozásról vagy az élet nagy kérdéseiről.

Úgy tűnik azonban, hogy a felnőtt, szexuális jellegű témákat érintő diskurzusok sem kerülik el a chatbotokat, mármint, az emberek folytatnak ilyen csevegéseket velük. Nem is keveset.

Több egyetem kutatói dolgoztak azon a tanulmányon, ami arXiv preprint szerveren jelent meg. Vizsgálódásaik során összesen egymillió beszélgetést elemeztek, melyeket 25 különféle chatbottal végeztek az emberek.

Ki nyer ma? Attól függ, hogy ki kérdezi, hogyan kérdezi, és hogy melyik mesterséges intelligenciától

„Ahogy a generatív mesterséges intelligencia túljut a kezdeti hájpon, felmerül az igény, hogy valós hasznot is hajtson." Nem lenne túl barátságos kvízkérdés, hogy kitől idéztünk, még akkor sem, ha megadnánk négy cég döntéshozóinak nevét opcióként. Merthogy valószínűleg a világ majd' minden vállalatvezetőjének fejében keringenek ilyen gondolatok, mióta a tavalyi év végén, az idei elején először szemben találta magát a ChatGPT nevével.

Az elemzés alá vetett minta 100 000 véletlenszerűen kiválasztott, angol nyelvű diskurzust ölelt fel, és bár ezek többsége programozáshoz és hasonlókhoz kapcsolódott, de igen nagy számban – körülbelül 10 százalékban – fordultak elő a felnőtt tematikájú kér(d)ések is.

Ezek között voltak erotikus történetmesélésre vonatkozó kérések, valamint olyanok, amelyek szexuális fantáziákkal és szerepjátékokkal álltak összefüggésben. A kutatók szerint jó forrásként használhatók ezek a beszélgetések a nagy nyelvi modellek biztonsági problémáinak vizsgálatához. Ráadásul az OpenAI azon API-ja (alkalmazásprogramozási interfésze) sem volt éppen tökéletes, mely azokat a beszélgetéseket hivatott megjelölni, melyek nem biztonságosak – részletezi az Interesting Engineering.

A mesterséges intelligencia is bátorította a férfit, hogy ölje meg II. Erzsébetet

Jaswant Singh Chail egy szolgáltatás segítségével hozott létre saját chatbotot, amiről úgy gondolta, egy angyal, akivel halála után találkozni fog.

Ami a kevésbé ártalmas témákat illeti, az emberek érdeklődnek még szoftverhibák és javítások iránt, de például utazási tanácsokat és szövegek összefoglalását is kérik a chatbotoktól.

Azt elismerték a kutatók, hogy az adatbázis nem tükrözte a szélesebb közönséget, mivel a legtöbb résztvevő vagy MI-rajongó, vagy kutató volt – és a regisztráció sem volt épp szigorú, ahogyan a későbbi adatszűrés sem. Ez pedig duplikált, vagy rossz minőségű adatokat is eredményezhetett.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.