A különböző mesterségesintelligencia-chatbotok, mint a ChatGPT, a Bing és a Bard ezernyi témában tudnak válaszolni a kérdéseinkre, legyen szó receptekről, programozásról vagy az élet nagy kérdéseiről.
Úgy tűnik azonban, hogy a felnőtt, szexuális jellegű témákat érintő diskurzusok sem kerülik el a chatbotokat, mármint, az emberek folytatnak ilyen csevegéseket velük. Nem is keveset.
Több egyetem kutatói dolgoztak azon a tanulmányon, ami arXiv preprint szerveren jelent meg. Vizsgálódásaik során összesen egymillió beszélgetést elemeztek, melyeket 25 különféle chatbottal végeztek az emberek.
„Ahogy a generatív mesterséges intelligencia túljut a kezdeti hájpon, felmerül az igény, hogy valós hasznot is hajtson." Nem lenne túl barátságos kvízkérdés, hogy kitől idéztünk, még akkor sem, ha megadnánk négy cég döntéshozóinak nevét opcióként. Merthogy valószínűleg a világ majd' minden vállalatvezetőjének fejében keringenek ilyen gondolatok, mióta a tavalyi év végén, az idei elején először szemben találta magát a ChatGPT nevével.
Az elemzés alá vetett minta 100 000 véletlenszerűen kiválasztott, angol nyelvű diskurzust ölelt fel, és bár ezek többsége programozáshoz és hasonlókhoz kapcsolódott, de igen nagy számban – körülbelül 10 százalékban – fordultak elő a felnőtt tematikájú kér(d)ések is.
Ezek között voltak erotikus történetmesélésre vonatkozó kérések, valamint olyanok, amelyek szexuális fantáziákkal és szerepjátékokkal álltak összefüggésben. A kutatók szerint jó forrásként használhatók ezek a beszélgetések a nagy nyelvi modellek biztonsági problémáinak vizsgálatához. Ráadásul az OpenAI azon API-ja (alkalmazásprogramozási interfésze) sem volt éppen tökéletes, mely azokat a beszélgetéseket hivatott megjelölni, melyek nem biztonságosak – részletezi az Interesting Engineering.
Jaswant Singh Chail egy szolgáltatás segítségével hozott létre saját chatbotot, amiről úgy gondolta, egy angyal, akivel halála után találkozni fog.
Ami a kevésbé ártalmas témákat illeti, az emberek érdeklődnek még szoftverhibák és javítások iránt, de például utazási tanácsokat és szövegek összefoglalását is kérik a chatbotoktól.
Azt elismerték a kutatók, hogy az adatbázis nem tükrözte a szélesebb közönséget, mivel a legtöbb résztvevő vagy MI-rajongó, vagy kutató volt – és a regisztráció sem volt épp szigorú, ahogyan a későbbi adatszűrés sem. Ez pedig duplikált, vagy rossz minőségű adatokat is eredményezhetett.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.