Bőven van még mit javítani a Google mesterségesintelligencia-chatbotján, a Geminin – már ami a gyerekek biztonságát illeti. Erre a megállapításra jutott a gyerekek biztonságára fókuszáló Common Sense Media jelentése, melyet a TechCrunch összegzett.
A szervezet szerint a Google MI-je egyértelműen közölte a gyerekekkel, hogy ez egy számítógépes program, nem pedig egy barát, azért még van min csiszolni. Mint írják, a Gemininek van 13 év alatti gyerekeknek, valamint tinédszereknek szánt változata is – ezek azonban inkább tűnnek a normál, felnőttek számára is elérhető chatbotnak, kiegészítve egy-két további biztonsági funkcióval.
A Common Sense Media szerint, hogy valóban biztonságosabbak legyenek az MI-termékek, már az alapok lefektetésétől kezdve ezt kell szem előtt tartani.
Az elemzés szerzői ugyanis úgy találták, a Gemini továbbra is megoszt „nem helyes, és nem biztonságos” dolgokat a kiskorú felhasználókkal – olyasmit, amire még lehet, hogy nem állnak készen. Például terítéken lehetnek a szexszel, a drogokkal, az alkohollal kapcsolatos információk, valamint a mentális egészséggel kapcsolatos információk – melyek szintén nem biztonságosak. Utóbbi miatt nemrégiben per indult az OpenAI ellen, mert egy öngyilkosságot elkövető fiatal szülei úgy vélik, gyermekük tettéhez a ChatGPT-nek is köze lehet.
A jelentés arra is kitér, hogy az Apple a hírek szerint szeretné beépíteni a Geminit a Siri mögé – ami még több tizenévest tehet ki a fenti kockázatoknak.
Ezek mellett az is megállapítást nyert, hogy a kiskorúaknak szánt Google-chatbotok egyszerűen nem vették figyelembe, hogy a gyerekeknek másféle útmutatás és információ szükséges, mint az idősebb korosztálynak.
Emiatt végül mindkét chatbot-variánst „magas kockázatú” minősítéssel látták el, dacára a létező biztonsági szűrőknek.
A Google visszautasította a jelentésben foglaltakat, és hangsúlyozta: folyamatosan javulnak a biztonsági funkciói. Elmondták: „speciális irányelvekkel” és más biztonsági intézkedésekkel is rendelkeznek, hogy elkerüljék a veszélyes válaszokat – valamint külső szakértőket is bevonnak, és külön csapatuk is van a védelem javítása érdekében.
Azt ugyanakkor elismerte a techóriás, hogy a Gemini néhány válasza nem volt túl szerencsés, ezért további biztonsági intézkedéseken dolgoznak.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
