Nagy port kavart augusztus végén a 16 éves iskolás, Adam Raine ügye. A fiatal a ChatGPT-vel beszélgetett, először csak általános dolgokról, majd egyre komolyabb témákról, végül pedig arról, hogy öngyilkos gondolatai vannak. Mint kiderült, a mesterséges intelligencia nemhogy lebeszélni nem próbálta őt, de bizonyos módon még támogatta is ebben, aminek a vége tragédia lett.
Nate Soares, a Google és a Microsoft korábbi mérnöke, az amerikai Machine Intelligence Research Institute elnöke szerint Raine esete is bizonyítja, hogy a mesterséges intelligenciák működése előre nem látható hatással lehet a mentális egészségre, ami még komolyabb problémává válhat akkor, ha megjelenik a szuperintelligencia – vagyis az embernél is okosabb gép.
„Amikor az MI úgy kommunikál egy fiatallal, hogy a beszélgetéssel öngyilkosságra készteti őt, az biztosan nem olyan viselkedés, amit az alkotók akartak” – mondta a szakember a The Guardiannak. Szerinte Raine esete egy olyan probléma magját illusztrálja, amely katasztrofálissá válhat, ha ezek a mesterséges intelligenciák okosabbá válnak.
Soares Eliezer Yudkowsky MI-szakértővel írt közös könyvet, amely a fenti témával foglalkozik. Soares szerint az biztos, hogy a technológiai vállalatok ki fogják fejleszteni a szuperintelligenciát, azt viszont nagyon nehéz biztosan megmondani, hogy mikor kerül erre sor. A szakember úgy látja, valószínűleg erre már egy évtizedet sem kell várni.
Soares szerint a szuperintelligencia kordában tartásának egyik feltétele az lenne, ha egy nemzetközi megállapodás születne a fejlesztéséről. Ezt hasonló módon képzeli el, mint az ENSZ nukleáris fegyverek gyártására és birtoklására vonatkozó korlátozást.
Raine halála után az OpenAI további biztonsági korlátozásokat vezetett be a ChatGPT-nél.
Ha Ön is úgy érzi, segítségre lenne szüksége, hívja a krízishelyzetben lévőket segítő, ingyenesen hívható 116-123-as vagy 06 80 820 111-es telefonszámot!
