50 ember halála, 1 milliárdos kár: itt húznák meg a mesterséges intelligencia határait
Az Anthropic egy olyan javaslatcsomagot tett le az amerikai törvényhozók asztalára, ami segíthet biztonságosabbá tenni a mesterséges intelligenciát.
A mesterséges intelligenciát is beleveszi a végrendeletébe az az Abu-Dzabiban élő anya, aki fia jövőjét biztosítaná be arra az esetre, ha ő fiatalon meghalna. A rendelkezés előírná a gyermeke jövőbeni gyámja számára, hogy minden nagyobb, a fia életét érintő döntés előtt konzultáljon az AI-jal – ennek eszközeként pedig jelenleg a ChatGPT szerepel a dokumentumban. A végrendelet terve választ adhat arra, hogy milyen szerep hárulhat a mesterséges intelligenciára a hagyatéktervezésben.
A Khaleej Times beszámolója szerint a Living Wishes Protocol néven emlegetett terv szerint a mesterséges intelligencia nem válna gyámmá, és semmilyen jogi hatáskörrel nem rendelkezne a gyermek felett. Ehelyett tanácsadó eszközként szolgálna, segítve az emberi gyámokat annak mérlegelésében, hogyan alkalmazhatók az anya által rögzített, a meggyőződésével, a gyermekneveléssel és egyéb, a fiával kapcsolatos kívánságok.
A végrendelet tervezetét jelenleg jogászok vizsgálják, és még nem fogadta el azt a bíróság hivatalos dokumentumként.
Byron James, az Expatriate Law jogásza, a végrendelet megalkotója szerint nem arról van szó, hogy halála után „újraalkotnák” az édesanyát, vagy, hogy az AI-ra bíznák a gyermek nevelését. Ehelyett a cél az, hogy a lehető legtöbbet megőrizzék az édesanya útmutatásaiból.
A lap szerint a hétoldalas dokumentum a Living Wishes Protocolt egy olyan módszerként írja le, amely a szülői kívánságokat egy folyamatos döntéshozatali keretrendszerré alakítja, ahelyett, hogy a gyámokra csupán egy statikus dokumentumot hagyna.
A gyámnak konzultálnia kellene a mesterséges intelligenciával többek között:
- az iskolaválasztásra,
- az iskolaváltásra,
- a tanulmányokra,
- a lakhely kiválasztására,
- a nem sürgős orvosi vagy pszichológiai kezelésekre,
- a vallási nevelésre,
- valamint az anya családjával való kapcsolattartásra
vonatkozó döntések előtt.
A gyámnak az anya kívánságait és nézeteit tartalmazó dokumentumot meg kellene mutatnia az AI-nak, valamint azokat a körülményeket is le kellene írnia, amelyek az adott kérdéssel kapcsolatos döntés meghozatalával kapcsolatban relevánsak.
A végső döntés ugyanakkor a gyám kezében maradna. A dokumentum azt is kimondja, az AI-t nem szabad úgy beállítani, mintha az anya nevében szólalna meg. A javaslat arra is törekszik, hogy ne legyen merev, és ne írja felül a gyermek akaratát.
A gyermek 18 éves koráig a gyámnak évente felül kellene vizsgálnia a gyermek oktatását, egészségi állapotát, jóllétét, baráti kapcsolatait, érdeklődési köreit és változó igényeit, továbbá azt is, hogy az anya kívánságait tartalmazó dokumentum továbbra is megfelel-e a gyermek igényeinek.
A gyermeket – amint elég éretté válik erre –, be kell vonni a felülvizsgálati folyamatba.
A lap szerint a protokollt vészhelyzetben – például egy sürgős orvosi beavatkozásnál – nem kell használni.
Bár a tervezet mindenképpen érdekes, egy sor kérdést felvet. Ilyen például az adatvédelem kérdése, a leírás szerint ugyanis rendszernek érzékeny adatokat kell megadni a gyermekről. Emellett az sem tisztázott, mi történik akkor, ha a mesterséges intelligencia – mint technológia – valamiért eltűnik, például azért, mert túl veszélyessé válik, ezért le kell állítani minden ilyen rendszert.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
(Nyitóképünk illusztráció.)
