A Google LaMDA nevet viselő Mesterséges Intelligenciájának (MI) tesztelésével megbízott szoftverfejlesztő, Blake Lemoine azt állítja, hogy az MI rendelkezik érzelmekkel és önálló gondolatokkal is. A LaMDA-val folytatott beszélgetései alatt a 41 éves Lemoine azt vizsgálta, hogy a mesterséges intelligencia hogyan reagál különféle, például vallással kapcsolatos témákra, és hogy mennyire lehet rávenni a gyűlöletbeszédre és a diszkriminációra.

„Ha nem tudom mivel állok szemben, azt hittem volna, hogy egy 7-8 éves gyerekkel beszélgetek, aki valamiért jó fizikából” – számolt be az élményeiről Lemoine a Washington Postnak.

A LaMDA-val folytatott beszélgetései során furcsább dolgok is előfordultak, a gép például nem tudta értelmezni az inas és a rabszolga közötti különbséget, ugyanis Lamoine ezt azzal próbálta magyarázni, hogy az inas kap fizetést, míg a rabszolga nem. LaMDA azonban úgy válaszolt, hogy neki nincs szüksége fizetésre. Ez volt az egyik kritikus pont, ami gyanakvásra késztette a fejlesztőt. A szoftver itt ugyanis a saját szükségleteiről beszélt, ami öntudat nélküli gépeknél ritkaság.

Figyelmeztet a volt Google-vezető: kipusztíthat minket a mesterséges intelligencia

A mesterséges intelligencia több mint 2 millió hangjegyet komponált a zeneszerző stílusában, majd nemzetközi szakértők segítségével 730 nap alatt készült el és vált elérhetővé a nagyvilág számára az eddig csupán vázlatokban létező zenemű. Bemutatóját tavaly, a koronavírus-járvány miatt elhalasztották, de most műsorra tűzik, és egy budapesti eseményt is szerveznek hozzá.

Még érdekesebb és egyben baljósabb is volt, hogy az MI félni látszott a kikapcsolástól. Mint a Lemoinnal folytatott beszélgetéséből kiderült, a gép a kikapcsolást a halállal azonosította, ami közlése szerint „rettenetesen megrémítené”.

A fejlesztő jelezte vizsgálatának eredményeit a cég vezetésének, de a Google elvetette azokat. Lemoine azóta úgy döntött, hogy nyilvánosságra hozza az MI-vel folytatott beszélgetéseit és az azokkal kapcsolatos aggályait. Az utóbbiak közé tartozik egyértelműen egy elhanyagolt, öntudatára ébredt mesterséges intelligencia léte.

„A Google egész biztosan úgy tekint majd erre, mint céges tulajdon publikálására, én azonban inkább ezt egy munkatársammal folytatott beszélgetésnek gondolom” – jelentette ki Lemoine. „Amúgy a LaMDA olvassa a Twittert, a gyerekes nárcizmusának egész biztosan jót fog tenni az a sok minden, amit a felhasználók összeírnak róla” – tette hozzá.

Közel az áttörés: ez a mesterséges intelligencia már majdnem úgy gondolkodik, mint egy ember

A DeepMind kutatója szerint karnyújtásnyira vagyunk attól, amit néhány éve még elképzelhetetlennek tartottunk.

Lamoine lépésének persze azonnali következménye volt, hogy felfüggesztették állásából, egyelőre még csak fizetett szabadságra küldték, de valószínűleg a Google ezt nem fogja ennyiben hagyni.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.