Csúnya új világ – az okosfegyverek buták, de könnyen elszabadulhatnak

HVG360: Miért ilyen nehéz ebben az ügyben előbbre jutni? Tavaly sem történt előrelépés, sem a NATO-ban, sem a ENSZ-ben.

Sebastian Vagt: Az innováció felgyorsítása, a digitalizáció elterjedése jobbá teszi majd a európai polgárok életét, és előnyösebb helyzetbe hoz bennünket a globális versenyben. Mi, liberálisok ezzel egyidejűleg szilárdan hiszünk bizonyos etikai alapelvekben, kiállunk az emberi jogokért és az ezekben megfogalmazott értékekért. A mesterséges intelligenciát (AI) használó fegyverrendszerek azonban mindkét értékrendszert veszélyeztethetik. Az ilyen fegyverek képviselik a hadviselés következő, nagy forradalmi változását, nemcsak a katonai erőviszonyokat, hanem a hadviselés jellegét is megváltoztatják majd. Ahogy a robotrendszerek világhírű filozófusa, az orosz származású amerikai író, Isaac Asimov mondta:

a tudomány gyorsabban tágítja ismereteinket, mint ahogy a társadalom bölcsessége gyarapszik.

Ezért kellene már most elkezdünk a vitát a mesterséges intelligenciára épülő új védelmi rendszerekről, mert fontos, hogy ítélőképességünk és bölcsességünk nem maradjon le a technika nyújtotta lehetőségek mögött.

HVG360: A dzsinn egy ideje már kiszabadult a palackból...

S. V.: A konvencionális fegyverrendszerek ellenőrzésére létrehozott ENSZ-szervezet úgy látta, hogy a mesterséges intelligencia vezérelte új fegyverrendszerek éppolyan ellenőrizetlen és válogatás nélküli gyilkolásra képesek, mint sok hagyományos fegyver, például a taposóaknák. Ezért már 2014-ben elkezdtek dolgozni egy szabályozáson, de mostanáig semmiben nem jutottak előbbre. Közben az orosz hadvezetés célkitűzése az, hogy 2025-re a teljes orosz arzenál egyharmada képes legyen autonóm módon, emberi beavatkozás nélkül működni. Ezt a célt valószínűleg nem éri majd el, de jól jelzi Moszkva ambícióit. Rajta kívül India, az Egyesült Államok, Franciaország, Brazília, Izrael is ilyen rendszerek kifejlesztésén dolgozik. Mivel igen nehéz megkülönböztetni a védelmi és offenzív fegyverrendszereket, inkább azon az alapon kell különbséget tenni közöttük, hogy fix telepítésű vagy mobil rendszerekről van-e szó. Az előbbiek például a régóta hadrendben lévő, hadihajókra telepített autonóm rendszerek. A haditengerészeti támadó rakéták elképesztő sebessége miatt nincs az a kezelőszemélyzet, amelynek ideje lenne parancsot adni az elhárítórakéták kilövésére.