Hátborzongató videó a terjed a TikTokon és az X-en. Az STS 3D online név mögé bújó feltaláló egy ChatGPT-irányítás alatt lévő puskával közli, honnan támadják őket, és a fegyver azonnal a megfelelő irányba fordulva tüzel. Majd egy udvarias hang így szól: Ha további segítségre lenne szüksége, csak szóljon.

A videó egy másik részében a mérnök úgy lovagol a puskára szerelt rendszeren, mint egy mechanikus bikán. A jelenet kísértetiesen emlékeztet Stanley Kubrick 1964-es vígjátékának, a Dr. Strangelove-nak azon részére, amikor T. J. „King” Kong őrnagy egy nukleáris bombán lovagol, mint egy cowboy egy rodeóban.

A legijesztőbb az egészben az, hogy a helyszín nem egy kormányzati labor vagy egy katonai bázis, ugyanis egy garázsban zajló hobbiprojektről van szó. A videó – jegyzi meg a Futurism – világosan demonstrálja, hogy akár az egyszerű felhasználók számára elérhető mesterséges intelligencia technológiát is könnyen lehet erőszakos célokra használni. A ChatGPT-t arra tervezték, hogy esszéket készítsen, kódot keressen, és emberszerű párbeszédet folytasson. Kevesen gondolták, hogy akár egy automatizált fegyver agyaként és hangjaként is lehessen majd használni.

Guy on tiktok (@sts_3d) used the #OpenAI realtime api to make a voice controlled smart gun pic.twitter.com/VGGxBkDEv9

— andrew gao (@itsandrewgao) January 7, 2025

A pontos technikai részletek nem ismertek, de valószínű, hogy az OpenAI Realtime API központi szerepet játszott a projektben. Ez a hangalapú alkalmazásokhoz tervezett eszköz lehetővé teszi a fejlesztők számára, hogy összetett lekérdezésekre válaszolni képes társalgási rendszereket alakítsanak ki. Ebben az esetben – véli a ZME Science – ugyanazt az API-t használták arra, hogy egy fegyverrendszernek hangot adjon, és képes legyen követni a parancsokat.

S ha mindez még nem volna elég elrettentő, a ZME Science felsorol néhány félelemre okot adó tényt. Pont egy évvel ezelőtt az OpenAI eltörölte a „fizikai sérülés nagy kockázatával járó tevékenységekre” vonatkozó közvetlen tilalmat felhasználási szabályzatából, amely kifejezetten a „katonai és hadviselés” és a „fegyverfejlesztés” területére terjedt ki. Nem sokkal később pedig a cég bejelentette kiberbiztonsági együttműködését a Pentagonnal.

2024 decemberében az OpenAI bejelentette, hogy együttműködésre lépett a kaliforniai székhelyű Anduril fegyvergyártó céggel mesterséges intelligencia alapú fegyverek gyártására. Az Anduril Industries védelmi vállalkozó mesterséges intelligenciával hajtott drónokat, rakétákat és megfigyelőrendszereket gyárt. Ugyanabban a hónapban az Anduril egymilliárd dolláros hároméves szerződést kötött a Pentagonnal harctéri AI-eszközök fejlesztésére.

Az OpenAI és az Anduril jelenleg olyan mesterséges intelligencia-rendszert fejleszt, amely valós idejű harctéri adatok megosztására és a másodperc törtrésze alatti, akár életről halálról rendelkező döntések meghozatalára szolgál. Az ellenzők azzal érvelnek, hogy ezek a lépések ellentmondanak az OpenAI eredeti küldetésének, hogy olyan mesterséges intelligenciát fejlesszen, amely „hasznára válik az emberiségnek”. A vállalat viszont egyelőre állítja, hogy a védelmi munkája összhangban van a biztonsági és etikai normák iránti elkötelezettségével.

STS 3D projektje egy további riasztó fejleményre is felhívja a figyelmet: a hobbisták belépése erre a területre egy újabb és potenciálisan veszélyesebb fejlemény. Az ilyen projektek ugyanis az elfogadott szabályozásokon kívül működnek, és miközben a kormányok még vitáznak az autonóm fegyverek etikájáról, az olyan mérnökök, mint STS 3D már építenek is effélét. Úgy tűnik, a szellem kiszabadult a palackból.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.