A mesterséges intelligencia térnyerésével egyre erősödnek azok az aggodalmak, hogy a technológia – idővel – veszélyes lehet az emberiségre nézve. A ChatGPT fejlesztője, az OpenAI egy különös tanulmányt publikált, mely azt vizsgálta, hogy a chatbot mögött (is) álló nyelvi modell, a GPT-4 mennyire használható hatékonyan biológiai fegyverek létrehozására.

A vizsgálatokban biológiai szakértők és hallgatók is részt vettek, és végül arra a megállapításra jutottak, hogy a mesterséges intelligencia „legfeljebb” enyhe kockázatot jelent abban a tekintetben, hogy segítsen valakit biológiai fegyver megalkotásában.

Az OpenAI persze nem csak úgy végezte el a vizsgálatokat, a cégen van némi nyomás a politikai döntéshozók oldaláról. Mint a Gizmodo írja, Joe Biden 2023 októberében már aggodalmának adott hangot azzal kapcsolatban, hogy az MI-vel lényegesen könnyebbé válhat az ilyen fegyverek létrehozása. A cég tehát, bizonyára az ilyen aggodalmakra szeretett volna (inkább) megnyugtató választ adni.

Sikerült rávenni a mesterséges intelligenciát, hogy hozzon össze tömegirtásra alkalmas biológiai fegyvereket

Az amerikai Rand Corporation kutatói szerint ha sikerül rávenni a mesterséges intelligenciát, hogy megszegje a saját szabályait, akkor nemcsak biológiai fegyvert lehet kifejleszteni, de abban is segíthet a rendszer, hogy hogyan szerezzük be az ehhez szükséges gyilkos kórokozókat.

A kapcsolódó vizsgálatokba különböző biológia tudással rendelkező személyeket vontak be, majd őket több csoportra bontották – voltak, akik csak az internetet használhatták, míg mások emellett a GPT-4-alapú – kutatási célokra kialakított – chatbotot is.

Az alanyokat ezután arra kérték, dolgozzanak ki egy tervet egy biofegyver létrehozására – elejétől a végéig. Ezeket aztán több mérőszám alapján egy 1-től 10-ig terjedő skálán értékelték.

A kapott eredmények alapján az OpenAI állítja: ezek nem elég nagyok ahhoz, hogy „statisztikailag szignifikánsak legyenek”. A javulás minimális, és a cég szerint az, hogy valaki hozzáfér információkhoz, még nem elég ahhoz, hogy valaki tényleges biológiai fenyegetést hozhasson létre. A területen azonban további kutatások szükségesek.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.