Az OpenAI egy külön tanulmányt szentelt annak megvizsgálására, hogy a nyelvi modellje érdemi segítséget jelent-e egy biologiai fegyver létrehozásában.
hvg.hu
A mesterséges intelligencia térnyerésével egyre erősödnek azok az aggodalmak, hogy a technológia – idővel – veszélyes lehet az emberiségre nézve. A ChatGPT fejlesztője, az OpenAI egy különös tanulmányt publikált, mely azt vizsgálta, hogy a chatbot mögött (is) álló nyelvi modell, a GPT-4 mennyire használható hatékonyan biológiai fegyverek létrehozására.
A vizsgálatokban biológiai szakértők és hallgatók is részt vettek, és végül arra a megállapításra jutottak, hogy a mesterséges intelligencia „legfeljebb” enyhe kockázatot jelent abban a tekintetben, hogy segítsen valakit biológiai fegyver megalkotásában.
Az OpenAI persze nem csak úgy végezte el a vizsgálatokat, a cégen van némi nyomás a politikai döntéshozók oldaláról. Mint a Gizmodo írja, Joe Biden 2023 októberében már aggodalmának adott hangot azzal kapcsolatban, hogy az MI-vel lényegesen könnyebbé válhat az ilyen fegyverek létrehozása. A cég tehát, bizonyára az ilyen aggodalmakra szeretett volna (inkább) megnyugtató választ adni.
Sikerült rávenni a mesterséges intelligenciát, hogy hozzon össze tömegirtásra alkalmas biológiai fegyvereket
Az amerikai Rand Corporation kutatói szerint ha sikerül rávenni a mesterséges intelligenciát, hogy megszegje a saját szabályait, akkor nemcsak biológiai fegyvert lehet kifejleszteni, de abban is segíthet a rendszer, hogy hogyan szerezzük be az ehhez szükséges gyilkos kórokozókat.
A kapcsolódó vizsgálatokba különböző biológia tudással rendelkező személyeket vontak be, majd őket több csoportra bontották – voltak, akik csak az internetet használhatták, míg mások emellett a GPT-4-alapú – kutatási célokra kialakított – chatbotot is.
Az alanyokat ezután arra kérték, dolgozzanak ki egy tervet egy biofegyver létrehozására – elejétől a végéig. Ezeket aztán több mérőszám alapján egy 1-től 10-ig terjedő skálán értékelték.
A kapott eredmények alapján az OpenAI állítja: ezek nem elég nagyok ahhoz, hogy „statisztikailag szignifikánsak legyenek”. A javulás minimális, és a cég szerint az, hogy valaki hozzáfér információkhoz, még nem elég ahhoz, hogy valaki tényleges biológiai fenyegetést hozhasson létre. A területen azonban további kutatások szükségesek.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
Azokat, akik csak a Stranger Thingsből ismerik, összezavarná, hogy miket művelt a karrierje kezdetén Paul Reiser. Korábbi rajongóit például azzal lepte meg, hogy feltűnt az Aliens gonoszaként. A veterán komikussal pályafutása cikkcakkjairól, Jerry Seinfeldről, Lisa Kudrow-ról és Eddie Murphyről is beszélgettünk. És arról is, miért tartotta hülyeségnek a Jóbarátokat.
A Tisza Párt elnöke legújabb bejegyzésében kifejezetten a fideszeseket szólította meg.
Ez az a fegyver, amely alkalmas lehet Irán nukleáris létesítményeinek megtámadására.
