Az elmúlt időszakban jelentősen megszaporodtak a mesterséges intelligencia veszélyeit firtató nyilatkozatok, ráadásul olyanok szájából, tollából is, akik a legnagyobb AI-cégeknél épp ilyen technológiákon dolgoznak.
Most a Microsoft AI-vezetője, Mustafa Suleyman szólalt meg a témában, mondván: az Anthropic által a Claude betanítására alkalmazott módszer „katasztrofális hatással lehet az emberiség jólétére”. A szakember úgy véli, a rivális cég azt kockáztatja, hogy olyan dolgot hoz létre, amelyet már „lehetetlen” lesz irányítani, ha úgy kezelik, mint egy embert.
„Nem szabad alvajárás közben olyan döntéseket hoznunk, amelyeket később keserűen megbánunk” – idézi a BBC Suleymant.
A lap megkereste az ügyben az Anthropicot, amely úgy reagált, hogy „az AI nem rendelkezik tudattal”, továbbá a modellek „nem éreznek, és nem is szenvednek”. Nincsenek veleszületett preferenciáik és mögöttes céljaik sem – állítja a Claude-ot fejlesztő vállalat.
https://hvg.hu/tudomany/20260908_volker-turk-ensz-figyelmeztetes-mesterseges-intelligencia-veszelyek
Hosszas értekezésében Suleyman dicsérte kicsit az Anthropic vezetőjét, Dario Amodeit és csapatát, hogy milyen „megfontolt, erkölcsös és intellektuálisan őszinte emberek”. A cég tevékenységét ugyanakkor megkérdőjelezte.
Bírálta a céget azért is, mert a mesterséges intelligenciáját emberihez hasonló tulajdonságokkal ruházta fel, amely vélekedése szerint azt a látszatot keltette, hogy a Claude-nak saját vágyai vannak, valamint értékrendszerrel és önérzettel is rendelkezik.
Amellett, hogy szorgalmazta egy, a kérdésről szóló vita elindítását, Suleyman azt is kiemelte, hogy nagyobb transzparenciára van szükség az AI-rendszerek betanítását és kiértékelését illetően. Ehhez független vizsgálatra van szükség az AI viselkedésének ellenőrzésére, valamint olyan, erősebb eszközökre, amelyek monitorozzák és szabályozzák a technológiát.
https://hvg.hu/tudomany/20260907_jakub-jachocki-openai-tudos-figyelmeztetes-mesterseges-intelligencia-veszelyek
Dame Wendy Hall, a Southamptoni Egyetem informatikaprofesszora szerint ez az a típusú párbeszéd, amelyre nemzetközi szinten szükség van, szemben a mesterségesintelligencia-vállalatok „színpadias viselkedésével”, amely szerinte csak az emberek megijesztését szolgálja.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
