Miközben egyre több az aggodalom a mesterséges intelligencia körül, és már a legfejlettebb AI-modellek fejlesztői is a technológia veszélyeire figyelmeztetnek, az Anthropic közölte: a kutatási-fejlesztési feladatai több mint negyedét – 26 százalékát – végzi már a Claude chatbotjuk.
Lényegében arról van szó, hogy a Claude a saját utódját fejleszti. A The Washington Post beszámolója szerint néhány hónap alatt jutott el 0-ról 26 százalékra ez az arány. Ez is azt mutatja, hogy rendkívül gyorsan közeledünk az önfejlesztő AI létrejötte felé.
Dario Amodei, az Anthropic vezérigazgatója néhány nappal ezelőtt felszólította a vezető AI-cégeket, hogy egyeztessenek a technológia fejlesztésének lassításáról. Ezzel időt szeretnének nyerni, hogy kiépítsék a megfelelő biztonsági korlátokat az AI körül.
A legtöbb nyugati rivális támogatja a javaslatot, Donald Trump azonban erősen bírálja azt, Peking pedig úgy véli, az egésznek csak az a célja, hogy keresztbe tegyenek Kínának.
Amodei – sok más szakemberrel közösen – arra hívta fel a figyelmet, hogy
a mesterséges intelligencia elég intelligenssé válhat önmaga fejlesztésére. Bármiféle emberi beavatkozás nélkül.
https://hvg.hu/tudomany/20260909_mesterseges-intelligencia-veszelyei-anthropic-kutatok
A szakember szerint a „rekurzív önfejlesztési folyamat” megvalósulása esetén az emberek számára már nehéz lehet az AI-technológia megértése vagy ellenőrzése. Az Anthropic nem árulta el, hogy mennyire tartja valószínűnek ennek megvalósulását. Azt ugyanakkor leszögezte a cég, hogy nincs olyan pontja a Claude-nak, amely teljesen autonóm módon, emberi közreműködés nélkül készülne.
Annyit árultak el csupán, hogy a kutatási-fejlesztési feladatok felülvizsgálata során a Claude az idő 26 százalékában képes volt vezetni a munkálatokat, úgy, hogy az emberek megfigyelő szerepet töltöttek be, és iránymutatást adtak. Ez az arány még februárban is 0 százalék volt.
Az Anthropic azt is nyilvánosságra hozta, hogy csaknem 30 ezer AI-ügynökük végez kutatási és mérnöki munkát, valamint a közelmúltban a kutatás-fejlesztésre fordított számítási kapacitásuk hat százalékát irányították át biztonsági munkákra.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
