Bejelzett az Anthropic rendszere, amely a mesterséges intelligencia önfejlesztését figyeli

Az amerikai tőzsdefelügyelet számára benyújtott dokumentumból derült ki, hogy az Anthropic mesterséges intelligenciája elérhetett egy kritikus pontot.

  • HVG

Az Anthropic nemrég arról adott tájékoztatást, hogy az általuk fejlesztett technológia (mesterséges intelligencia) átlépett egy olyan „küszöbértéket”, amely óvintézkedések megtételét teszi szükségessé a rekurzív önfejlesztéssel kapcsolatban. A rekurzív önfejlesztés az az elméleti pont, amikor az AI képessé válik önmaga továbbfejlesztésére.

A Gizmodo a vállalat közlését idézve megjegyzi: ez még nem egyenlő azzal, hogy a cég elérte a technológiai szingularitást. Az Anthropic november 2-án nyújtott be egy dokumentumot az Egyesült Államok Értékpapír- és Tőzsdefelügyelete (Securities and Exchange Commission, SEC) számára, amelyben kijelentette: a cég hamarosan elérheti azokat a kritériumokat, amelyeket a felelős skálázásra vonatkozó irányelve a „mesterséges intelligenciának tulajdonítható, drámaian felgyorsult fejlődéssel” kapcsolatban meghatároz. Az Anthropic egy másik dokumentumban arról ír, hogy az irányelvei tartalmazzák a kockázatok nyomon követésére vonatkozó terveket is.

Ezen a ponton válik érdekessé a dolog, a cég ugyanis ugyanebből – a SEC számára benyújtott dokumentum november 10-i változatából – már kivette a „mesterséges intelligenciának tulajdonítható, drámaian felgyorsult fejlődéssel” kapcsolatos részt, a megváltozott szövegből pedig arra lehet következtetni, hogy az ennek ellenőrzésével kapcsolatos irányelvek már életbe is léptek.

„Mivel a Felelősségteljes Skálázási Irányelvünk szerinti küszöbérték akkor lép életbe, ha a fejlődés meghatározott mértékű felgyorsulását észleljük vagy várjuk, arra a következtetésre jutottunk, hogy elértük ezt a küszöböt” – idézi a benyújtott dokumentumot a Gizmodo.

A cég azt is kiemelte, hogy ez nem a mostani, hanem a jövőbeli modellekre vonatkozik.

A lap megjegyzi, a mostani bejelentés alapján nem egy hirtelen technológiai ugrásról van szó, hanem egy olyan lehetőségről, ami a jövőben bekövetkezhet. A jelzés miatt ugyanakkor a cégnek felül kell vizsgálnia a biztonságra vonatkozó előírásait, és szorosan figyelemmel kell követnie, éppen mit csinál az általa fejlesztett mesterséges intelligencia.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.

Hozzászólások