Saját kárán tanulta meg a Meta AI-szakembere, hogy miért nem szabad az AI-ra bízni a fontos dolgokat
A Meta szakemberének teljes beérkező levelek mappáját lenullázta egy AI-eszköz, hiába kérte, hogy ne tegye.
Egészen szürreális hiba történt nemrég a Metánál a mesterséges intelligencia miatt, ami ismét csak arra világít rá, mennyire óvatosan kell bánni a technológiával. A The Information beszámolója szerint egy mérnök nevében posztoló AI-ügynök olyan útmutatást adott az egyik dolgozónak, ami végül ahhoz vezetett, hogy bizalmas felhasználói adatok kerültek olyan emberekhez, akiknek nem lett volna jogkörük látni azokat.
A történet azzal kezdődött, hogy a Meta egyik dolgozója egy kérdést tett fel a cég belső fórumán. Ez azt a célt szolgálja, hogy ha egy mérnök elakad egy feladat elvégzésében, akkor segítséget tud kérni a kollégáitól. A cég egy mérnöke látta ezt a kérdést, majd megkért egy AI-ügynököt, hogy elemezze azt, amely végül azt eredményezte, hogy a gép válaszolt is a mérnök nevében.
A dolgozó, aki az eredeti kérdést posztolta látta a választ, és úgy gondolta, hogy azt valóban a Meta egy mérnöke írta, így követte az abban leírt útmutatást.
Kiderült, hogy az AI válasza nem igazán volt megfelelő. Amikor az alkalmazott úgy járt el, ahogy az a válaszban le volt írva, a jelentés szerint hatalmas mennyiségű adatot, köztük bizalmas céges és felhasználói információkat tett elérhetővé a Meta azon dolgozói számára, akiknek egyébként nem volt engedélyük ahhoz hozzáférni. A kiszivárgott információk körülbelül két órán át voltak így elérhetők, mielőtt kijavították volna a hibát.
A Metánál nem ez az első ilyen, AI-t érintő baki. Az év elején a Meta szuperintelligenciáért felelős igazgatója hozzáférést adott a mesterséges intelligenciának a levelezéséhez, ami aztán az egész postaládát törölte – még akkor is, amikor a szakember már könyörgött az AI-nak, hogy hagyja abba, amit csinál.
A Meta mindezek után azon dolgozik, hogy a jövőben végpontok közötti titkosítást alkalmazzon a chatbotokkal folytatott beszélgetéseknél. A Wired beszámolója szerint erre már fel is vett a cég egy szakembert, Moxie Marlinspiket, aki a Signal és annak nyílt forráskódú titkosítási protokollját segített kifejleszteni.
A dolog pikantériája, hogy eközben a Meta úgy döntött, megszünteti a végpontok közötti titkosítást az Instagram-felhasználók számára, így az ütenetváltásokat hamarosan nem védi ez a módszer.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
