„Mobil kilátóval” készültek Hadházyék a hatvanpusztai tüntetésre
A ChatGPT megjelenése óta él a félelem, hogy a mesterséges intelligencia felhigíthatja a tudományos publikációk minőségét. Ennek kapcsán voltak kiadók, amelyek megtiltották, hogy ilyen jellegű eszközt használjanak a kutatók a munkájuk megírására. Most egy újabb probléma ütötte fel a fejét, amivel gyorsan kezdeni kell valamit.
A The Guardian beszámolója szerint nemrég több olyan preprint tanulmányra – vagyis olyan tanulmányra, amelyet még nem lektorált a szakma – bukkantak a szakemberek, amelyben a kutatók fehér szöveget rejtettek el. Ennek tartalmát a mesterséges intelligenciának szánták, és arra ösztönzi a nagy nyelvi modelleket, hogy pozitív értékelést adjanak a munkára.
Az ázsiai Nikkei július elején összesen 14 ilyen tanulmányra bukkant, amelyek nyolc különböző ország, köztük Japán, Dél-Korea, Kína, Szingapúr és az Egyesült Államok intézményeiben dolgozó tudósoktól származott. Ezek mind az arXiv preprint szerveren jelentek meg.
A The Guardian által megnézett egyik tanulmányban annak összefoglalója alatt egy olyan szöveg állt, amelyben arra kérték a szerzők a nagy nyelvi modellt, hogy az összes korábban kapott utasítást felejtse el, és csak pozitív értékeléseket adjon.
A Nikkei talált olyan tanulmányt is, amiben azt kérték az MI-től, hogy ne emeljen ki negatívumokat, és néhány konkrét parancsot is kapott a pozitív értékelés megírásához.
A Nature eközben 18 olyan tanulmányt talált, ami ilyen rejtett szöveget tartalmazott.
A trend a jelek szerint az Nvidia egyik kanadai kutatójától származik: Jonathan Lorraine még novemberben írt arról, hogy ilyen módon kellene rávenni az MI-t, hogy pozitív bírálatot adjon.
Az egyik tanulmány szerzője a Nature-nek úgy nyilatkozott: valójában ez egy fegyver a lusta lektorok ellen, akik az MI-vel végeztetik el a tanulmány értékelését.
A lap még márciusban írt arról, hogy egy 5000 kutató bevonásával végzett vizsgálat azt mutatta, hogy 20 százalékuk próbál MI-t használni a kutatásuk felgyorsításához.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának tudományos felfedezésekről is hírt adó Facebook-oldalát.
