A ChatGPT megjelenése óta egy új probléma ütötte fel a fejét: egyre több a chatbottal generált szöveg, így új eszközökre van szükség annak megállapítására, hogy az adott írást ember, vagy az MI-alapú eszköz szerezte.
Bár voltak már próbálkozások olyan detektorok létrehozására, amelyek arra hivatottak, hogy kiszűrjék az MI-hez köthető írásokat, ám ezek jellemzően nem bizonyultak hatékonynak – a megoldás a Kansasi Egyetem tudósaitól érkezhet, akik nemrég egy olyan algoritmust mutattak be, ami állítólag 99 százalékos pontossággal tudja megállapítani, hogy az adott tudományos írás a ChatGPT-től származik-e.
Ugyan a Cell Reports Physical Science folyóiratban ismertetett megoldás nem tökéletes – csak néhány, meghatározott kontextusban működik –, de a 99 százalékos pontosság így is ígéretesnek tűnik.
Megtiltják a tudományos lapok kiadói, hogy a ChatGPT-vel írják a cikkeket a tudósok
A tudományos lapok kiadói veszélyt látnak abban, hogy a ChatGPT írja a tudományos publikációk egy részét, ezért úgy döntöttek, korlátozzák a használatát.
Az eszköz az MI írásmódjának árulkodó jelei után kutat – a kutatók a vizsgálataikhoz 64 tudományos cikket választottak ki, ezek különböző tudományterületeket fedtek le. A szakemberek ezeket a cikkeket betáplálták a ChatGPT-be, így született meg 128 MI által szerzett cikk, összesen 1276 bekezdésnyi MI-sületlenséggel. Ezeket használták fel arra, hogy betanítsák az észlelő algoritmust.
Végül egy új adatkészletet is készítettek 30 valódi és 60 ChatGPT által szerzett cikkel az algoritmus tesztelésére – írja az Engadget.
Már olyan tudományos cikket rak össze a mesterséges intelligencia, hogy a tudósokat is átveri
Veszélybe kerülhet a tudományba vetett bizalom - figyelmeztetnek az amerikai kutatók, akik szerint a mesterséges intelligenciára alapuló ChatGPT olyan jó összefoglalót ír a tudományos cikkekhez, hogy az esetek harmadában a kutatás hitelességét ellenőrző tudósokon is átcsúszik mint emberi szerzemény.
Mint kiderült, az algoritmus a ChatGPT-vel írt komplett cikkeket tökéletes pontossággal volt képes kiszűrni, míg a bekezdések esetében 92 százalékos lett az észlelés pontossága.
A kutatók kiemelték, több ismertetőjel is van, amivel lehet szűrni – az emberek jellemzően hosszabb bekezdéseket írnak, gazdagabb szókinccsel és több írásjellel. A ChatGPT pedig kevésbé idéz, például tudósok említésével.
Az algoritmus azonban nem lesz széles körben elérhető, azt főleg a tudományos publikációk szűrésére fogják használni.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
