A mesterséges intelligenciát fejlesztő cégek köztudottan úgy tanították be a modelljeiket, hogy a betanításhoz olyan adatokat is felhasználtak, amelyeket védett a szerzői jog. A The New York Times (valamint a Daily News) még 2023 végén perelte be az OpenAI-t és a vele szoros partnerségben lévő Microsoftot azzal a váddal, hogy ellopták a cikkeiket a nyelvi modellek betanításához.
Aztán a potenciális bizonyítékok véletlenül törlődtek.
Most egy újabb, a modellek fejlesztésével kapcsolatos információ látott napvilágot, amitől nem lesznek népszerűbbek ezek a cégek.
A 404 Media beszámolója szerint az eddig is ismert volt, hogy az olyan platformok, mint a ChatGPT, a beszélgetési naplókat a modellek fejlesztésére használják fel, azt azonban nem lehetett tudni, hogy ennek mi a pontos folyamata. Most erről osztott meg információkat a lap.
Az OpenAI ellenőrzési folyamatának neve Project Lily. Az ezen dolgozó szakemberek az úgynevezett A feladatot végzőket „prompt-ellenőrök”, munkájuk pedig meglehetősen egyszerű: anonimizált, valós csevegéseket vizsgálnak, és értékelik a ChatGPT válaszainak minőségét.
https://hvg.hu/tudomany/20260908_openai-chatgpt-irasstilus-uj-funkcio-fogalmazas-stilusa
Egész pontosan azt vizsgálják, hogy a válasz valóban válasz-e a kérdésre, és hogy a szöveg tartalmaz-e bizonyos elemeket. Ilyen lehet például a tipikus „AI-zsargon”, a leereszkedő hangnem, az emojik túlzott használata vagy a túlzott hízelgés, ami mind hibának számít a rendszer részéről.
A rendszernek tilos saját magát emberi tulajdonságokkal felruháznia (antropomorfizálnia), valamint „személyes” élményeket megosztania. Vagyis azt mondhatja a ChatGPT, hogy „találtam néhány információt”, de azt nem, hogy vagyis bár a ChatGPT mondhatja azt, hogy „találtam néhány információt”, azt már nem, hogy „szakácsként azt mondom…” vagy, hogy „tudom, milyen érzés ez”.
A lapnak nyilatkozó dolgozó szerint a munka rendkívül képies, ugyanakkor óránként több mint 50 dollárt, vagyis nyers átszámítással több mint 15 ezer forintot lehet keresni vele. Ez kifejezetten magas díjazásnak számít ahhoz képest, hogy milyen egyszerűnek látszó feladatról van szó.
A forrás szerint a legtöbb felhasználónak valószínűleg sejtése sincs arról, hogy idegen emberek olvashatják a beszélgetésüket. Ez különösen aggasztó annak fényében, hogy sokan alkalmi barátként vagy terapeutaként tekintenek a ChatGPT-re, és mély titkokat osztanak meg a mesterséges intelligenciával.
https://hvg.hu/tudomany/20260905_ai-chatbotokkal-folytatott-beszelgetesek-jogi-szabalyozasa-felhasznalhato-perben-birosag
Bár a csevegés anonimizált módon kerül a felhasználók elé, azt az OpenAI elismerte, hogy bizonyos esetekben átjuthat néhány információ az ellenőrökhöz, főleg a rövidebb beszélgetések esetében.
Az ellenőröknek átadott változat állítólag tartalmaz egy „felhasználói összefoglalót” is, amely magában foglalja a felhasználó kérdéseinek és érdeklődési körének összegzését, a kontextust, sőt, akár a tartózkodási helyet is.
Ahogy a lap megjegyzi: a Project Lily nem értékeli a csevegések tényleges ténybeli pontosságát, ami arra utal, hogy valószínűleg létezik legalább még egy, de akár több csapat is, amelyek külön értékeléseket végeznek.
Bár az OpenAI először nem adott érdemi választ arra a kérdésre, hogy a felhasználókat kifejezetten tájékoztatta-e arról, hogy csevegéseiket emberek is elolvashatják, a vállalat végül megosztott egy linket a gyakran ismételt kérdések (GYIK) oldalára, amely kitér a modellfejlesztést szolgáló emberi felülvizsgálatra. Ezt látszólag 29 napja frissítette az OpenAI, a Tom's Hardware szerint azonban legalább két éves, vagy még annál is régebbi.
Az ilyesfajta adatgyűjtés a legtöbb cégnél általános eljárásnak számít, ettől azonban a dolog kevésbé lesz megnyugtató.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
