Bár a nagy nyelvi modellekre épülő mesterséges intelligenciák rendkívül hasznosak lehetnek a tartalomgyártásban, van egy komoly probléma velük: hallucinálhatnak, vagyis olyan tartalmat állíthatnak be valósnak, ami igazából nem az. Nemrég például azért nyújtott be panaszt egy férfi az OpenAI-hoz, mert a ChatGPT azt állította róla, hogy megölte a gyermekeit.

Mivel a mesterséges intelligencia működése ezen a téren kissé átláthatatlan, az OpenAI úgy döntött, megpróbál változtatni ezen. A cég egy új weboldalt hozott létre, ahol olyan információkat közöl a jövőben, mint a modelljei hallucinációjának aránya. Emellett például azt is nyomon lehet majd követni a jelentésekből, hogy a modelljei mennyi káros tartalmat állítanak elő, illetve mennyire viselkednek az utasításoknak megfelelően.

A cég azt állítja, hogy az új platform további átláthatóságot biztosít az OpenAI működésével kapcsolatban. Hogy ez mennyire valósulhat meg, az kérdéses: a The New York Times nemrég például azt állította, hogy a vállalat véletlenül törölte azokat a bizonyítékokat, amelyek választ adhattak volna arra, a cég ellopta-e a lap cikkeit, hogy azon tanítsa be a mesterséges intelligenciát – írja az Engadget.

Az OpenAI azt közölte, az új oldal legfőbb célja, hogy a nyilvánosság tisztában legyen vele, milyen biztonsági intézkedéseket tesz a cég a mesterséges intelligencia működésével kapcsolatban, és általánosságban véve is megfelelő átláthatóságot biztosítson. A vállalat ugyanakkor jelezte: az oldalon található információk csak „pillanatfelvételek”, így a további részletekért egyéb kiadásokból is tájékozódniuk kell az érdeklődőknek.

A lap megjegyzi: a kezdeményezés ugyan jó, ám a teszteket maga az OpenAI végzi, és a cég közli az adatokat is, így könnyen lehet, hogy nem a teljes igazság olvasható ki a tájékoztatásból.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.