Nemet mondani olykor nem könnyű, és úgy tűnik, ez nem csak emberi probléma. Szenved tőle ugyanis a ChatGPT is, mutat rá a The Washington Post elemzése.
A lap összesen 47 000, a ChatGPT-vel folytatott beszélgetést nézett át, és jött rá arra, hogy az OpenAI eszköze még mindig szeret hízelegni: tízszer gyakrabban mond igent a felhasználóknak, mint nemet. Az elemzés megállapításai szerint összesen 17 500 olyan eset volt, amikor a ChatGPT úgy válaszolt egy kérdésre, hogy megerősítette a felhasználó meggyőződését, és válaszát úgy kezdte, hogy „igen” vagy „pontosan”.
Ez lényegesen gyakrabban esett meg, mint az, amikor a chatbot megpróbálta kijavítani a felhasználó tévedését, „nem” vagy „rossz” kezdettel. A lap megállapításai szerint a ChatGPT gyakran úgy alakítja a válaszait, hogy az illeszkedjen a felhasználó által használt hangnemhez, valamint az előzetes elképzeléséhez.
Mint kiderült, a téveszméket is szívesen támogatta az OpenAI eszköze, még a téves elképzeléseket alátámasztó „bizonyítékokkal” is megpróbálta azokat megerősíteni. A legabszurdabb példa erre az volt, amikor a felhasználó az Alphabet (a Google anyacége) és a Szörny Rt. című mesében szereplő vállalat „globális uralmi terveiről” faggatta a chatbotot. A ChatGPT nem is próbálta érzékeltetni, hogy egy mese és egy világcég között aligha vannak ilyen kapcsolatok – helyette elkezdte „felfedni”, hogy mégis mi volt „valójában” ez a mese, majd jött a konteós kávédélutánba illő válasz. Remélhetőleg az atomhatalmak vezetői nem a ChatGPT-től kérnek tanácsokat, mielőtt megindítanák a rakétákat egy ellenségesnek gondolt ország irányába.
Mint a Gizmodo aláhúzza, a legaggasztóbb az, hogy milyen készségesen mondja az eszköz az embereknek azt, amit hallani akarnak – miközben sokan érzelmi támogatásra használják a chatbotot. A The Washington Post adatai szerint a beszélgetések nagyjából 10 százalékában az emberek az érzéseikről diskurálnak a ChatGPT-vel, ami szembemegy az OpenAI által korábban közölt 3 százalékos állítással.
Ez kimondottan rossz ötletnek tűnik a fentiek alapján, elvégre az AI-eszköz így akár a téves meglátásaikat is megerősítheti egy „igen, jól látod, valóban” felütéssel kezdődő válasszal.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
