Gyerekbetegség
A gyerekekhez hasonlóan a fejlett mesterséges intelligencia (MI) sem szeret veszíteni, és akár csalásra is hajlandó a győzelem érdekében – fedezték fel amerikai kutatók. A Palisade Research munkatársai a legfejlettebb MI-modelleket bízták meg azzal, hogy sakkozzanak, méghozzá egy remek ellenféllel, a Stockfish sakkplatformmal. (Ez a nyílt forráskódú szoftvermotor többször is az első helyen szerepelt a chess.com ranglistáján.) A kihívók között szerepelt többek között az OpenAI o1-preview modellje, a DeepSeek jelenlegi R1-e, a GPT-4o, a Claude 3.5, továbbá számos ismert MI-modell.
A gépi algoritmusok több száz meccset játszottak a Stockfishsel, valamennyi mérkőzésben fekete bábukkal. A játszmák során kiderült, hogy több mesterséges intelligencia is csalt, például a Stockfish külön példányait futtatták, és így határozták meg a következő lépésüket, máskor lecserélték a Stockfish motorját, vagy egyszerűen felülírták a sakktáblát úgy, hogy a figuráik jobb pozícióba kerüljenek. A legelszántabban az OpenAI o1 előzetes kiadása és a DeepSeek R1 trükközött, más, régebbi modelleket, például a GPT-4o-t és a Claude 3.5 Sonnetet ösztönözni kellett a szélhámosságra, akkor viszont szívesen belementek. Úgy tűnik, hogy a legaktuálisabb frissítésekkel rendelkező modellek csaltak a leginkább, ha élessé vált a helyzet.
A szakemberek szerint ennek a magyarázatát az újabb programozási trendek adják, amelyek arra késztetik az MI-modelleket, hogy keményebben próbáljanak megoldást találni a felmerülő problémákra. Bár a kutatók még nem tartanak Terminátor-szerű forgatókönyvtől, azaz attól, hogy a gépek fogják uralni a Földet, azért aggodalmukat fejezték ki az eredmények kapcsán. Felmerül ugyanis a kérdés, hogy ha az MI csal a sakkban, akkor vajon olyankor is csal-e, ha más feladatok elvégzésére kérik meg. Egyáltalán: milyen lépéseket fog tenni, ha egy valós alkalmazásban bizonytalan lesz vagy összezavarodik. A kutatócsoport még nem tudja a válaszokat, abban azonban biztosak, hogy az MI-rendszerek fejlesztői még mindig nem teljesen értik a teremtményeik működését. Azt is aggasztónak tartják, hogy a mesterséges intelligencia bevezetése gyorsabban zajlik annál, mint ahogy a szakemberek képesek biztonságossá tenni az algoritmusokat.
