Néhány napon belül már a második AI-kutató távozott valamelyik nagy AI-cégtől, mert aggódik valamilyen döntés vagy irányvonal miatt.
„Veszélyben van a világ” – véli Mrinank Sharma, aki eddig AI-biztonsági kutatóként dolgozott az Anthropicnál.
A szakember az X-en megosztott felmondólevelében azt közölte az AI-céggel, hogy a mesterséges intelligencia, a biológiai fegyverek, valamint a világ tágabb értelemben vett állapota miatt döntött a távozás mellett.
Szavai szerint inkább az írásra és a költészetre fog fókuszálni, utóbbit tanulni is szeretné. Egyúttal visszaköltözik az Egyesült Királyságba, hogy „láthatatlanná váljon”.
Mint a BBC megjegyzi, néhány nappal korábban az OpenAI egyik kutatója is távozott, és aggodalmának adott hangot a cég azon döntésével kapcsolatban, hogy hirdetéseket helyez el a ChatGPT-ben.
Olcsóbb és gyorsabb, ráadásul és sokkal egyszerűbb lehet a jövőben a szoftverfejlesztés az új AI-eszközök segítségével. Ez pedig számos iparágban hozhat alapvető változást.
Az Anthropicot 2021-ben alapította egy, az OpenAI korai alkalmazottaiból álló csapat. A cég állítja: az AI-kutatásban biztonságorientáltabb megközelítést alkalmaz a riválisainál.
A portál jelentése szerint Sharma egy olyan csapatot irányított a vállalatnál, amely az AI biztonsági intézkedéseit vizsgálta. A felmondólevelében arra is kitér, hogy munkája során azt is vizsgálta, miért hízelegnek a felhasználóknak az AI-eszközök.
Az Anthropic biztonsági szakemberei szerint a nagy nyelvi modellek sokkal könnyebben vehetők rá tiltott feladatok elvégzésére, mint azt korábban gondolták.
Dolgozott még az AI-támogatott bioterrorizmus-kockázat csökkentésén, valamint sok máson. Azt ugyanakkor megjegyzi, hogy élvezte a munkát a cégnél, de „ideje volt továbblépni”.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
5 071 632 000 forint, 2 658 350 euró, 1 257 100 dollár.
