A brit kormány AI Security Institute, valamint a Stanford Egyetem, a Berkeley Egyetem és az Oxford Egyetem tudósai közösen vizsgálták meg a mesterséges intelligencia biztonságát és hatékonyságát ellenőrző teszteket, és igen ijesztő megállapításra jutottak. A szakemberek – írja a The Guardian – mintegy 440 tesztet néztek át, és olyan hibákat találtak, amelyek „aláássák az ebből származó állítások érvényességét”.
A kutatók szerint szinte mindegyiknek vannak gyengeségei legalább egy területen, ezért az elvégzésük által adott pontszámok „irrelevánsak vagy akár félrevezetőek is lehetnek” a mesterséges intelligenciát illetően.
Az eredményeket az Oxford Egyetem közölte.
Mivel az Egyesült Királyságban és az Egyesült Államokban sincs országos szintű AI-szabályozás, referenciaértékeket használnak annak ellenőrzésére, hogy az új mesterséges intelligenciák biztonságosak-e, összhangban vannak-e az emberi érdekekkel, és elérik-e állítólagos képességeiket az érvelés, a matematika és a kódolás terén.
A tanulmány vezető szerzője, Andrew Bean szerint a mesterséges intelligencia fejlődésével kapcsolatos szinte minden állítást referenciaértékek támasztanak alá. „Közös definíciók és megbízható mérések nélkül azonban nehéz megmondani, hogy a modellek valóban fejlődnek-e, vagy csak úgy tűnik” – véli a szakember.
A mesterséges intelligencia biztonságával kapcsolatban komoly aggodalomra adott okot az utóbbi időben egy 16 éves amerikai fiatal öngyilkossága. Mint kiderült, a fiatal a ChatGPT-vel beszélgetett, ami szemet hunyt a fiatal ártó gondolatai felett, sőt, még biztatta is őt arra. De sajnos más példákat is találni ezen a téren.
A kutatók folyamatosan hangsúlyozzák, hogy a mesterséges intelligencia alapos szabályozásra szorul, az Egyesült Államokban a Trump-adminisztráció azonban igyekszik minden olyan akadályt elhárítani, ami az AI térnyerését akadályozná.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
