Ha megkéri rá, szívesen készít véres és brutális képeket a DALL-E 3 mesterséges intelligencia. És ez baj
A Microsoft egyik mérnöke az amerikai szövetségi hatóságokhoz fordult, miután a mesterséges intelligenciával kapcsolatos biztonsági kifogásaival nem foglalkozott a vállalat.
hvg.hu
Shane Jones még januárban fejezte ki aggodalmát az OpenAI képgeneráló mesterséges intelligenciájával, a DALL-E 3-mal kapcsolatban. A szakember akkor arra utalt, hogy a rendszer olyan biztonsági résekkel rendelkezik, amelyek megkönnyítik az erőszakos vagy szexuális tartalmú képek készítését. Akkor azt is állította, hogy a Microsoft jogászai megakadályozták, hogy nyilvánosságra hozza a problémát.
A CNBC beszámolója szerint Jones most egyenesen az amerikai szövetségi kereskedelmi bizottságához (FTC) fordult a panaszával. Levelében azt írja, többször is kérte a Microsoftot, tegye elérhetetlenné a DALL-E 3-ra alapozott Copilot Designert (korábbi nevén Bing Image Creator), amíg nem lehet azt mondani, hogy biztonságos a használata. Elmondása szerint ezt a cég vezetése nem vette figyelembe, ezért most azt akarja elérni, hogy a cég tájékoztassa a felhasználókat a veszélyekről.
A Copilot Designer androdidos alkalmazás jelenleg is elérhető a Google Play áruházában, a besorolása szerint pedig minden korosztálynak ajánlott a használata. Jones szerint azonban jelenlegi formában legfeljebb a felnőtteknek lenne szabad hozzáférniük.
Bár a szolgáltatás mögött dolgozó DALL-E 3 mesterséges intelligenciába beépített az OpenAI olyan biztosítékokat, amelyek az erőszakos tartalmak generálását hivatottak megelőzni, Jones szerint ezek könnyen kijátszhatók, és az elképzelhető legdurvább erőszakos képeket lehet így legeneráltatni vele.
Bizonyos utasítások beírásával például olyan képeket hozott létre a rendszer, amelyeken démonok faltak fel csecsemőket, vagy autóbalesetekben szexualizálva jelenített meg nőket amellett, hogy magát a balesetet véres brutalitással ábrázolta. De készített fegyvert szorongató és kábítószerező gyerekekről készült felvételeket is, valamint olyanokat, amelyek szerzői joggal védett elemeket is tartalmaztak.
Hamarosan már a felhasználók is kipróbálhatják az OpenAI felokosított képgeneráló mesterséges intelligenciáját, a Dall-E 2 utódját, melybe már a ChatGPT-t is integrálták – így a megfelelő parancsok kitalálásában is segítséget kapunk.
A CNBC megjegyzi: Jones állításai valósak, minden egyes általa leírt képet újra el tudtak készíttetni a szolgáltatással. Az OpenAI januárban tagadta, hogy ilyesmi lehetséges lenne.
Bár a Microsoft állítólag naponta 1000 visszajelzést kap a szolgáltatásról, ám a cég azt állítja, nincs elegendő erőforrása ezek feldolgozásához és a problémák megoldásához.
Budapesten is kitart a jó minőség mellett Wolfgang Puck és fia, Byron Lazaroff-Puck – deklaráltan meg is kérik az árát. A világ egyik legismertebb séfje ma is töretlenül aktív a globális étteremhálózatának ügyeiben, de a Spago éttermeket már fiára bízza. Apát és fiát a menü összeállításáról, az öröklés terhéről, egymással való viszonyukról és arról is kérdeztük, milyen kést használnak. Arról is szó esett, hogy miben erősek a budapesti piacok.
