„Túlkompenzált” a színes bőrű náci katonákkal, bocsánatot kért a Google

Problémája támadt a Gemini képgenerátorának az emberábrázolással, amiért most a Google alelnöke kínált magyarázatot a történtekre.

  • hvg.hu hvg.hu
„Túlkompenzált” a színes bőrű náci katonákkal, bocsánatot kért a Google

Néhány napja kisebb botrány alakult ki a Google képgeneráló mesterséges intelligenciája, a Gemini körül – az eszköz ugyanis történelmileg helytelenül náci katonákat, valamint az amerikai alapító atyákat is színesbőrűként ábrázolta.

A Gemininek több esetben is meggyűlt a baja a fehér emberek ábrázolásával, és miután terjedni kezdtek a beszámolók a történelmileg helytelen fotókról, átmenetileg le is állították a szolgáltatás ezen részét. Ennek következtében egyáltalán nem lehetett a segítségével embereket ábrázoló képeket generálni.

A Google most egy külön blogbejegyzést szánt az eset tisztázására, melyet Prabhakar Raghavan, a Google egyik alelnöke jegyez. Ebben a szakember elnézést kér a Gemini hibájáért, megjegyezve, hogy nem szándékosan tiltották le a Geminit bizonyos embercsoportok ábrázolásáról – és azt sem akarták, hogy történelmileg, vagy bármilyen nézőpontból pontatlan képeket generáljon a modell.

Lekapcsolta a Google a képgeneráló mesterséges intelligenciáját, mert színes bőrű náci katonákat kezdett ábrázolni

Komoly problémákba futott a Google képgeneráló mesterséges intelligenciája, a javításig nem is lehet tőle emberábrázolást kérni.

Raghavan szerint a történteknek az állhat a hátterében, mert a Google nem szeretett volna beleesni azokba a hibákba, melyekbe más képgenerátorok fejlesztői a múltban belefutottak. Ilyen, hogy erőszakos, szexuális tartalmú, vagy valós személyeket ábrázoló fotókat hoztak létre.

A Geminivel történt probléma hátterében az is állt, hogy a modell idővel sokkal óvatosabb lett, mint várták, és bizonyos parancsokra megtagadta a választ – így félreértve bizonyos érzékeny dolgokat.

A végeredmény: a Gemini egyes esetekben „túlkompenzált”, míg más helyzetekben „túl konzervatív” volt, ennek eredményei pedig „kínos és helytelen” fotók lettek.

Már nem lehet Taylor Swift-pornót generálni a mesterséges intelligenciával

Taylor Swiftről, valamint más hírességekről is generáltak deepfake felvételeket a Microsoft szolgáltatásával, megkerülve annak erre vonatkozó védvonalait. A cég azonban most lépett.

Raghavan is megismételte, hogy érkezni fog egy javított Gemini-változat, de azt nem tudta megígérni, hogy nem fog a jövőben is hibázni a modell – de a Google mindent megtesz, hogy elejét vegye az ilyen eseteknek.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.

Örülhet a világ, ha nagyobb baj nélkül megússza, hogy az USA megtámadta Iránt

Örülhet a világ, ha nagyobb baj nélkül megússza, hogy az USA megtámadta Iránt

Kiszámíthatatlan és katasztrofális következményekkel járhat a Közel-Keleten, de akár globálisan is, hogy az USA vasárnap hajnalban megtámadott három iráni nukleáris objektumot, először vetve be a bunkerromboló bombákat. Izrael örülhet, jobb esetben a konfliktus lezárulhat, de az iráni rezsimváltás nem valószínű. Rossz esetben a háború elhúzódhat és kiszélesedhet, attól függően, hogy mit lép a jelentősen meggyengült Irán.