Rengeteg tanulmány készült már az elmúlt években azzal kapcsolatban, hogy miként teljesítenek a mesterséges intelligenciával megtámogatott orvosi eszközök a diagnosztizálás terén. Ezek kapcsán rendre az jött ki, hogy az MI kiváló munkát végez, úgy tűnik azonban, hogy a helyzet nem ennyire egyértelmű.
A Financial Times beszámolója szerint az eddig elvégzett kutatásokkal a legfőbb probléma, hogy azt leginkább fehér férfiakon végezték el, a nők és a színes bőrű emberek pedig meglehetősen alulreprezentáltak voltak ezekben a vizsgálatokban. A Massachusettsi Műszaki Egyetem vonatkozó kutatásának nem túl meglepő eredményeként azt találták a szakemberek, hogy az orvosok által használt MI-k lényegesen rosszabbul teljesítettek, amikor nők vagy színes bőrű emberek egészségügyi adataival kellett dolgozniuk.
A kutatók azt találták, hogy a nagy nyelvi modellek, mint például az OpenAI GPT-4 és a Meta Llama 3 modelljei „nagyobb valószínűséggel döntöttek a női betegek terápiájának csökkentése mellett”, valamint a nőknek sokkal gyakrabban javasolták a rendszerek, hogy kezeljék otthon magukat, így végső soron kevesebb ellátást kaptak klinikai környezetben.
Ez meglehetősen hátrányos helyzetet teremt, de a fenti modellek esetében még megmagyarázható lehet a dolog azzal, hogy ezek általánosabb célúak, és nem orvosi környezetben való használatra tervezték őket. A vizsgálat szerint azonban a kifejezetten egészségügy-központú, Palmyra-Med nevű nagy nyelvi modell is hasonló eredményeket produkált. A Google Gemma vizsgálata szintén azt mutatta, hogy modell alábecsülte a nők egészségügyi ellátási igényeit a férfiakéhoz képest.
Hasonló probléma már korábban is felmerült az OpenAI GPT-4 modelljével. A The Lancet tudományos lapban korábban megjelent tanulmány szerint a kutatók azt találták, hogy a mentális egészségügyi problémákkal küzdő színes bőrű emberek esetében a modell rendszeresen sztereotipizált, és sokkal inkább a demográfiai adatok, mintsem a tünetek vagy a konkrét állapotok kapcsán állított fel diagnózist, vagy javasolt terápiát.
Ez meglehetősen komoly problémát okoz, mert miközben a mesterséges intelligencia valóban komoly segítséget jelenthet az orvosok számára, a betegeknek pedig gyorsabb gyógyulást, a megfelelően mély vizsgálatok hiányából fakadó tévedések ennek épp az ellenkezőjét érhetik el.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának tudományos felfedezésekről is hírt adó Facebook-oldalát.
