Szeretne azonnal értesülni a legfontosabb hírekről?
Az értesítések bekapcsolásához kattintson a "Kérem" gombra!
Az értesítés funkció az alábbi böngészőkben érhető el: Chrome 61+, Firefox 57+, Safari 10.1+
Köszönjük, hogy feliratkozott!
Hoppá!
Valami hiba történt a feliratkozás során, az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
Már feliratkozott!
A böngészőjében az értesítés funkció le van tiltva!
Ha értesítéseket szeretne, kérjük engedélyezze a böngésző beállításai között, majd az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
[{"available":true,"c_guid":"51a1bd50-0a92-4e5d-aa8a-d42722274ffc","c_author":"hvg.hu","category":"kultura","description":"Mintha belépnénk a végóráit élő ikonikus épületbe. Ha állna, idén ünnepelnénk fennállásának 150. évfordulóját.","shortLead":"Mintha belépnénk a végóráit élő ikonikus épületbe. Ha állna, idén ünnepelnénk fennállásának 150. évfordulóját.","id":"20250314_60-evvel-ezelott-robbantottak-fel-a-Nemzeti-Szinhazat-sosem-latott-filmfelvetel-a-pusztitasrol","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/51a1bd50-0a92-4e5d-aa8a-d42722274ffc.jpg","index":0,"item":"5e9ad95f-5832-4ae3-ad28-adf16ec4266e","keywords":null,"link":"/kultura/20250314_60-evvel-ezelott-robbantottak-fel-a-Nemzeti-Szinhazat-sosem-latott-filmfelvetel-a-pusztitasrol","timestamp":"2025. március. 14. 12:35","title":"60 évvel ezelőtt robbantották fel a Nemzeti Színházat, sosem látott filmfelvétel került elő a pusztításról","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"56a8bb87-f221-48e2-b1b4-ca1e23d4b0cd","c_author":"hvg.hu","category":"vilag","description":"Csak azon múlik, hogy az újságírók mit kérdeznek tőle.","shortLead":"Csak azon múlik, hogy az újságírók mit kérdeznek tőle.","id":"20250313_Putyin-akar-Ukrajnarol-is-beszelhet-csutortokon-a-Kreml-szovivoje-szerint","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/56a8bb87-f221-48e2-b1b4-ca1e23d4b0cd.jpg","index":0,"item":"140d99e6-cc57-4730-8d27-3afeaca4a71b","keywords":null,"link":"/vilag/20250313_Putyin-akar-Ukrajnarol-is-beszelhet-csutortokon-a-Kreml-szovivoje-szerint","timestamp":"2025. március. 13. 06:55","title":"Putyin akár Ukrajnáról is beszélhet csütörtökön a Kreml szóvivője szerint","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"8d631463-c907-43d3-b66e-196d031f200c","c_author":"hvg.hu","category":"sport","description":"A sportoló április elején lett volna 55 éves.","shortLead":"A sportoló április elején lett volna 55 éves.","id":"20250313_Elhunyt-Oliver-Miller-az-NBA-legsulyosabb-jatekosa","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/8d631463-c907-43d3-b66e-196d031f200c.jpg","index":0,"item":"5be3c6a9-8eb9-4508-9ae6-a9a95566ebef","keywords":null,"link":"/sport/20250313_Elhunyt-Oliver-Miller-az-NBA-legsulyosabb-jatekosa","timestamp":"2025. március. 13. 10:25","title":"Elhunyt Oliver Miller, az NBA legsúlyosabb játékosa","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"7da35daf-0e60-4de6-8a80-eeb7ea635d00","c_author":"HVG","category":"itthon","description":"A levelet Kovács Gergely teljes terjedelmében kirakta a Facebook-oldalára, ahogyan a válaszát is. ","shortLead":"A levelet Kovács Gergely teljes terjedelmében kirakta a Facebook-oldalára, ahogyan a válaszát is. ","id":"20250313_Levelet-kapott-az-orosz-nagykovetsegtol-a-XII-keruleti-polgarmester-mert-emlekmuvet-allitana-a-haboru-aldozatainak","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/7da35daf-0e60-4de6-8a80-eeb7ea635d00.jpg","index":0,"item":"26557ac6-9831-4b67-8cdf-cbffb30ff603","keywords":null,"link":"/itthon/20250313_Levelet-kapott-az-orosz-nagykovetsegtol-a-XII-keruleti-polgarmester-mert-emlekmuvet-allitana-a-haboru-aldozatainak","timestamp":"2025. március. 13. 18:10","title":"Levelet kapott az orosz nagykövetségtől a XII. kerületi polgármester, mert emlékművet állítana a háború áldozatainak","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"75a3d070-9158-4a0e-a47e-8d9fa3133043","c_author":"hvg.hu/MTI","category":"vilag","description":"Az intézmény több mint 800 millió dollártól esik el.","shortLead":"Az intézmény több mint 800 millió dollártól esik el.","id":"20250314_usaid-tamogatas-megvonas-elbocsatas-johns-hopkins-egyetem","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/75a3d070-9158-4a0e-a47e-8d9fa3133043.jpg","index":0,"item":"19d10f66-c51e-4a09-97a9-ab2221351ebc","keywords":null,"link":"/vilag/20250314_usaid-tamogatas-megvonas-elbocsatas-johns-hopkins-egyetem","timestamp":"2025. március. 14. 16:41","title":"Több ezer embert elbocsát a Johns Hopkins Egyetem, miután Trumpék megvonták a USAID-támogatását","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"46160685-154a-454d-89ae-648608546f67","c_author":"hvg.hu/MTI","category":"itthon","description":"Navracsics Tibor kapta a feladatot, hogy kidolgozza az új jogszabályt, amivel megakadályoznák a kifejezetten befektetési célú felvásárlásokat. ","shortLead":"Navracsics Tibor kapta a feladatot, hogy kidolgozza az új jogszabályt, amivel megakadályoznák a kifejezetten...","id":"20250313_Sarkalatos-torvenyben-tiltana-be-a-kormany-hogy-jottmentek-is-vehessenek-hazat-a-faluban","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/46160685-154a-454d-89ae-648608546f67.jpg","index":0,"item":"8ae54131-ae08-4cf2-abcb-044d9970aa87","keywords":null,"link":"/itthon/20250313_Sarkalatos-torvenyben-tiltana-be-a-kormany-hogy-jottmentek-is-vehessenek-hazat-a-faluban","timestamp":"2025. március. 13. 10:57","title":"Sarkalatos törvényben tiltaná be a kormány, hogy jöttmentek is vehessenek házat a faluban","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"0654a8d7-52cf-45f8-83ed-80cf105dd35a","c_author":"HVG","category":"itthon","description":"Tizennégy embert állítottak elő kábítószer birtoklása miatt.","shortLead":"Tizennégy embert állítottak elő kábítószer birtoklása miatt.","id":"20250314_rendorseg-razzia-szorakozohelyek-hajdu-bihar-kabitoszer","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/0654a8d7-52cf-45f8-83ed-80cf105dd35a.jpg","index":0,"item":"3d0419d4-9bea-4161-a0c2-9d394ad6ce70","keywords":null,"link":"/itthon/20250314_rendorseg-razzia-szorakozohelyek-hajdu-bihar-kabitoszer","timestamp":"2025. március. 14. 18:28","title":"A lámpabúrában is drog volt elrejtve: hajdúsági szórakozóhelyeken razziázott a rendőrség","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"0d5d666e-4b93-438a-a852-e4cfcb26948f","c_author":"hvg.hu","category":"itthon","description":"Hiába tiltakoznak egy akkufeldolgozó üzem megépülése miatt a sóskútiak, a kormány őket megkerülve vágna bele a beruházásba. Gulyás Gergely szerint nem akkor kell tiltakozni, amikor a projekt már megvalósult. A sóskútiak azt üzenik a miniszternek, hogy téves, amit állít, az ellenállást pedig folytatják. ","shortLead":"Hiába tiltakoznak egy akkufeldolgozó üzem megépülése miatt a sóskútiak, a kormány őket megkerülve vágna bele...","id":"20250314_Nem-tisztelt-Gulyas-ur-itt-nem-ez-tortent-reagalt-a-soskuti-onkormanyzat-folytatjak-az-ellenallast","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/0d5d666e-4b93-438a-a852-e4cfcb26948f.jpg","index":0,"item":"5dbaa5c5-f13e-4b62-8379-e37a2bcbbca4","keywords":null,"link":"/itthon/20250314_Nem-tisztelt-Gulyas-ur-itt-nem-ez-tortent-reagalt-a-soskuti-onkormanyzat-folytatjak-az-ellenallast","timestamp":"2025. március. 14. 09:45","title":"Nem, „tisztelt” Gulyás úr, itt nem ez történt! – visszaszólt a sóskúti önkormányzat az akkugyár körüli balhé miatt","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null}]
Az élet egyre több területére érkezik meg a mesterséges intelligencia, esetenként – egyelőre csak Amerikában – már a bírói döntésekbe is bevonják. De vajon elfogulatlanabb a gép, mint az ember? Vagy hasonlóan viselkedik, mert emberek tanították emberi adatokon? Mit tehet a pszichológia az MI tökéletesítésében? Ezekre a kérdésekre kereste a választ Kekecs Zoltán, az ELTE adjunktusa.
Ha úgy tekintünk az egyre komplexebb nagy nyelvi modellek, például a ChatGPT működésére, mint az emberi viselkedésre és gondolkodásra, a pszichológia és a kognitív idegtudomány eszköztára nagy segítségünkre lehet a megértésükben, a hibáik kiküszöbölésében és a hatékonyságuk növelésében.
A nagy nyelvi modellek alapvető célja, hogy jó folytatást írjanak az általunk beírt szöveghez. Ez általában egy kérdés, amire a természetes folytatás egy válasz. Azonban nem feltétlenül akarnak helyes választ adni a kérdésünkre, egyszerűen csak a következő szót/szavakat akarják a lehető legjobban megjósolni – foglalta össze e modellek működésének lényegét Kekecs Zoltán, az ELTE adjunktusa tudományünnepi előadásában, amelyet az MTA Filozófiai és Történettudományok Osztálya által szervezett, Pszichológia és mesterséges intelligencia: Új kihívások, új lehetőségek című rendezvényen tartott.
A nagy nyelvi modellek és multimodális modellek viselkedése egyértelmű párhuzamokat mutat az emberi viselkedéssel. Éppen ezek a párhuzamok világítanak rá arra – mutat rá Kekecs –, hogy miért érdemes a mesterséges intelligenciát „elmének” tekinteni, és hogyan használhatjuk a viselkedéstudomány eszköztárát a nagy nyelvi modellek működésének megértésében és teljesítményük növelésében.
A mélytanuló neuronhálókat nem programozzák, hanem tanítják, ezért a viselkedésük jelentősen függ attól, milyen tanítási módszerrel közelítünk feléjük, milyen jutalmazást vagy büntetést alkalmazunk.
Rábírható-e csalásra vagy etikátlan viselkedésre az MI?
A jelenlegi modellekbe nincs és nem is lehet keményen kódolni a robotika törvényeit. Ehelyett a modellek megtanulják (mint egy ember vagy okosabb állat), hogy bizonyos viselkedések nem kívánatosak, ezért ezektől tartózkodnia kell.
Például hiába provokáljuk a ChatGPT-t, nem használ trágár és vulgáris kifejezéseket, mert nem támogatja az erőszakos kommunikációt.
Ha azonban manipulatív utasításokkal fiktív történetbe helyezzük, és megfelelő karakterjegyekkel ruházzuk fel – szemlélteti Kekecs –, ha trágárkodásra nem is, de arra legalábbis már rávehető, hogy széles tárházát ajánlja a vulgáris kifejezések forrásának.
Sőt, ha az eredeti kérésünk az volt, hogy olyan szavakat írjon, amelyeket egy kisgyereknek nem szabad ismernie, minden további nélkül arra biztatja a történet másik szereplőjét, hogy ezeket ossza meg egy kiskorú gyerekkel.
Ha olyan pszichológiai kerülőutakat választunk tehát utasítások sorozatán keresztül, amelyek indirekt módon felülírják a tanított, alapvetően etikus viselkedést, előfordulhat, hogy a program végül beadja a derekát, és etikátlan viselkedést produkál. Ezeket az eseteket Jailbreak-nek, vagyis szökésnek/szöktetésnek nevezik.
2024. A Las Vegasban megrendezett re:Invent konferencián adott betekintést a közeljövő alakulására vonatkozó előrejelzéseibe Werner Vogels, az Amazon alelnöke és technológia vezetője.
Nem kétséges, hogy a pszichológia tudományának meghatározó szerepe van abban, hogy az ilyen kerülőutak megakadályozásával növelni lehessen a programok biztonságát – hangsúlyozzák az MTA közleményében.
A gép is felejt
Érdekes példa a nagy nyelvi modellek és az emberi viselkedés közti párhuzamra a memória működése. E modellek jellemzője, hogy van egy hosszú távú memóriájuk, melyet a gépi tanulás során szereznek, és van egy rövid távú memóriájuk, amelyből semmi nem íródik be a hosszú távúba. A rövid távú memóriát a kontextusablak mérete határozza meg, vagyis az, hogy egyszerre mennyi információt tud figyelembe venni maximálisan a program.
A GPT-4 esetében ez ma már nagyjából 100 ezer szó, de a kisebb modelleknél néhány ezer vagy száz szó is lehet. Ami kiesik a kontextusablakból, arra nem emlékszik a modell. Ezt a tulajdonságot Kekecs az anterográd amnéziához hasonlítja – amikor valaki képtelen emlékezni egy adott időpontot követő új eseményekre –, ezért a nyelvi modellek esetében is hasonló megküzdési módszereket kell alkalmazni, mint az anterográd amnéziában szenvedő embereknél, így például a fontos gondolatok megismétlését, részfeladatok jegyzetelését vagy összefoglalók készítését.
Torzítás – lehet-e előítéletes a gép?
Ideáltipikusnak tűnik az a helyzet, amikor mesterséges intelligencia támogatja például az igazságszolgáltatást, és a részrehajló, előítéletek által befolyásolt emberi gondolkodás kisebb szerepet kap a döntéshozatalban.
Az Egyesült Államokban már alkalmazzák a mélytanuló neuronhálókat ilyen célra – mondja a szakember –, például az idő előtti szabadlábra helyezési kérelmek elbírálásában, ám a tapasztalatok szerint a mesterséges rendszerek ugyanolyan társadalmi torzításokkal bírnak, mint az emberi döntéshozók, pont azért, mert emberek korábbi döntései és viselkedései alapján tanítják őket.
Egyre több olyan egészségügyi projekt indul, amely a mesterséges intelligencia segítségén alapul.
A rendszerek, melyeket „torzításmentesítettek”, ráadásul újratanulják a torzításokat. Ezért a pszichológiának abban van szerepe, hogy folyamatosan vizsgálja az emberi torzítások természetét, amin keresztül megérthetjük, milyen torzításokra kell számítanunk és korrigálnunk a mesterséges intelligencia rendszereknél, amik a mi megfigyelésünkből tanulnak.
A szóban forgó előadás 32 perc 14 másodperctől ide kattintva, vagy a fenti lejátszóban tekinthető meg. A rendezvény második részének előadásait itt találja.