Szeretne azonnal értesülni a legfontosabb hírekről?
Az értesítések bekapcsolásához kattintson a "Kérem" gombra!
Az értesítés funkció az alábbi böngészőkben érhető el: Chrome 61+, Firefox 57+, Safari 10.1+
Köszönjük, hogy feliratkozott!
Hoppá!
Valami hiba történt a feliratkozás során, az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
Már feliratkozott!
A böngészőjében az értesítés funkció le van tiltva!
Ha értesítéseket szeretne, kérjük engedélyezze a böngésző beállításai között, majd az oldal frissítése után kérjük próbálja meg újra a fejlécben található csengő ikonnal.
[{"available":true,"c_guid":"ae73d865-f5d1-4c47-96d1-4a6d5473c3db","c_author":"László Ferenc","category":"tudomany","description":"Teszten a Dyson első olyan hajformázó készüléke, amely vezeték nélküli kapcsolatban van használója telefonjával. Nem mellesleg minden korábbinál kényelmesebb használatot ígér, legyen szó egyszerű hajszárításról, göndörítésről vagy épp egyenesítésről.","shortLead":"Teszten a Dyson első olyan hajformázó készüléke, amely vezeték nélküli kapcsolatban van használója telefonjával. Nem...","id":"20250330_dyson-airwrap-id-okos-hajformazo-hajszarito-teszt-velemeny","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/ae73d865-f5d1-4c47-96d1-4a6d5473c3db.jpg","index":0,"item":"26b0fca7-9c34-41a6-a8f3-2465301ef3df","keywords":null,"link":"/tudomany/20250330_dyson-airwrap-id-okos-hajformazo-hajszarito-teszt-velemeny","timestamp":"2025. március. 30. 11:00","title":"Mitől és mennyire okos a hajszárítók Rolls-Royce-a? Kipróbáltuk a Dyson új hajformázóját","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"f7a14814-3db3-4ae1-9dd9-bdfcd8b70d93","c_author":"Serdült Viktória","category":"360","description":"Nemcsak az Európai Unió, de a saját jogszabályait is figyelmen kívül hagyja Magyarország, amikor az európai elfogatóparancs ellenére december óta nem hajlandó bíró elé állítani a Magyarországra menekült Marcin Romanowski volt lengyel igazságügyminiszter-helyettest. Egy hírverés nélkül elfogadott törvénymódosítással most megtalálták annak a módját is, hogyan védjék meg a PiS korrupcióval vádolt politikusát, ha mégis bíró elé kerülne az ügy. Ehhez nem kellett más, mint Polt Péter és a Varga Zs. András vezette Kúria helyzetbe hozása, amivel a jövőben akár minden politikai szövetséges menedéke garantálva lehet. ","shortLead":"Nemcsak az Európai Unió, de a saját jogszabályait is figyelmen kívül hagyja Magyarország, amikor az európai...","id":"20250331_lex-romanowski-menedekjog-torvenymodositas-atadas-Lengyelorszag","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/f7a14814-3db3-4ae1-9dd9-bdfcd8b70d93.jpg","index":0,"item":"c3ef275c-3552-4b14-a983-327d0833bcfe","keywords":null,"link":"/360/20250331_lex-romanowski-menedekjog-torvenymodositas-atadas-Lengyelorszag","timestamp":"2025. március. 31. 09:45","title":"Már törvénymódosítással is védi a hazatoloncolástól korrupcióval vádolt lengyel szövetségesét a kormány","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":true,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"a6b3623e-a129-4b8f-95fd-3a3d7b0536f2","c_author":"Németh András","category":"360","description":"Az előrejelzések szerint egyértelmű, hogy a környezeti aggodalmak ellenére folytatják diadalútjukat a hobbi- vagy városi terepjárók. A vásárlók elsősorban a kis és közepes méretű kocsikat keresik. A konnektorból tölthető plugin hibridek is jól fogynak majd.","shortLead":"Az előrejelzések szerint egyértelmű, hogy a környezeti aggodalmak ellenére folytatják diadalútjukat a hobbi- vagy...","id":"20250330_hvg-suvtrendek-azsia","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/a6b3623e-a129-4b8f-95fd-3a3d7b0536f2.jpg","index":0,"item":"cdbc4fb6-93b7-4634-ac4b-eb9461d9163a","keywords":null,"link":"/360/20250330_hvg-suvtrendek-azsia","timestamp":"2025. március. 30. 15:40","title":"A hobbiterepjárók húzópiaca Ázsia marad","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":true,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"16483e22-59fe-48f7-8b13-811c3e2e4a3c","c_author":"HVG","category":"cegauto","description":"Ilyen az, amikor partnerként kezelik a közlekedőket. ","shortLead":"Ilyen az, amikor partnerként kezelik a közlekedőket. ","id":"20250331_Zold-kor-KRESZ-tabla-ajanlas","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/16483e22-59fe-48f7-8b13-811c3e2e4a3c.jpg","index":0,"item":"60484f5e-0bc1-487e-9064-8871ddc079b9","keywords":null,"link":"/cegauto/20250331_Zold-kor-KRESZ-tabla-ajanlas","timestamp":"2025. március. 31. 13:34","title":"Zöld kör, nem piros – ezt az új KRESZ-táblát nem kötelező betartani","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"e21a7c0e-d2b5-4f6f-bf11-a17a5223e669","c_author":"hvg.hu","category":"itthon","description":"Józsefváros független képviselőjét Baranyi Krisztina és Pikó András is támogatja.","shortLead":"Józsefváros független képviselőjét Baranyi Krisztina és Pikó András is támogatja.","id":"20250329_Jambor-Andras-ujraindulas-rendszervaltas-Jozsefvaros-8-9-kerulet","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/e21a7c0e-d2b5-4f6f-bf11-a17a5223e669.jpg","index":0,"item":"1b9f5040-3f97-45f6-8452-7318faff7f6a","keywords":null,"link":"/itthon/20250329_Jambor-Andras-ujraindulas-rendszervaltas-Jozsefvaros-8-9-kerulet","timestamp":"2025. március. 29. 15:41","title":"Jámbor András bejelentette, hogy újraindul és rendszerváltást hirdetett","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"46687325-1846-4629-a130-1e52446560e9","c_author":"hvg.hu","category":"hvgkonyvek","description":"A prezentáció előtti lámpaláz természetes, jót tesz nekünk és a prezentációnknak. Baj akkor van, ha pánikközeli állapotig erősödik. Szerkesztett részlet Kaszás György prezentációs tréner és coach A prezentáció művészete című könyvéből.","shortLead":"A prezentáció előtti lámpaláz természetes, jót tesz nekünk és a prezentációnknak. Baj akkor van, ha pánikközeli...","id":"20250330_Hogyan-enyhitsuk-egy-eloadas-elotti-idegessegunket","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/46687325-1846-4629-a130-1e52446560e9.jpg","index":0,"item":"7475d37d-9323-42d8-80b0-8731437b1be7","keywords":null,"link":"/hvgkonyvek/20250330_Hogyan-enyhitsuk-egy-eloadas-elotti-idegessegunket","timestamp":"2025. március. 30. 19:15","title":"Hogyan enyhítsük egy előadás előtt az idegességünket?","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"f058e29e-70f0-4115-ac0a-708beadb09f6","c_author":"HVG","category":"cegauto","description":"Az épp új gazdára váró Bugatti Veyron Super Sport Royale-lal eddig csak pár száz kilométert tettek meg.","shortLead":"Az épp új gazdára váró Bugatti Veyron Super Sport Royale-lal eddig csak pár száz kilométert tettek meg.","id":"20250331_mindenki-utana-fordul-1200-loeros-sarga-fekete-bugatti-veyron","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/f058e29e-70f0-4115-ac0a-708beadb09f6.jpg","index":0,"item":"b31639e3-f4b0-45eb-9202-7fe362276509","keywords":null,"link":"/cegauto/20250331_mindenki-utana-fordul-1200-loeros-sarga-fekete-bugatti-veyron","timestamp":"2025. március. 31. 06:41","title":"Mindenki utána fordul ennek az 1200 lóerős sárga-fekete Bugattinak","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null},{"available":true,"c_guid":"5a75133b-6265-4a08-bace-a4ad7aa61af7","c_author":"hvg.hu","category":"itthon","description":"A férfi többek között azt kiabálta: „nem rendőr kell ide, hanem hóhér. És mindnyájatokat fel kell akasztani”.","shortLead":"A férfi többek között azt kiabálta: „nem rendőr kell ide, hanem hóhér. És mindnyájatokat fel kell akasztani”.","id":"20250330_tisza-part-alairasgyujtes-onkentesek-tamadas-kelenfold-ferfi-elfogatoparancs-korozes","image":"https://img.hvg.hu/Img/ffdb5e3a-e632-4abc-b367-3d9b3bb5573b/5a75133b-6265-4a08-bace-a4ad7aa61af7.jpg","index":0,"item":"b3c7e9da-1933-4a66-807b-112b6d943405","keywords":null,"link":"/itthon/20250330_tisza-part-alairasgyujtes-onkentesek-tamadas-kelenfold-ferfi-elfogatoparancs-korozes","timestamp":"2025. március. 30. 21:16","title":"Körözik a férfit, aki Kelenföldön rátámadt a tiszás aláírásgyűjtőkre","trackingCode":"RELATED","c_isbrandchannel":false,"c_isbrandcontent":false,"c_isbrandstory":false,"c_isbrandcontentorbrandstory":false,"c_isbranded":false,"c_ishvg360article":false,"c_partnername":null,"c_partnerlogo":"00000000-0000-0000-0000-000000000000","c_partnertag":null}]
Nem kell mindig nagy hardver a nagy ötletekhez: egy mérnöknek sikerült úgy kicsinyítenie egy nagy nyelvi modellt, hogy az ráfér egy pendrive-ra.
A nagy nyelvi modellek (LLM-ek) a mesterséges intelligencia speciális ágát képviselik: a természetes nyelvi feldolgozásra összpontosítanak. Ezek a modellek, élükön a GPT-vel képesek szövegeket megérteni, elemezni és létrehozni. Korszerű változataik több tíz- vagy akár százmilliárd paramétert is felhasználnak válaszaik generálásához. Nem véletlen, hogy óriási számítási teljesítményt, hatalmas adatközpontokat igényelnek – fel is róják gyakran, hogy mennyire nem kímélik a környezetet.
Azonban a nagy nyelvi modelleknek nem is kell annyira nagynak lenniük ahhoz, hogy működjenek. Vannak korlátozott hardveres, fogyasztói PC-kre tervezett LLM-ek is, sőt, egy találékony szoftvermérnök, a YouTuber Binh valami még kisebbet és hordozhatóbbat tervezett, és egy kicsi USB-meghajtóra helyezett egy „nagy” nyelvi modellt.
YouTube/Build with Binh
Ez a flash-drive azonban nem szokványos – magyarázza a Hackaday. Egyedi 3D-nyomtatott tokjában egy apró Raspberry Pi Zero W számítógép található. Ezen a szerény hardveren fut a llama.cpp, a Meta LLaMA modelljének könnyű változata. Ez így egyszerűnek hangzik, azonban a szoftver működésbe hozása cseppet sem volt egyszerű a Raspberry Pi-n. A llama.cpp legújabb verziója ugyanis ARMv8 processzorokhoz készült, míg a Raspberry Pi Zero W a régebbi ARMv6 utasításkészletet futtatta. Ezért gondosan el kellett távolítania az ARMv8 optimalizálását, azaz meg kellett változtatni a forráskódot.
Ezzel azonban még nem volt vége a munkának. Arról is gondoskodni kellett, hogy az LLM bármilyen számítógépen, illesztőprogramok nélkül fusson, és viszonylag egyszerűen lehessen használni. Binh ezt az akadályt is sikerrel vette, és az LLM használatához nem kell mást tennie, mint csatlakoztatni az USB-meghajtót, létrehozni egy üres szövegfájlt, amit el kell nevezni. A modell ezután automatikusan generál szöveget és elmenti a fájlba. Mivel az LLM-mel pusztán a fájlrendszeren keresztül lehet kommunikálni, így elérhetővé válhat telefonon, táblagépen vagy tévén, amennyiben az eszköz rendelkezik USB-porttal és fájlkezelővel.
💪 I created the first USB in the world that has LLM running locally on it. Cherry on top of the cake, it requires no dependency, you can connect it to any computer, create a new file and the content will be automatically generated from the USB side.
Ez a megoldás persze messze nem olyan gyors, mint azok, amelyek mögött felhőalapú számítástechnika áll, viszont nagyszerű bizonyítéka a koncepciónak. Binh szerint ez az első plug-and-play USB-alapú LLM a világon, és ebben valószínűleg igaza van. Az igazsághoz persze hozzátartozik, hogy jelenleg nem kínál valós használati esetet, mivel nagyon lassú, viszont a megoldás rávilágít arra, hogy milyen lehet a beágyazott LLM a jövőben. Az egyszerűségen és a hordozhatóságon kívüli nagy előnye, hogy míg a nagy modellek rengeteg energiát igényelnek, ami hozzájárul a szén-dioxid-kibocsátáshoz, az ilyen kisebb, hatékonyabb modellek csökkenthetik ezt a karbonlábnyomot.
A tajvani CSBC nevű vállalat több mint 1 tonna robbanóanyaggal felszerelhető robothajót készített, aminek célzását a mesterséges intelligencia vezérli.