Nem biztos, hogy a mesterséges intelligencia jövőjét a távoli adatközpontokban futó, egyre nagyobb modellek jelentik, hanem inkább a fürge, hatékony, nagyteljesítményű rendszerek, amelyek közvetlenül a felhasználó eszközén futnak. A Hugging Face újdonsága mindenesetre ezt az új szemléletet támasztja alá.
Nem ismeretlen név a mesterséges intelligencia világában a Hugging Face. Ez a 2016-ban alapított amerikai vállalkozás számos MI-központú eszközt fejlesztett már, amelyeket olyan nagy nevek is használnak, mint a Microsoft, a Google vagy a Grammarly.
A legújabb hír a Hugging Face műhelyéből, hogy akár telefonon futtatható méretűvé csökkentettek fejlett mesterséges intelligencia modelleket. Mi ebben az olyan nagy szám? – kérdezhetnénk, gondolva a telefonon futó Apple Intelligence-re vagy a Samsung Galaxy AI-re. A mostani újdonság azonban a MI-k egy speciális fajtáját, az úgynevezett vizuális-nyelvi modelleket érinti. A mesterséges intelligencia ezen formái a látás és a természetes nyelvi modellek fúziójának tekinthetők. Olyan rendszerekről van szó, amelyek képesek a vizuális információk (képek, videók) és a nyelvi információk (szövegek, feliratok) együttes feldolgozására. Az ilyen modellek célja, hogy a gépek jobban megértsék és értelmezzék a világot, hasonlóan ahhoz, ahogyan azt az emberek teszik.
A Hugging Face-nek éppen ilyen vizuális-nyelvi modelleket sikerült úgy lekicsinyíteniük, hogy a teljesítményük megfelelő maradjon, azonban fussanak egy egyszerű hordozható eszközön, például egy okostelefonon. A cég új SmolVLM modelljei (SmolVLM-256M, SmolVLM-500M) 256 millió, illetve 500 millió paraméterrel jelentek meg, és olyan sebességgel dolgozzák fel a képeket, értelmezik a vizuális és nyelvi tartalmakat, amelyek korábban elérhetetlenek voltak ebben a méretosztályban.
A legkisebb verzió, a SmolVLM-256M (amely a világ legkisebb vizuális-nyelvi modellje) például 16 példát dolgoz fel másodpercenként, miközben mindössze 15 GB RAM-ot használ 64-es kötegmérettel, ami különösen vonzóvá teszi azon vállalkozások számára, amelyek nagy mennyiségű vizuális adatot szeretnének feldolgozni. A meglepően kicsi memóriaterület azt jelenti, hogy a vállalkozások olcsóbb felhőpéldányokat telepíthetnek, csökkentve ezzel az infrastruktúra költségeit – írja a Ventura Beat.
A fejlesztés egyébként már felkeltette a nagy technológiai cégek figyelmét is. Bár az IBM minden bizonnyal jelentős számítási erőforrásokhoz fér hozzá, mégis a Hugging Face-szel együttműködve integrálta a 256M modellt Docling dokumentumfeldolgozó szoftverébe, feltehetően azért, mert az ehhez hasonló kisebb modellek használatával több millió dokumentumot tudnak hatékonyan feldolgozni a költségek töredékéért.
Míg korábban sok kutató azt feltételezte, hogy nagyobb modellekre van szükség a fejlett vizuális-nyelvi feladatokhoz, a SmolVLM bebizonyította, hogy a kisebb, hatékonyabb architektúrákkal is hasonló eredményeket lehet elérni. Az 500 millió paraméteres verzió például a 2.2B (2,2 milliárd) paraméteres változat teljesítményének 90 százalékát éri el a legfontosabb benchmarkokon. A vizuális-nyelvi mesterséges intelligencia használatához szükséges erőforrások látványos csökkentésével a Hugging Face innovációja segíthet enyhíteni mind a negatív környezeti hatásokkal, mind a számítási költségekkel kapcsolatos aggodalmakat. Mindemellett az említett rendszerek – a Hugging Face korábbi szokásainak megfelelően – nyílt forráskódúak, azaz egyre többek számára válnak elérhetővé a fejlett MI-képességek.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
Azokat, akik csak a Stranger Thingsből ismerik, összezavarná, hogy miket művelt a karrierje kezdetén Paul Reiser. Korábbi rajongóit például azzal lepte meg, hogy feltűnt az Aliens gonoszaként. A veterán komikussal pályafutása cikkcakkjairól, Jerry Seinfeldről, Lisa Kudrow-ról és Eddie Murphyről is beszélgettünk. És arról is, miért tartotta hülyeségnek a Jóbarátokat.
A Tisza Párt elnöke legújabb bejegyzésében kifejezetten a fideszeseket szólította meg.
Ez az a fegyver, amely alkalmas lehet Irán nukleáris létesítményeinek megtámadására.
