Nem ismeretlen név a mesterséges intelligencia világában a Hugging Face. Ez a 2016-ban alapított amerikai vállalkozás számos MI-központú eszközt fejlesztett már, amelyeket olyan nagy nevek is használnak, mint a Microsoft, a Google vagy a Grammarly.

A legújabb hír a Hugging Face műhelyéből, hogy akár telefonon futtatható méretűvé csökkentettek fejlett mesterséges intelligencia modelleket. Mi ebben az olyan nagy szám? – kérdezhetnénk, gondolva a telefonon futó Apple Intelligence-re vagy a Samsung Galaxy AI-re. A mostani újdonság azonban a MI-k egy speciális fajtáját, az úgynevezett vizuális-nyelvi modelleket érinti. A mesterséges intelligencia ezen formái a látás és a természetes nyelvi modellek fúziójának tekinthetők. Olyan rendszerekről van szó, amelyek képesek a vizuális információk (képek, videók) és a nyelvi információk (szövegek, feliratok) együttes feldolgozására. Az ilyen modellek célja, hogy a gépek jobban megértsék és értelmezzék a világot, hasonlóan ahhoz, ahogyan azt az emberek teszik.

A Hugging Face-nek éppen ilyen vizuális-nyelvi modelleket sikerült úgy lekicsinyíteniük, hogy a teljesítményük megfelelő maradjon, azonban fussanak egy egyszerű hordozható eszközön, például egy okostelefonon. A cég új SmolVLM modelljei (SmolVLM-256M, SmolVLM-500M) 256 millió, illetve 500 millió paraméterrel jelentek meg, és olyan sebességgel dolgozzák fel a képeket, értelmezik a vizuális és nyelvi tartalmakat, amelyek korábban elérhetetlenek voltak ebben a méretosztályban. 

A legkisebb verzió, a SmolVLM-256M (amely a világ legkisebb vizuális-nyelvi modellje) például 16 példát dolgoz fel másodpercenként, miközben mindössze 15 GB RAM-ot használ 64-es kötegmérettel, ami különösen vonzóvá teszi azon vállalkozások számára, amelyek nagy mennyiségű vizuális adatot szeretnének feldolgozni. A meglepően kicsi memóriaterület azt jelenti, hogy a vállalkozások olcsóbb felhőpéldányokat telepíthetnek, csökkentve ezzel az infrastruktúra költségeit – írja a Ventura Beat.

A fejlesztés egyébként már felkeltette a nagy technológiai cégek figyelmét is. Bár az IBM minden bizonnyal jelentős számítási erőforrásokhoz fér hozzá, mégis a Hugging Face-szel együttműködve integrálta a 256M modellt Docling dokumentumfeldolgozó szoftverébe, feltehetően azért, mert az ehhez hasonló kisebb modellek használatával több millió dokumentumot tudnak hatékonyan feldolgozni a költségek töredékéért.

Míg korábban sok kutató azt feltételezte, hogy nagyobb modellekre van szükség a fejlett vizuális-nyelvi feladatokhoz, a SmolVLM bebizonyította, hogy a kisebb, hatékonyabb architektúrákkal is hasonló eredményeket lehet elérni. Az 500 millió paraméteres verzió például a 2.2B (2,2 milliárd) paraméteres változat teljesítményének 90 százalékát éri el a legfontosabb benchmarkokon. A vizuális-nyelvi mesterséges intelligencia használatához szükséges erőforrások látványos csökkentésével a Hugging Face innovációja segíthet enyhíteni mind a negatív környezeti hatásokkal, mind a számítási költségekkel kapcsolatos aggodalmakat. Mindemellett az említett rendszerek – a Hugging Face korábbi szokásainak megfelelően – nyílt forráskódúak, azaz egyre többek számára válnak elérhetővé a fejlett MI-képességek.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.