Egyre jobban látszik, hogy bár rengeteg dologra használhatók a chatbotok, azért – akárcsak egy szertelen gyerek esetében – nem árt meghatározni számára a határokat. Ebben segíthet az Nvida nyílt forráskódú NeMo Guardrails nevű szoftvere, amely gondoskodik arról, hogy a nagy nyelvi modellekkel (LLM) működő alkalmazások, mint amilyenek a chatbotok is, pontosak, a célnak megfelelők és biztonságosak legyenek.

Mivel a generatív mesterséges intelligencia biztonsága iparági probléma, az Nvidia úgy tervezte a szoftvert, hogy minden LLM-mel, például az OpenAI ChatGPT-jével is zökkenőmentesen együttműködjön. A szoftver tartalmazza az összes kódot, példát és dokumentációt, amelyre a vállalkozásoknak szüksége lehet a szöveget létrehozó MI-alkalmazások megbízhatóságához és biztonságához. A NeMo Guardrailst gyakorlatilag minden szoftverfejlesztő használhatja, azaz nem kell MI-szakértőnek lennie. Néhány sornyi kóddal pillanatok alatt új szabályokat hozhatnak létre. Ráadásul mivel a NeMo Guardrails nyílt forráskódú, minden olyan eszközzel működik, amelyet a vállalati alkalmazásfejlesztők használnak.

A nyílt forráskódú eszközzel háromféle védőkorlátot lehet beállítani. A lokális korlát megakadályozza, hogy a mesterséges intelligencia alkalmazás olyan területekről is behozzon témákat, amelyek nem szükségesek vagy nem kívánatosak a tervezett felhasználáshoz. Az Nvidia azt a példát hozza fel, amikor egy ügyfélszolgálati asszisztens nem válaszol az időjárással kapcsolatos kérdésekre. Ez a fajta védőkorlát hasznos lett volna a Bing Chat számára, amikor először megjelent, és elkezdett felfedni vállalati titkokat.

A védelmi korlát a félretájékoztatás problémáját próbálja orvosolni. Az ilyen korlát alkalmazása biztosíthatja, hogy az MI-alkalmazások pontos és megfelelő információkkal válaszoljanak. A szoftver használatával például megakadályozható a nem megfelelő nyelvezet használata és a hiteles forráshivatkozás tilalma. A biztonsági korlát pedig megakadályozná, hogy az alkalmazások elérjenek nem biztonságosnak ítélt külső alkalmazásokat.

Az Nvidia beépíti a NeMo Guardrailst az Nvidia NeMo keretrendszerébe, amely mindent tartalmaz, amire a felhasználóknak szüksége van a nyelvi modellek képzéséhez és hangolásához a vállalat saját tulajdonú adatainak felhasználásával. A NeMo keretrendszer nagy része már elérhető nyílt forráskódként a GitHubon. A vállalatok komplett és támogatott csomagként is beszerezhetik, az Nvidia AI Enterprise szoftverplatform részeként. Ezek mellett a NeMo szolgáltatásként is elérhető, méghozzá az Nvidia AI Foundations részeként. Ez a felhőszolgáltatások családja olyan vállalkozások számára, amelyek saját adatkészleteik és tartományi ismereteik alapján szeretnének egyéni generatív MI modelleket létrehozni és futtatni.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.