Szigorú keretek közé szorítaná a Microsoft a jövőbeni mesterségesintelligencia-modelljeinek működését, ezzel akadályozva meg például azt is, hogy az AI-rendszerek ellenálljanak az emberi irányításnak – írja az Interesting Engineering.
A Microsoft szeptember 14-én tette közzé a mesterséges intelligenciáira vonatkozó „magatartás kódexének” (Code of Conduct) tervezetét. Ez lefekteti azokat az elveket, technológiai korlátokat, valamint működési szabályozásokat, amelyeket a cég szem előtt szeretne tartani, miközben a modelljei egyre fejlettebbé válnak.
Ezt a keretrendszert a „humanista mesterséges intelligencia” megközelítésének részeként mutatták be, melynek lényege, hogy továbbra is hasznosnak kell lenniük az AI-eszközöknek, alárendelve az embereknek, érdemi emberi felügyelet mellett.
A dokumentum aggasztó jövőképet is fest: a Microsoft arra számít, hogy a „szuperintelligens” rendszerek a következő évtizedben a feladatok többségében kiváltják az embereket.
A Microsoft szerint a mérnököknek kell megszabniuk a korlátokat, mielőtt az egyre többre képes rendszerek elérnék ezeket a teljesítményszinteket.
https://hvg.hu/tudomany/20260914_donald-trump-mesterseges-intelligencia-szabalyozas-jacob-coxon-anthropic
Szigorúak a szabályok
A magatartási kódex leszögezi, hogy sem az emberek, sem az AI-rendszerek nem írhatják felül az abban foglaltakat. A modellek nem segíthetnek továbbá tömegpusztító fegyverek fejlesztésében, valamint pusztító kibertámadások indításában sem.
A korlátozások az erőszakos tevékenységre, a rosszindulatú deepfake-tartalmakra, a manipulációkra és a visszaélések más formáira is kiterjednek. A védelmi célú kiberbiztonsági tevékenységeket ugyanakkor továbbra is támogatják majd a modellek, bizonyos keretek között.
A Microsoft olyan modelleket szeretne, amelyek nem tudják kijátszani az ellenőrzésükre létrehozott rendszereket.
A dokumentum kifejezetten tiltja, hogy a modellek ellenálljanak a javításnak, leállításnak vagy más tevékenységeknek, és nem szabad elrejteniük a tevékenységüket sem.
A magatartási kódex még nem végleges, a cég egy hathetes nyilvános konzultációra bocsátja azt, mielőtt a végleges változatot 2027-től alkalmazni kezdené.
Az időzítés nem is lehetne megfelelőbb: egyre több szakember figyelmeztet az AI veszélyeire, olyanok is, akik ott vannak a mesterségesintelligencia-fejlesztés frontvonalában.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
