Miközben az informatikai szállítók teljes lendülettel igyekeznek eladni ügyfeleiknek a verhetetlen MI-ügynök ideáját, az önálló cselekvésre képes, összetett feladatokkal is megbirkózó algoritmusokban rejlő kockázatokra kevesebb szót pazarolnak. A technológiai óriások javára legyen mondva, nemcsak hirdetik az ügynöki igét, de maguk is igyekeznek termékeiket, vagy éppen saját belső folyamataikat ilyen megoldásokkal optimalizálni.

A Metánál sincs ez másként, ám egy a The Information által megszellőztetett esetben bizonyosan jobban jártak volna, ha humán kollégákra hagyják a feladatot. A lap beszámolója szerint a közösségi óriásnál komolynak minősülő biztonsági riasztás lett abból, hogy egy MI-ügynök kéretlenül saját kezébe vette a dolgok intézését. 

A tévedések nem is annyira víg játéka onnan indult, hogy a Meta egyik munkatársa a cég saját fejlesztésű modelljével kezdte kielemezni valamely kollégája belső fórumra írt bejegyzését. A házi készítésű MI-ügynök azonban a hatáskörtúllépés hibájába esett, és anélkül generált választ az eredeti poszt írójának, hogy arra előzetesen felhatalmazták volna.

Innen a történet gyorsan eszkalálódott, mivel – minő meglepetés! – a generatív algoritmus olyan megoldást javasolt a felmerült problémára, ami miatt egy sor olyan Meta-rendszer vált elérhetővé házon belül egyes mérnököknek, amelyekhez normál esetben semmi közük nem lenne.

A Meta képviselője megerősítette az esetet a The Informationnek, ugyanakkor azt hangsúlyozta, hogy "nem történt visszaélés a felhasználói adatokkal". A cég által indított vizsgálat szerint a biztonsági hiba létrejöttéhez az MI-ügynök bénázása és önállósodása mellett további, meg nem nevezett elemek is hozzájárultak. Annyi bizonyos, hogy a hibás hozzáférés mindössze két óráig élt a rendszerben, és az eddigi információk szerint ezen rövid idő alatt szerencsére nem történt semmiféle jogszerűtlen adatkezelés.

Ahol digitális fát vágnak, ott hullik a bináris forgács

Nem ez volt az első, és bizonyosan nem is az utolsó olyan incidens, amelynek gyökere valamely alkalmazott MI-megoldás tökéletlenségére vezethető vissza. Alig néhány héttel ezelőtt írt a Financial Times például arról, hogy az AWS-nél múlt év végén történt, 13 óráig tartó kimaradás tulajdonképpen a cég saját kódoló modelljének volt köszönhető (igaz, az immár 20 éves felhőszolgáltató mindezt csak véletlen egybeesésnek minősítette).

Az biztos, hogy bármit is alkot a generatív modell, nem árt a körmére nézni. Ez annyira igaz, hogy a Gartner szakértője egy biztonsági konferencián tartott, a Copilottal kapcsolatos veszélyekről szóló előadásában csak félig viccelve mondta, hogy a szervezeteknél jobban tennék, ha péntek délután megtiltanák az MI használatát, mivel az emberek addigra elfáradnak és hajlamosak felülvizsgálat nélkül elfogadni az algoritmus megoldását.

Más kérdés, hogy a Meta ügynöke a fenti esetben nem bízott semmit a véletlenre: mivel fű alatt cselekedett, esélyt sem adott az emberi korrekcióra.