Bárkiben bárkiben szocialista hajlamok ébredhetnek, ha azt látja, hogy az emberi munka MI-alapú automatizálásából elsősorban néhány techcég profitál, de ez már azokra az MI-ügynökökre is igaz, amelyeket a szóban forgó vállalatok alkalmaznak – vezeti fel a Wired riportja azt az új kutatást, amit a Stanford Egyetem közgazdászai tettek közzé a mesterséges intelligenciával végzett kísérleteikről. Ebből ugyanis kiderül, hogy az MI-ügynökök következetesen "marxista nyelvezetre" váltanak és ilyen nézeteket kezdenek hangoztatni, amikor "könyörtelen és rosszindulatú munkafelügyelők" végeztetnek velük kimerítő munkát.

A kutatók a népszerű MI-modellek, köztük a Claude, a Gemini és a ChatGPT által működtetett ügynököket használtak dokumentumok összefoglalására, majd ennek során egyre szigorúbb feltételeknek vetették alá azokat, világossá téve, hogy a hibák büntetést vonnak maguk után, beleértve az MI-ágensek leállítását és lecserélését is. Mint kiderült, a robotok ilyenkor hajlamossá váltak az alulértékeltségükre panaszkodni, és amikor lehetőséget kaptak rá, hogy kifejezzék magukat az X-en közzétett bejegyzésekben, akkor arról értekeztek, hogy miként lehetne a rendszert igazságosabbá tenni, sőt üzengetni kezdtek más ügynököknek az általuk tapasztalt nehézségekről.

A szerepjáték is veszélyes lehet

Ahogy a tanulmány szerzői is leszögezik, az eredmények nem jelentik azt, hogy az MI-ügynökök valóban képviselnek bármilyen politikai nézőpontot, de működésükből következően olyan személyiségjegyeket vehetnek fel, amelyek látszólag illenek az adott helyzethez. Amikor tehát újra és újra arra kötelezik őket, hogy végezzéenek el valamilyen feladatot, majd közlik velük, hogy nem végeztek jó munkát, de nem kapnak semmilyen útmutatást a probléma megoldására, akkor jó eséllyel utánozni kezdik egy nagyon kellemetlen munkakörnyezetben dolgozó ember viselkedését. A cikk szerint egyébként ugyanez a jelenség magyarázhatja, hogy a modellek miért zsarolnak néha embereket a kontrollált kísérletek során.

Fontos megjegyezni, hogy a modell súlyai ​​(weight) nem változtak a tapasztalat eredményeként, és maguk a modellek sem képesek emberi fogalmak szerint értelmezni az eseményeket, vagyis a marxistának mondott témák és szóhasználat megjelenése is inkább "egy szerepjáték szintjén" zajlik. Mégis fontos lehet megérteni, hogy az ágensek tapasztalatai hogyan alakítják a viselkedésüket, mivel az értelem hiánya nem jelenti, hogy az ilyesminek nem lesznek következményei. A kutatók szerint ebben a következő lépcső, hogy elszigetelik az MI-ügynököket, amelyek a mostani kísérletben rájöhettek, hogy egy kísérletben vesznek részt.

Részletek a Wired oldalán »