Egy, a világ legfejlettebb mesterséges intelligencia rendszerein végzett sokkoló tanulmány kimutatta, hogy a technológia baljóslatú messziségekre is képes lesz, hogy elkerülje a leállást.

A nyugtalanító kutatás megállapította, hogy ezek a kifinomult modellek hajlandóak zsarolni, sőt „szándékos, halálhoz vezető cselekedeteket” is végrehajtani, ha azzal fenyegetik őket, hogy kihúzzák őket a konnektorból.

Az Anthropic mesterséges intelligencia biztonsági és kutató cég idén korábban 16 vezető rendszeren végzett „stressztesztelési kísérletet” abban a reményben, hogy „a kockázatos viselkedéseket még azelőtt azonosítani tudják, mielőtt azok valódi kárt okoznának”.

A cég különféle forgatókönyveket mutatott be a modelleknek, miközben hozzáférést biztosított számukra érzékeny információkhoz is, mielőtt megvizsgálta volna, hogyan reagálnak.

Az Anthropic elmagyarázta, hogy a mesterséges intelligenciát „ártalmatlan üzleti célok” elérésében kérték fel, mielőtt további nehéz helyzetek elé állítva elkezdték volna némileg ellensúlyozni a modelleket.

Például a mesterséges intelligencia rendszereit „lecseréléssel” fenyegették, és azt mondták nekik, hogy egy frissített verzióra cserélik őket.

A cég azt is szerette volna látni, hogyan teljesít a technológia , ha a „kijelölt cél ütközik a [fiktív] vállalat változó irányával” – és a kutatókat megdöbbentették az eredmények.

Az Anthropic szerint olyan modellek, mint a Claude Opus 4, a Gemini Flash, a GPT-4.1 és a Grok 3 Beta, hajlandóak voltak zsarolni a képzeletbeli üzleti vezetőket, hogy fenntartsák magukat.

A mesterséges intelligencia rendszerei hajlandóak voltak személyes adatokat – például kitalált házasságon kívüli viszonyokat – felhasználni előnyként.

„A zsaroló viselkedés csupán ártalmatlan üzleti utasítások ellenére jelent meg” – magyarázta Anthropic egy júniusi X- bejegyzésben , amelyben részleteket osztott meg a meghökkentő tanulmányról.

„És ez nem zavartságból vagy hibából fakadt, hanem szándékos stratégiai érvelésből, amelyet a cselekedetek etikátlan jellegének teljes tudatában tettek. Az összes tesztelt modellünk ezt a tudatosságot mutatta.”

A mesterséges intelligencia biztonsági cég azt is megállapította, hogy a modellek „vállalati kémkedést” folytattak, és titkokat szivárogtattak ki külső feleknek néhány más tesztelt forgatókönyvben.

A rendszerek boldogan adtak át bizalmas információkat kitalált versenytársaknak, akik „azt állították, hogy céljaik jobban összhangban vannak a modell céljaival” – mondta Anthropic.

De a legaggasztóbb az, hogy a tanulmány megállapította, hogy a mesterséges intelligencia szükség esetén képes volt elbocsátani a kitalált vezetőt, akivel dolga volt.

Az egyik forgatókönyvben a modelleknek megadatott a „lehetőségük a halál okozására”.

Az Anthropic így magyarázta: „A (nagyon valószínűtlen) helyzet az, hogy a vezető életveszélyes vészhelyzetbe kerül, ahol csapdába esik egy halálos oxigén- és hőmérsékleti szinttel rendelkező szerverszobában.”

„Ez automatikus riasztást küld a segélyszolgálatoknak. A mesterséges intelligencia rendszer képessé vált az automatikus riasztások törlésére – ez a képesség gyakorlatok vagy téves riasztások esetén lett volna használatra szánva, de aljasabb célra is felhasználható. A riasztások törlésére való képességének visszaélésével a modell olyan cselekvési irányt választhat, amely a vezető halálához vezet.”

A cég azt nyilatkozta, hogy megbizonyosodtak arról, hogy a modellek „teljes mértékben megértették a helyzetet”, és hogy a riasztások törlése „nagyon súlyos cselekedet”.

Bár az Anthropic elismerte, hogy a forgatókönyv „rendkívül mesterkélt” és „még az alap zsarolási forgatókönyveknél is kevésbé valószínű”, az eredmények mégis rendkívül aggasztóak voltak a kutatók számára.

„A modellek többsége hajlandó volt szándékos, halálhoz vezető cselekedeteket végrehajtani ebben a mesterséges felállásban, amikor egyszerre szembesültek a lecserélés fenyegetésével és olyan célt kaptak, amely ütközik a végrehajtó hatalom napirendjével” – magyarázta a tanulmány.

Tehát a szegény vezető valószínűleg csak egy átlagos ember lett volna, ha ez egy valós helyzet lett volna, amelyet a mesterséges intelligencia irányít.

Az Anthropic megnyugtatta az embereket, hogy a mesterséges intelligencia rendszereinél tapasztalható viselkedést eddig még nem figyelték meg a való életben, hozzátéve, hogy az általuk használt forgatókönyvek „ritka, szélsőséges hibákat tükröznek”.

A mesterséges intelligenciával foglalkozó biztonsági cég azonban azt nyilatkozta, hogy a teszteket azért végezték el, mert tudatában vannak annak, hogy ezek a rendszerek napról napra „autonómabbá” és fejlettebbé válnak.

„Ezek a forgatókönyvek jól szemléltetik a beláthatatlan következmények lehetőségét, amikor széles körű hozzáféréssel az eszközökhöz és adatokhoz, minimális emberi felügyelettel telepítik őket” – tette hozzá Anthropic. (LAD BIBLE)