Az aláírók azt kérik a nagy tech-cégektől, hogy legalább 6 hónapra függesszék fel az új típusú intelligenciák fejlesztését, és előtte állapodjanak meg megfelelő biztonsági protokollok létrehozásáról.

Harari az interjúban arról beszél, hogy az ember rengeteg különböző eszközt és technológiát létrehozott már, de a mesterséges intelligencia az első, amely képes önálló történeteket kreálni.

A történész már 2011-ben megjelent, Sapiens című nagysikerű könyvében arról írt, hogy az embert a történetek megteremtésének képessége emelte ki az állatvilágból – a vallás, a nemzetek vagy a pénz mind olyan általa teremtett fogalmak, amik segítették az embert nagy számban együttműködni és szerveződni; ez emelte ki az állatvilágból.

Harari szerint most ezt a hatalmat engedjük ki a kezünkből az AI szabadon engedésével.

Az új típusú AI-k ugyanis nem egyszerűen ember teremtette tartalmakat terjesztenek, de képesek teljesen önállókat létrehozni: „Képzeld el azt a világot, amiben a szövegeket, dallamokat, képeket és tévésorozatokat mind mesterséges intelligenciák hozzák létre. Nem is fogjuk fel egyelőre, hogy ez mit jelent. Milyen következménye lesz annak, ha az AI átveszi az irányítást a kultúránk felett?"

Harari szerint a múlt heti AI-generálta Schumacher-interjú és az ahhoz hasonló esetek csak a kezdetét jelentik annak az útnak, amin elindultunk: „Egy olyan világ felé tartunk, amiben ha online vitatkozol egy idegennel egy politikai kérdésről, nem tudhatod, valódi személy van-e a túloldalon. Az illető akár videofelvételt is küld magáról, amint épp beszélget valaki mással. De valójában nem igazi embereket látsz. Ez mind AI”.

Harari szerint az AI drasztikusan megváltoztathatja a politikai diskurzust, amiben élünk: emberek tömegeit lesz képes manipulálni, hatékonyabb módon, mint akár a közösségi média - pedig már a közösségi média és az annak nyomában előálló politikai polarizáció is képes volt manipulálni demokratikus rendszereket és választásokat.

A cikk idézi Jeremy Fleminget, a brit hírszerzés és kibervédelem vezetőjét, aki szerint az AI-alapú dezinformáció hamarosan komoly kihívás elé állíthatja országa kormányát.

Harari szerint az AI a demokratikus berendezkedésű országokra komoly fenyegetést jelent, ezek a rendszerek ugyanis a vitára és a nyílt diskurzusra épülnek, ember és ember, csoportok és csoportok között, de ha az AI veszi át az irányítást a diskurzusok felett, azzal a demokráciának vége szakad. De még inkább kiszámíthatatlan, mi történik akkor, ha ezeket a technológiákat autoriter vezetők kezdik használni saját céljaikra.

Egy XXI. századi diktátornak sokkal több eszköz áll majd a rendelkezésére, mint állt a náci Németország vezetőinek. A következmények ennél fogva akár még súlyosabbak lehetnek. Ez olyasvalami, amit nem biztos, hogy túl fog élni az emberiség.

Harari beszél arról is, hogy a technológia fejlődésével egyre több munkakört fognak tudni ellátni a gépek és mesterséges intelligenciák, embertömegek találhatják majd magukat hirtelen a semmi közepén, mert esélyük sem lesz arra, hogy kellő időben újraképezzék magukat, és elhelyezkedjenek a munkaerőpiacon. Mindez önmagában súlyos pszichológiai és politikai kockázatokat hordoz magában.

Meg kell értenünk, hogy ez az első olyan, ember teremtette technológia, ami képes önálló döntéseket hozni. Akár rólad vagy rólam. És ez nem valami prófécia vagy jövendölés. Ez már történik.

Harari példaként azt hozza fel, hogy már most szoftverek döntenek arról, ki kaphat hitelt egy banknál és ki nem, vagy melyik elítéltet lehet feltételesen szabadlábra helyezni. Az első olyan pillanat ez a történelemben Harari szerint, amikor az ember kiad a kezéből valamifajta hatalmat, és mindezt olyan sebességgel teszi, hogy a tömegeknek esélyük sincs felkészülni a következményekre: „Biztosítanunk kell, hogy az AI jó döntéseket hozzon az életünkről. Nagyon messze vagyunk attól, hogy ezt megoldjuk”.

Harari szerint olyan szigorú protokoll alá kéne vonni az AI-k fejlesztését, akár a gyógyszerek előállítását: félelmetesnek találja, hogy cégek anélkül tesznek hozzáférhetővé intelligenciákat, hogy bármilyen biztonsági ellenőrzésen át kellene esniük. Szerinte kormányzati felelősség annak korlátozása, hogy milyen technológiák felhasználását tesszük lehetővé, mert a tech-világtól nem elvárható, hogy ezt önmagára nézve kötelezően megtegye.

Harari olyannyira tart az új technológiáktól, hogy okostelefonját egy szekrényben tartja, és csak akkor kapcsolja be, ha külföldre utazik. Azt mondja, információs diétán van, mert az információ olyan lett az emberek számára, akár az étel, és mindenki két pofára zabálja. Pedig, ahogy az étel, úgy az információ esetében is fontos a minőség és a mennyiség.

Az interjúban szó esik még az izraeli politikai helyzetről is, amiről Hararinak határozott véleménye van. Szerinte Benjamin Netanjahú diktatúrát épít Izraelben, és az izraeli demokrácia komoly kihívás előtt áll. Megkérdezik tőle azt is, lát-e hasonlóságot Orbán Viktor és Netanjahú törekvései között. Erre a következőt válaszolta: „Az összehasonlítás megtévesztő, Izrael ugyanis egy katonai nagyhatalom, amelyik nukleáris és kibertechnológiai kapacitásokkal is rendelkezik. A briteknek igenis törődniük kell azzal, mi történik itt, mert Izrael képes lehet a Közel-kelet destabilizálására is, aminek azonnali és súlyos következményei lennének Európában is”.

A Telegraph interjúja ezen a linken elérhető. (444.hu)