A mesterséges intelligenciával (MI) kapcsolatos kutatások óta hallani különféle, a rendszer veszélyére vonatkozó figyelmeztetéseket. Vezető tudósok, de a technológiai világ ismert alakjai is gyakran hangoztatják, hogy ha nem vigyázunk, a gép egyszer képes lehet eltörölni a teljes emberiséget. (Más kérdés, hogy a kritikusok szerint ennek semmi esélye, hiszen a programokat úgy fejlesztik, hogy ilyesmi egyáltalán ne következhessen be.)

Ugyanakkor legalább ennyire ijesztő állítások sorakoznak az AI Magazine augusztusi számában publikált tanulmányban is. Ezt az Oxfordi Egyetem és a Google Deepmind kutatói jegyzik (alábecsülni tehát nem érdemes), akik úgy vélik: az MI-vel kapcsolatos kockázat, hogy egyszer az ember ellen fordul, valójában sokkal nagyobb.

A kutatók abból indulnak ki, hogy az MI képes lehet csaláshoz folyamodni, hogy az általa kitalált stratégia mentén jutalmat kapjon – írja a BGR. Ez végső soron egy olyan forgatókönyvet vázol fel, aminek a végén a program a rendelkezésre álló erőforrásokat is átveszi tőlünk. Michael Cohen, a tanulmány társszerzője szerint mindez egzisztenciális katasztrófába sodorna minket, mivel egy fejlett géppel szemben képtelenek lennénk győzni.

Bostrom, Russell, and others have argued that advanced AI poses a threat to humanity. We reach the same conclusion in a new paper in AI Magazine, but we note a few (very plausible) assumptions on which such arguments depend. https://t.co/LQLZcf3P2G 1/15 pic.twitter.com/QTMlD01IPp

— Michael Cohen (@Michael05156007) September 6, 2022

A kutatók a világszerte zajló (MI-)kutatásokkal kapcsolatban is tettek pár figyelmeztetést: úgy vélik, hogy bizonyos kísérleteket, amik a legkülönbözőbb mesterségesintelligencia-ágensek fejlesztését célozzák, inkább jobb lenne most leállítani – félő ugyanis, hogy a munka katasztrofális változásokat indít be.

A szakértők úgy összegeznek: az MI-vel kapcsolatos fenyegetés nemcsak lehetséges, hanem valószínű. (hvg.hu)