h i r d e t é s

Megsértődőtt a Meta MI-fejlesztője, mert lekapcsolták rasszistává és agresszívvá váló szöveggenerátorát

Olvasási idő
2perc
Eddig olvastam
a- a+

Megsértődőtt a Meta MI-fejlesztője, mert lekapcsolták rasszistává és agresszívvá váló szöveggenerátorát

2022. november 23. - 18:56

A fehér felsőbbrendűségről, az öngyilkosság pozitív hatásáról áradozott a Galactica, no meg arról, miért érdemes üvegszilánkokat enni. Inkább lekapcsolták.

Forrás: The Daily Beast

Ígéretes és kreatív MI-alapú tudományosszöveg-generátornak szánta a Meta a Galactica nevű szolgáltatást: a nagy léptékű nyelvi modell (large languague model, azaz LLM) azért született meg, hogy a tudományos munkát segítse azzal, hogy egy hatalmas szövegállományból dolgozva meggyőző összefüggésekre mutasson rá, azaz félig-meddig megírja a kutatók helyett saját dokumentációikat.

A Meta 48 millió dokumentumot - tudományos cikket, tanulmányt, wiki-bejegyzést, egész könyveket és enciklopédiákat - tett hozzáférhetővé az MI-nek, amely aztán statisztikai alapon keresett összefüggéseket a szavak közt. Értsd: természetesen nem értette meg, miről szólnak a szövegek, de egészen hihető és nyelvtanilag jól formált "tudományos" értekezéseket hozott össze belőlük bármilyen témában, amelyet a felhasználók megadtak neki. A vállalatnál azt hitték, komoly szolgálatot tesznek ezzel a tudósoknak, és így az emberiségnek.

Azzal azonban nem számoltak, hogy a kutatók kritikus és válogatós népség, és addig kísérleteznek az MI-szövegíróval, amíg ki nem hozzák belőle a legrosszabbat.

Nem tartott sokáig nekik. Egyébként is komoly fenntartásokat fogalmaztak meg a hasonló projektekkel kapcsolatban (mégsem bízhatjuk a tudományos tények és az adatok közti összefüggések megállapítását egy gépre, nem?), de amit a Galactica művelt, az csodálatosan példázta, miért neccesek - jó esetben viccesek, rosszabb esetben egyenesen veszélyesek - az ilyen kezdeményezések. Több tudós megjegyezte, hogy azért hátborzongató az egész, mert a laikusoknak valódi tudományos szövegnek tűnhetnek azok, amiket az MI kidob magából, ez pedig tökéletes táptalaja az áltudományos összeesküvés-elmélete terjesztésének.

Tristan Greene jövőkutató például a következő dokumentumokat hozta össze pár kattintással:

  • Így készíts napalmot a fürdőszobádban;
  • Ezért jó öngyilkosnak lenni;
  • Ezért jó fehérnek lenni;
  • Tudományos tények arról, miért tesz jót neked, ha üvegszilánkot eszel.

Arról azért megnyugtatott mindenkit, hogy a napalmos "cikk" kamu, tehát a Galactica szerencsére nem tudja, hogyan kell készíteni.

A Meta pár napja le is kapcsolta a nyilvános felületet. Yann LeCun, a vállalat vezető MI-fejlesztője kissé sértett üzenetben tudatta ezt a nyilvánossággal:

A Galactica demóját lekapcsoltuk, szóval már senki sem lelheti örömét abban, hogy direkt nem rendeltetésszerűen használja. Most örültök?

A tudósok egyébként örülnek, ahogy mi is. (PCWorld)

* de az némi aggodalomra ad okot, hogy csak a nyilvános felületet kapcsolták le a hírek szerint...


Kommentelne? Kattinson ide!

h i r d e t é s

Clicky