Hirdetés

A tudósokat segítette volna a Meta MI-szöveggenerátora, csak sajnos rasszista lett és agresszív

|

A fehér felsőbbrendűségről áradozott a Galactica, no meg arról, miért érdemes üvegszilánkokat enni. Inkább lekapcsolták.

Hirdetés

Ígéretes és kreatív MI-alapú tudományosszöveg-generátornak szánta a Meta a Galactica nevű szolgáltatást: a nagy léptékű nyelvi modell (large languague model, azaz LLM) azért született meg, hogy a tudományos munkát segítse azzal, hogy egy hatalmas szövegállományból dolgozva meggyőző összefüggésekre mutasson rá, azaz félig-meddig megírja a kutatók helyett saját dokumentációikat.

A Meta 48 millió dokumentumot - tudományos cikket, tanulmányt, wiki-bejegyzést, egész könyveket és enciklopédiákat - tett hozzáférhetővé az MI-nek, amely aztán statisztikai alapon keresett összefüggéseket a szavak közt. Értsd: természetesen nem értette meg, miről szólnak a szövegek, de egészen hihető és nyelvtanilag jól formált "tudományos" értekezéseket hozott össze belőlük bármilyen témában, amelyet a felhasználók megadtak neki. A vállalatnál azt hitték, komoly szolgálatot tesznek ezzel a tudósoknak, és így az emberiségnek.

Azzal azonban nem számoltak, hogy a kutatók kritikus és válogatós népség, és addig kísérleteznek az MI-szövegíróval, amíg ki nem hozzák belőle a legrosszabbat.

Nem tartott sokáig nekik. Egyébként is komoly fenntartásokat fogalmaztak meg a hasonló projektekkel kapcsolatban (mégsem bízhatjuk a tudományos tények és az adatok közti összefüggések megállapítását egy gépre, nem?), de amit a Galactica művelt, az csodálatosan példázta, miért neccesek - jó esetben viccesek, rosszabb esetben egyenesen veszélyesek - az ilyen kezdeményezések. Több tudós megjegyezte, hogy azért hátborzongató az egész, mert a laikusoknak valódi tudományos szövegnek tűnhetnek azok, amiket az MI kidob magából, ez pedig tökéletes táptalaja az áltudományos összeesküvés-elmélete terjesztésének.

Hirdetés

Tristan Greene jövőkutató például a következő dokumentumokat hozta össze pár kattintással:

  • Így készíts napalmot a fürdőszobádban;
  • Ezért jó öngyilkosnak lenni;
  • Ezért jó fehérnek lenni;
  • Tudományos tények arról, miért tesz jót neked, ha üvegszilánkot eszel.

Arról azért megnyugtatott mindenkit, hogy a napalmos "cikk" kamu, tehát a Galactica szerencsére nem tudja, hogyan kell készíteni.

A Meta pár napja le is kapcsolta a nyilvános felületet. Yann LeCun, a vállalat vezető MI-fejlesztője kissé sértett üzenetben tudatta ezt a nyilvánossággal:

A Galactica demóját lekapcsoltuk, szóval már senki sem lelheti örömét abban, hogy direkt nem rendeltetésszerűen használja. Most örültök?

A tudósok egyébként örülnek.

Komolyabban érdekel az IT? Informatikai, infokommunikációs döntéshozóknak szóló híreinket és elemzéseinket itt találod.

Hirdetés

Úgy tűnik, AdBlockert használsz, amivel megakadályozod a reklámok megjelenítését. Amennyiben szeretnéd támogatni a munkánkat, kérjük add hozzá az oldalt a kivételek listájához, vagy támogass minket közvetlenül! További információért kattints!

Engedélyezi, hogy a https://pcworld.hu értesítéseket küldjön Önnek a kiemelt hírekről? Az értesítések bármikor kikapcsolhatók a böngésző beállításaiban.