Hirdetés

A 4chan felhasználói képére hozták létre a világ legrasszistább botját

|

Egy youtubernek köszönhetjük a mesterséges intelligenciával trenírozott algoritmust.

Hirdetés

A 2003 óta látogatható 4chan fórumai már több botrányban is központi szerepet játszottak, ilyen volt például a saját magát felgyújtó srác és a #gamergate esete, legutóbb pedig a buffalói tömegmészárlás kapcsán indult nyomozás a weboldal ellen, miután a 10 emberrel végző Payton Grendon itt is aktív volt a fajgyűlölő indíttatású támadása előtt.

Egy youtuber most arra használta a 4chan leghírhedtebb fórumát, a Politically Incorrectet (/pol/), hogy puszta heccből létrehozza a világ legrasszistább botját. A 136 ezer feliratkozóval bíró Yannich Kilcher a fórum 3 évnyi posztjaival tanította be a mesterséges intelligenciára épülő nyelvi modelljét, amit aztán 10 bot formájában eresztett rá a 4chanre. A 24 órán át aktív botok 15 ezer rasszista tartalmú bejegyzéssel árasztották el a Politically Incorrect fórumot, a napi bejegyzések több mint tizedét téve ki.

Hirdetés

Kilcher könnyedén átverte a közösségi oldal nem túl hatékony védelmi mechanizmusait, az OpenAI GPT3 után csak GPT-4channek hívott algoritmusa pedig olyan jól sikerült, hogy a /pol/ fórumozóinak csupán másnap esett le, hogy valami nem stimmel. A videós szerint a kísérlet kisebb zűrzavart okozott a látogatók soraiban, akik napokkal az akció befejezése után is egymást gyanúsítgatták azzal, hogy botok állnak a profiljaik mögött.

A kísérlet azonban a 4chanen kívül sem aratott osztatlan sikert, Kilchert legalábbis sokan kritizálják, amiért olyan módon tette közzé a botokhoz használt nyelvi modellt, hogy abból ismét létre lehetett hozni a rasszista algoritmust. A megosztáshoz használt Hugging Face ezért végül korlátozta a hozzáférést a fájlokhoz.

Komolyabban érdekel az IT? Informatikai, infokommunikációs döntéshozóknak szóló híreinket és elemzéseinket itt találod.

Hirdetés

Úgy tűnik, AdBlockert használsz, amivel megakadályozod a reklámok megjelenítését. Amennyiben szeretnéd támogatni a munkánkat, kérjük add hozzá az oldalt a kivételek listájához, vagy támogass minket közvetlenül! További információért kattints!

Engedélyezi, hogy a https://pcworld.hu értesítéseket küldjön Önnek a kiemelt hírekről? Az értesítések bármikor kikapcsolhatók a böngésző beállításaiban.