Hirdetés

A vékony, fiatal, világos bőrű emberekre bukik a Twitter

|

3500 dollárt nyert az a svájci diák, aki felfedezte az algoritmus elfogultságát.

Hirdetés

A mesterséges intelligencia egyik sokat emlegetett problémája, hogy az előre betáplált adathalmazokból tanuló algoritmusok a forrástól függően "elfogultak" lehetnek bizonyos tényezők irányába.

A Twitter felhasználói például tavaly felfedezték, hogy a közösségi oldalon megosztott képek előnézetének megvágásánál a rendszer hajlamos előnyben részesíteni a fehér bőrű embereket.

Hirdetés

A dolog eredménye az lett, hogy a rasszizmussal vádolt mikroblog inkább feladta az üzenőfal uniformizálását célzó "kényszervágást", így a képek egy ideje már teljes méretben jelennek meg a bejegyzések folyamában.

Az algoritmus további, kínos preferenciáinak felfedezésére pedig júliusban pénzdíjast versenyt hirdettek, hasonlóan az olyan felhívásokhoz, melyek az etikus hackereket bátorítják a szoftverek és eszközök sérülékenységeinek levadászására.

A megmérettetést Bogdan Kunyic, a Svájci Szövetségi Technológiai Intézet végzős hallgatója nyerte, aki felfedezte, hogy bizonyos külső vonások módosításával szimpatikusabbá, észrevehetőbbé tehetők az arcok az algoritmus számára, vagyis csökkenthető a kivágásuk esélye.  

A gyakorlatban ez azt jelenti, hogy a Twitter a világosabb bőrű, fiatalabb és vékonyabb embereket preferálja, méghozzá "sztereotipikusan nőies vonásokkal". A szépségfilterekkel kijátszható elfogultság felfedezéséért a közösségi platform 3500 dollárral (kb. 1 050 000 forint) jutalmazta az egyetemistát.

A Twitter mérnöki részlegének hivatalos posztja szerint a jelenség rámutat, hogy az algoritmusokon alapuló modellek miként erősítik fel a szépséggel kapcsolatos társadalmi elvárásokat és meglévő előítéleteket.

Kunyic kutatásának leírása  teljes hosszában olvasható a GitHubon.

Komolyabban érdekel az IT? Informatikai, infokommunikációs döntéshozóknak szóló híreinket és elemzéseinket itt találod.

Hirdetés
Hirdetés

Úgy tűnik, AdBlockert használsz, amivel megakadályozod a reklámok megjelenítését. Amennyiben szeretnéd támogatni a munkánkat, kérjük add hozzá az oldalt a kivételek listájához, vagy támogass minket közvetlenül! További információért kattints!

Engedélyezi, hogy a https://pcworld.hu értesítéseket küldjön Önnek a kiemelt hírekről? Az értesítések bármikor kikapcsolhatók a böngésző beállításaiban.