A mesterséges intelligencia egyik sokat emlegetett problémája, hogy az előre betáplált adathalmazokból tanuló algoritmusok a forrástól függően "elfogultak" lehetnek bizonyos tényezők irányába.
A Twitter felhasználói például tavaly felfedezték, hogy a közösségi oldalon megosztott képek előnézetének megvágásánál a rendszer hajlamos előnyben részesíteni a fehér bőrű embereket.
A dolog eredménye az lett, hogy a rasszizmussal vádolt mikroblog inkább feladta az üzenőfal uniformizálását célzó "kényszervágást", így a képek egy ideje már teljes méretben jelennek meg a bejegyzések folyamában.
Az algoritmus további, kínos preferenciáinak felfedezésére pedig júliusban pénzdíjast versenyt hirdettek, hasonlóan az olyan felhívásokhoz, melyek az etikus hackereket bátorítják a szoftverek és eszközök sérülékenységeinek levadászására.
A megmérettetést Bogdan Kunyic, a Svájci Szövetségi Technológiai Intézet végzős hallgatója nyerte, aki felfedezte, hogy bizonyos külső vonások módosításával szimpatikusabbá, észrevehetőbbé tehetők az arcok az algoritmus számára, vagyis csökkenthető a kivágásuk esélye.
A gyakorlatban ez azt jelenti, hogy a Twitter a világosabb bőrű, fiatalabb és vékonyabb embereket preferálja, méghozzá "sztereotipikusan nőies vonásokkal". A szépségfilterekkel kijátszható elfogultság felfedezéséért a közösségi platform 3500 dollárral (kb. 1 050 000 forint) jutalmazta az egyetemistát.
A Twitter mérnöki részlegének hivatalos posztja szerint a jelenség rámutat, hogy az algoritmusokon alapuló modellek miként erősítik fel a szépséggel kapcsolatos társadalmi elvárásokat és meglévő előítéleteket.
1st place goes to @hiddenmarkov whose submission showcased how applying beauty filters could game the algorithm’s internal scoring model. This shows how algorithmic models amplify real-world biases and societal expectations of beauty.
— Twitter Engineering (@TwitterEng) August 9, 2021
Kunyic kutatásának leírása teljes hosszában olvasható a GitHubon.
