Hirdetés

A Google bicskája is beletörik az algoritmikus rasszizmusba

|

A Google úgy védi az embereket az algoritmikus rasszizmus ellen, hogy kitiltotta a rendszerből a gorillákat - mindez bizonyíték arra, hogy a gépi tanulás még mindig nagyon gyerekcipőben jár.

Hirdetés

2015-ben komoly kritika érte a Google-t, amiért a képfelismerő algoritmusa automatikusan gorillaként jelölte meg a fekete bőrszínű embereket. Az óriás azonnali cselekvést ígért, hogy megelőzze a hasonló hibákat. 

Hirdetés

Mi volt a megoldás? A Wired magazin oknyomozása szerint annyit tett a Google, hogy megtiltotta a Google Fotóknak, hogy bármilyen képet is felcímkézzen a gorilla, csimpánz vagy majom szavakkal. 

A Wired több mint 40 000 állat fotóját tesztelte a szolgáltatással, mielőtt erre a következtetésre jutott. A rendszer hatékonyan ismerte fel a pandákat, uszkárokat, azonban a gorillákra és a majmokra nem volt találat. Viszont a páviánokat, a gibbonokat és az orangutánokat felismeri. 

A Google megerősítette a Wired eredményeit: a 2015-ös botrány következményeként valóban törölték ezeket a címkéket a rendszerből. Az óriás elmondta azt is, hogy a képfelismerő és -címkéző technológia még annyira gyerekcipőben jár, hogy messze nem tökéletes. 

Hirdetés

A gorillavakság a Google Fotók mellett a Google Lens appot is jellemzi, bár a Google Assistant már mutat hajlandóságot a főemlősök azonosítására, ahogyan a Google Cloud Vision is. 

Az, hogy maga a Google is képtelen volt két év alatt megoldást találni a problémára, a szakértők szerint azt mutatja, hogy a képfelismerő funkciók mögött álló gépi tanulás még erősen gyerekcipőben jár. Az ilyen technológiákat gyakran feketedoboznak nevezik, mert bár látványos eredményeik vannak, maguk a fejlesztők sem tudják, hogyan és miért hozzák a rendszerek a döntéseket. 

Hirdetés

Hasonló botrányba keveredett anno a Flickr is, amelynek ugyanilyen problémái akadtak - és ugyanilyen megoldást alkalmazott. 

Hirdetés

Úgy tűnik, AdBlockert használsz, amivel megakadályozod a reklámok megjelenítését. Amennyiben szeretnéd támogatni a munkánkat, kérjük add hozzá az oldalt a kivételek listájához, vagy támogass minket közvetlenül! További információért kattints!

Engedélyezi, hogy a https://pcworld.hu értesítéseket küldjön Önnek a kiemelt hírekről? Az értesítések bármikor kikapcsolhatók a böngésző beállításaiban.