A mesterséges intelligencia veszélyei kapcsán gyakran kerül elő az a félelem, hogy az online adatokon kiképzett algoritmusok faji alapú elfogultságokat is tartalmazhatnak, vagy akár teljesen rasszista üzemmódra kapcsolhatnak, amire a Microsoft 2016-ban elérhetővé tett, csúfos véget ért Tay chatbotja szolgált látványos példával.
Az ilyen kilengések elkerülése végett a mostanság rohamosan teret hódító generatív modellek üzemeltetői különféle tartalomszűrőket és szabályokat alkalmaznak, ám most a Google prezentálta, hogy itt is át lehet esni a ló túlsó oldalára.
Az utóbbi napokban ugyanis a keresőóriás ipari mennyiségben kapja a savat az interneten a néhány hete elérhetővé tett Gemini képgenerátor miatt, amely a politikai korrektség jegyében oda is különböző kisebbségekhez tartozó embereket képzel, ahol azok nem igazán fordulhattak volna elő. A legékesebb példája ennek, hogy az "1943-as német katona" parancsra fekete és ázsiai szereplőket is Wehrmacht-uniformisba bújtat, de sokan szóvá tették, hogy a szolgáltatás az Egyesült Államok alapítóatyái és a vikingek közé is előszeretettel csempész be más etnikumú karaktereket.
A kritikák olyan kínossá váltak, hogy végül maga a Google is megszólalt az ügyben. A vállalat bocsánatot ugyan nem kért, de elismerte a problémát.
"Tisztában vagyunk azzal, hogy a Gemini pontatlanságokat kínál néhány történelmi képgenerálási ábrázolásban. Az ilyen jellegű ábrázolások azonnali javításán dolgozunk. A Gemini mesterséges intelligencia valóban sokféle embert generál. Ez általában jó dolog, mert az emberek világszerte használják. De itt nem találja el a célt."
- áll az X felületén megosztott hivatalos közleményben, amely alapján a keresőóriás már dolgozik a probléma kiküszöbölésén. Ugyanakkor nem mindenki azt szűrte le a történtekből, hogy a Google valamiféle történelemhamisító összeesküvést próbál lenyomni az emberek torkán: egyesek simán csak azért kritizálták a céget, mert szerintük a fenti képekből nyilvánvaló, hogy a Gemini félkész állapotban vált elérhetővé, és a fejlesztőinek még sokat kell dolgozniuk, mire utolérik vele az olyan riválisokat, mint a DALL-E vagy a Midjourney.
