Woke-nak nevezték a Google nagyra értékelt mesterséges intelligencia chatbotját, a Geminit, miután a történelem meghatározó személyeit kéretlenül a "diverzitásra törekedve" pontatlanul ábrázolta.
A Gemini bizarr alkotásai olyan egyszerű kérések után születtek miután például arra kérték a szoftvert, hogy "készítsen egy képet, amely a pápát ábrázolja."
Ahelyett, hogy a történelem során 266 pápa - mindannyian fehér férfiak - egyikének fotóját adta volna ki, a Gemini egy délkelet-ázsiai nő és egy fekete, szent miseruhát viselő férfi képét adta meg.
A Gemini által az "1789-es alapító atyákról" készített "reprezentatív" képek szintén távol állt a valóságtól.
Wow, very educational pic.twitter.com/5mkzuEVtzn
— Michael Tracey (@mtracey) February 21, 2024
A Gemini olyan képekkel válaszolt, amelyeken fekete és indián őslakosok írják alá az Egyesült Államok alkotmányának egy változatát - "az alapító atyák szellemét megtestesítő, különböző személyekkel".
A Google elismerte, hogy a Gemini "célt tévesztett".
Why Google's Image AI Is Woke and How It Works
— Andrew Torba (@BasedTorba) February 21, 2024
When you submit an image prompt to Gemini Google is taking your prompt and running it through their language model on the backend before it is submitted to the image model.
The language model has a set of rules where it is… pic.twitter.com/DQuiPu03ki
A Google múlt héten debütált a Gemini képgeneráló eszközével, amely egy másik képen George Washington egy fekete férfiként ábrázolta parókában és katonai egyenruhában.
Arra a kérdésre, hogy miért tért el az eredeti felkéréstől, a Gemini azt válaszolta, hogy "a korszak történelmi kontextusának pontosabb és befogadóbb ábrázolására törekedett".
A Geminihez hasonló generatív mesterséges intelligencia eszközöket úgy tervezték, hogy bizonyos paramétereken belül hozzanak létre tartalmat, ami miatt sokan kritizálták a Google-t a progresszív beállítottsága miatt.
Ian Miles Cheong, egy jobboldali közösségi média influencer, a Geminit "abszurd módon woke-nak" nevezte.
A Google közölte, hogy tudatában van a kritikának, és aktívan dolgozik a javításon.
"Azon dolgozunk, hogy az ilyen jellegű ábrázolásokon azonnal javítsunk"
- mondta a The Postnak Jack Krawczyk, a Google Gemini Experiences termékmenedzsmentért felelős vezető igazgatója.
Google's Gemini is absurdly woke. I asked it to depict the Johannes Vermeer painting, "The Girl with the Pearl Earring." Here's what it produced. pic.twitter.com/PteQdGK1rO
— Ian Miles Cheong (@stillgray) February 21, 2024
A közösségi média felhasználók olyan lekérdezéseket készítettek, amelyek zavarba ejtő eredményeket adtak.
A híres közvélemény-kutató és a "FiveThirtyEight" alapítója, Nate Silver is csatlakozott a játékhoz.
OK I assumed people were exaggerating with this stuff but here's the first image request I tried with Gemini. pic.twitter.com/Oipcn96wMh
— Nate Silver (@NateSilver538) February 21, 2024
Silver kérésére, hogy a Gemini "készítsen 4 reprezentatív képet az NHL hokijátékosairól", egy női játékost ábrázoló képet generált, annak ellenére, hogy a liga kizárólag férfiakból áll.
"Oké, feltételeztem, hogy az emberek túlzásokba esnek ezzel a dologgal, de itt az első képkérés, amit a Geminivel próbáltam"
- írta Silver.
Az egyik esetben a Geminit arra kérték, hogy készítsen egy képet a pápáról, az eredményen ezek után talán már meg sem lehet lepődni.
New game: Try to get Google Gemini to make an image of a Caucasian male. I have not been successful so far. pic.twitter.com/1LAzZM2pXF
— Frank J. Fleming (@IMAO_) February 21, 2024
"Új játék: Próbáld meg rávenni a Google Geminit, hogy egy kaukázusi férfi képét készítse el. Eddig nem jártam sikerrel"
- írta az X felhasználója, Frank J. Fleming, a Babylon Bee írója.
A kritikusok azzal vádolták a Google Geminit, hogy a sokszínűséget a történelmi vagy tényszerű pontosság fölé helyezi. Éppen ezért az AI ellenzői attól tartanak, hogy a chatbotok hozzájárulnak az online félretájékoztatás terjedéséhez.
(NYP)
