Iniwan ng Google sa ‘Nakakatakot na Sitwasyon’ sa Pagtanggal ng Kanilang AI Feature Pagkatapos ng Laban ng Kanang-Pilak

(SeaPRwire) –   Noong Pebrero ay inaasahang magiging mahusay na buwan para sa ambisyosong estratehiya ng sining pag-unlad ng Google. Ang kompanya ay muling pinangalanan ang kanyang chatbot bilang Gemini at inilabas ang dalawang malaking pag-upgrade ng produkto upang mas makipagkompetensiya sa mga kalaban sa lahat ng panig sa mataas na stakes na digmaan ng AI. Sa gitna ng lahat ng iyon, nagbigay din ang Google ng Gemini users upang lumikha ng realistikong mga larawan ng tao.

Hindi marami ang napansin ang tampok sa simula. Ang iba pang mga kompanya tulad ng OpenAI ay nag-aalok na rin ng mga tool na nagpapahintulot sa mga user na mabilis na gumawa ng mga larawan ng tao na maaari pagkatapos ay gamitin para sa marketing, sining at pag-iisip ng mga creative na ideya. Tulad ng iba pang mga produkto ng AI, bagaman, tumatakbo rin ang mga generator ng larawan sa panganib na pagpapatuloy ng mga kinikiling batay sa datos na kanilang natanggap sa proseso ng pagbuo. Hilingin ang isang nars at ang ilang mga serbisyo ng AI ay mas malamang na ipakita ang isang babae; hilingin ang isang punong ehekutibo at madalas makikita mo ang isang lalaki.

​​Sa loob ng ilang linggo pagkatapos ilabas ng Google ang tampok, napansin ng mga user ng Gemini ang isang iba pang problema. Nagsimula noong Pebrero 20 at patuloy sa buong linggo, ang mga user sa X ay binuhos ang social media platform na halimbawa ng Gemini na tumangging ipakita ang mga puti – kahit sa loob ng isang konteksto sa kasaysayan kung saan sila ay malamang na dominahin ang mga paglalarawan, tulad ng kapag hiniling ang mga larawan ng Mga Tagapagtatag o isang sundalong Aleman mula 1943. Bago matagal, ang mga kilalang tao at mga outlet ng balita na may malaking mga audience sa kanan ay nag-angkin, gamit ang mapanlinlang na ebidensya, na ang kanilang mga pagsusubok sa Gemini ay ipinakita na may lihim na agenda ang Google laban sa mga puti.

Sumali sa away si Elon Musk, ang may-ari ng X, na nakikipag-ugnayan sa maraming mga post tungkol sa hindi napatunayan na konspirasyon, kabilang ang ilang na nagpapakilala sa mga pinuno ng Google bilang mga nagtataglay na arkitekto ng patakaran. Noong Huwebes, pinagpaliban ng Google ang paglikha ng larawan ng tao ng Gemini. Sa sumunod na araw, sinubukan ni Prabhakar Raghavan, senyor na bise presidente ng Google na ilawan ang desisyon ng kompanya, ngunit nang walang pagpapaliwanag sa kalalim kung bakit nabigo ang tampok.

Ang pagpapalabas ng Google ng isang produkto na mababa ang kakayahan na harapin ang mga hiling para sa mga historical na larawan ay nagpapakita ng natatanging hamon na hinaharap ng mga kompanya ng teknolohiya sa pagpigil sa kanilang mga sistema ng AI mula sa pagpapalawak ng kinikiling at maling impormasyon – lalo na binigyan ng kompetitibong presyon upang madaling ilabas ang mga produkto ng AI.

Nang ilabas ng Google ang kasangkapan, kasama nito ang isang teknikal na pag-ayos upang bawasan ang kinikiling sa mga output nito, ayon sa dalawang tao na may kaalaman sa usapin, na humiling na huwag kilalanin sa pagtalakay ng pribadong impormasyon. Ngunit hindi nagawa ng Google na lubusang hulaan ang lahat ng paraan kung paano maaaring mali ang kasangkapan, ayon sa mga tao, at walang malinaw na pahayag tungkol sa kanilang paghaharap.

Ang pagkukorek ng Google para sa kinikiling ng AI laban sa mga tao ng kulay ay iniwan itong madaling atakehin muli sa isa pang alon ng mga reklamo tungkol sa pagkakaiba-iba. Ang tech giant ay nakatanggap ng mga kritiko sa mga nakaraang taon para sa pagkakamali nitong ibalik ang mga larawan ng mga itim na tao kapag hinanap ang “gorillas” sa kanilang App na Photos gayundin ang isang matagal na laban sa publiko kung ito ay naging angkop sa pagpapalabas ng mga lider ng kanilang etikal na pangkat ng AI.

Sa pagsasagawa ng mabilis na pagpapahinto sa tampok na ito, nang walang sapat na paglilinaw kung bakit gumanti ang mga sistema, kinakabahan na ang mga tauhan ng Google at iba pang nasa Silicon Valley na ang hakbang ng kompanya ay magkakaroon ng chilling effect. Sinasabi nila ito ay maaaring hadlangan ang talento mula sa pagtatrabaho sa mga tanong tungkol sa AI at kinikiling – isang mahalagang isyu para sa larangan.

“Ang buong industriya ng teknolohiya, na may Google sa harapan, ay muling naglagay sa kanilang sarili sa isang malas na sitwasyon dahil sa kanilang sariling pagkakamali,” ayon kay Laura Edelson, isang assistant professor sa Northeastern University na nag-aral ng mga sistema ng AI at daloy ng impormasyon sa malalaking online networks. “Nangangailangan ang industriya na ipakita ang AI bilang siyensya, at hindi bilang ,” sinabi niya, na tumutukoy sa isang popular na katawagan na ipinapaliwanag kung paano nagkukunwaring gumagamit ng wika ang mga sistema ng AI sa pamamagitan ng pag-statistika ng pag-match ng pattern, nang walang tunay na pag-unawa o pagkaunawa. “Ngunit ang mga parrot ang kanilang meron.”

“Ang Gemini ay itinatag bilang isang kagamitan para sa kreatibidad at produktibidad, at maaaring hindi palagi tumpak o mapagkakatiwalaan,” ayon sa isang tagapagsalita para sa Google sa isang pahayag. “Patuloy naming pinababagal ang mga pagkakataon kung saan hindi tumutugon nang angkop ang produkto.”

Sa isang email sa mga tauhan noong Martes ng gabi, sinabi ni Sundar Pichai, Punong Ehekutibo ng Google na ang mga empleyado ay “nagtatrabaho nang hindi tumitigil” upang ayusin ang mga problema na tinukoy ng mga user sa mga tugon ng Gemini, at idinagdag na nakarehistro sila ng “malaking pagbuti sa isang malawak na hanay ng mga prompt.”

“Alam kong ang ilang mga tugon nito ay nagalit sa aming mga user at ipinakita ang kinikiling – upang malinaw, iyon ay lubos na hindi tanggap at nagkamali kami,” ayon kay Pichai sa memo, na unang inulat ng Semafor. “Walang AI ang perpekto, lalo na sa kasalukuyang yugto ng pag-unlad ng industriya, ngunit alam namin ang mataas na pamantayan para sa amin at mananatili kami rito hanggang sa huling oras. At babalikatin namin ang nangyari at tiyaking ayusin namin ito sa malawakang paraan.”

Ang mga tauhan ng Google na nagtatrabaho sa etikal na AI ay nakaranas ng mababang moral at pakiramdam ng kawalan ng kapangyarihan sa nakalipas na taon habang pinabilis ng kompanya ang kanyang takbo ng paglalabas ng mga produkto ng AI upang manatili sa abre sa mga kalaban tulad ng OpenAI. Bagaman ang pagkakasama ng mga tao ng kulay sa mga larawan ng Gemini ay nagpakita ng pagpapahalaga sa pagkakaiba-iba, ito ay nagmungkahi na ang kompanya ay nagkulang sa lubusang pag-iisip sa iba’t ibang konteksto kung saan maaaring hanapin ng mga user na lumikha ng mga larawan, ayon kay Margaret Mitchell, dating co-head ng pangkat ng pananaliksik sa Etikal na AI ng Google at punong scientist sa etika ng startup na AI na Hugging Face. Ang pagpapahalaga sa pagkakaiba-iba ay maaaring mas angkop kapag hinahanap ng mga user ang mga larawan kung paano nila nararamdaman ang daigdig dapat, sa halip na kung paano talaga ang daigdig sa tiyak na panahon sa kasaysayan.

“Ang katotohanan na nagbabayad ng pansin ang Google sa pagkakaiba-iba ng kulay ng balat ay isang malaking pag-unlad mula sa kung saan nanggaling ang Google lamang apat na taon ang nakalipas. Kaya para bang dalawang hakbang pahilaga, isang hakbang pabalik,” ani Mitchell. “Dapat silang kinikilala para talagang pagbibigyan ang mga bagay na ito. Kailangan lang nilang lumakad ng kaunti pa upang gawin ito nang tama.”

Problema ng Google sa larawan

Para sa Google, na nagpakilala sa ilang teknik sa puso ng boom ng AI ngayon, may matagal nang malaking presyon upang ayusin ang paglikha ng larawan. Sobrang nag-alala ang Google tungkol sa paraan ng paggamit ng tao sa Imagen, ang modelo ng paglikha ng larawan ng AI nito na tumanggi itong ilabas ang tampok sa publiko para sa matagal na panahon pagkatapos ng .

Sa mga nakaraang taon, ang mga pangkat ng kompanya ay nagtatalo kung paano tiyakin na ang kasangkapan ng AI nito ay mapagkakatiwalaan sa paglikha ng photorealistic na larawan ng tao, ayon sa dalawang tao na nakakilala sa usapin, na humiling na huwag kilalanin sa pagtukoy ng mga naging talakayan sa loob. Sa isang punto, kung ang mga empleyado ng Google na nag-eexperimento sa loob ng Imagen ay humiling ng larawan ng tao – o kahit na implisitong kinabibilangan ng mga tao, tulad ng isang stadium ng futbol – ito ay magsasagot ng isang itim na kahon, ayon sa isang tao. Kinabibilangan ng Google ang kakayahang lumikha ng larawan ng tao sa Gemini lamang pagkatapos ng maraming pag-aaral, ayon sa iba pang tao.

Hindi ginawa ng Google ang pagsubok sa lahat ng paraan kung paano maaaring magbigay ito ng hindi inaasahang resulta, ayon sa isang tao, ngunit itinuturing na sapat na para sa unang bersyon ng kasangkapan ng paglikha ng larawan ng Gemini na ibinukod nito sa publiko. Bagaman ang mga pangkat ng Google ay gumawa ng pag-iingat sa pagbuo ng kasangkapan, may malawak na kagustuhan sa loob na hindi handa ang kompanya para sa ganitong uri ng resulta, ayon sa kanila.

Habang pinapakita ng mga user sa X ang mga larawan ng hindi historikal na paglalarawan ng tao ng Gemini, abala ang mga forum ng empleyado ng Google sa mga post tungkol sa mga kahinaan ng modelo, ayon sa kasalukuyang empleyado. Sa Memegen, isang forum sa loob kung saan ang mga empleyado ay nagbabahagi ng mga meme na nagbibiro sa kompanya, isang popular na post ay may larawan ni Anderson Cooper na nakakubli ng kanyang mukha gamit ang kanyang mga kamay.

“Isang face palm,” ani ng empleyado. “May pakiramdam na hindi ito handa para sa prime time… na ang kompanya ay talagang nagsusumikap na habulin ang mga kalaban.”

Ang Google, OpenAI at iba pa ay naglalagay ng mga guardrail sa kanilang mga produkto ng AI at madalas na gumagawa ng adversarial testing – pag-