(SeaPRwire) – Walang nakapag-alarma sa mga eksperto sa depeke na impormasyon sa buong mundo kaysa sa boses na na-edit upang magmukhang galing kay Pangulong Joe Biden na nagsimula kumalat noong nakaraang linggo.
Sa mensaheng telepono, isang boses na na-edit upang magmukhang galing kay Biden ang nag-udyok sa mga botante sa New Hampshire na huwag i-cast ang kanilang mga boto sa Martes na primary ng Demokratiko. “I-save ang inyong boto para sa halalan ng Nobyembre,” ang mensahe sa telepono. Ginamit din nito ang isa sa mga signature na pahayag ni Biden: “Ano bang kabaliwan ‘yan.” Sa katotohanan, hindi kakandidato si Biden sa halalan sa New Hampshire – at ang pagboto sa primary ay hindi nangangahulugan na hindi makakaboto sa halalan ng Nobyembre.
Maraming nagbabala na gagamitin ang bagong artificial intelligence-powered na video at image generators para sa political gain ngayong taon, habang representation para sa halos kalahati ng mundo ay nakasalalay sa mga halalan. Ngunit ang mga audio na deepfake ang pinaka-nag-aalala ngayon ng mga eksperto. Madali itong i-edit, mura ang produksyon at partikular na mahirap hanapin ang pinanggalingan. Pagkombine ng isang mapaniwalaang mensaheng telepono sa isang database ng voter registration, may malakas na sandata ang isang masamang aktor na kahit ang pinakamahusay na election systems ay hindi handa para harapin, ayon sa mga mananaliksik.
“Ang political deepfake moment ay dito na,” ani Robert Weissman, pangulo ng think tank na consumer advocacy na Public Citizen. Tinawag nito ang mga lawmakers na ilagay ang proteksyon laban sa peke na audio at video recordings upang maiwasan ang “electoral chaos.”
Ang pekeng mensahe ni Biden ay lumabas habang lumalago ang bilang ng mga kampanya sa pulitika ng US na gumagamit ng AI software upang maabot ang mga constituent en masse – at habang nag-iinvest ang mga investor sa mga startup na nag-rereplicate ng boses. Noong Lunes, habang kumakalat ang deepfake na mensaheng telepono, inanunsyo ng startup sa AI na nagrereplicate ng boses na ElevenLabs na nakakuha sila ng bagong round ng pagpopondo na naglagay sa valuation ng kompanya sa $1.1 bilyon.
Hindi ang unang pekeng recording sa pulitika. Noong nakaraang taon, kumalat sa social media ang mga audio deepfakes bago ang parliamentary elections ng Slovakia, kabilang ang isang clip kung saan parang tinatalakay ni party leader Michal Simecka ang isang plano upang bumili ng mga boto. Napatunayan namang limitado ang paggamit ng video at audio deepfakes sa pulitika.
Hindi malinaw kung paano ginawa ang mensahe ni Biden. Nag-iimbestiga ang attorney general ng New Hampshire sa tawag noong Lunes. Ngunit lubhang mahirap hanapin ang pinanggalingan ng pekeng audio dahil ipinakalat ito sa pamamagitan ng telepono sa halip na online, ayon kay Joan Donovan, assistant professor ng journalism at emerging media studies sa Boston University. Walang digital na trail ang mga mensaheng telepono.
“Ito ay isang indikasyon ng susunod na henerasyon ng masasamang taktika,” ani Donovan.
May isa pang dahilan kung bakit partikular na nakakabahala sa mga mananaliksik sa depeke at opisyal ng halalan ang pekeng clip ni Biden. Kinumpirma nito ang pinakamalaking takot nila: Gumagamit ang masamang aktor ng deepfakes hindi lamang upang makaimpluwensya sa opinyon publiko kundi upang hadlangan ang mga botante mula sa pagpunta sa mga presinto.
“Kahit na kung ang gayong maling impormasyon ay magdulot lamang ng kompuwensyon na apektado lamang ng ilang daan o libo ng mga boto, maaaring makabuluhan ito sa mga resulta at kinalabasan,” ani Nick Diakopoulos, isang propesor sa Northwestern University na nagsiyasat sa minipuladong audio at halalan.
Ang US Federal Election Commission ay nagpatupad ng mga hakbang upang regulaahan ang political deepfakes, ngunit hindi pa nakakapagpasara sa mga teknolohiya na tumutulong sa paglikha nito. May ilang estado na nagmungkahi ng kanilang sariling batas upang pigilan ang deepfakes.
Nagpapatupad ng mga training exercise ang mga opisyal ng halalan upang maghanda sa pag-atake. Nagtipon noong Agosto ng mga 100 opisyal ng pederal at estado sa Colorado upang pag-isipan ang pinakamahusay na tugon sa isang hipotetikal na pekeng video na naglalaman ng maling impormasyon sa halalan. Tinutok din ng isa pang exercise sa Arizona noong Disyembre kung saan ginawa ang isang scenario kung saan pekeng video si Secretary of State Adrian Fontes upang kumalat ng hindi tama na impormasyon.
Samantala, nasa pagtatanggol pa rin ang mga tool para matukoy ang deepfake at hindi pa malinaw ang resulta.
Noong Lunes, halimbawa, nagsabi ang detection tool ng ElevenLabs na hindi malamang na ginawa gamit ang kanilang cloning software ang tawag kay Biden – habang sinabi naman ng startup para sa deteksyon ng deepfake na Clarity na higit 80% na malamang na deepfake ito.
Ang artikulo ay ibinigay ng third-party content provider. Walang garantiya o representasyon na ibinigay ng SeaPRwire (https://www.seaprwire.com/) kaugnay nito.
Mga Sektor: Pangunahing Isturya, Balita Araw-araw
Nagde-deliver ang SeaPRwire ng sirkulasyon ng pahayag sa presyo sa real-time para sa mga korporasyon at institusyon, na umabot sa higit sa 6,500 media stores, 86,000 editors at mamamahayag, at 3.5 milyong propesyunal na desktop sa 90 bansa. Sinusuportahan ng SeaPRwire ang pagpapamahagi ng pahayag sa presyo sa Ingles, Korean, Hapon, Arabic, Pinasimpleng Intsik, Tradisyunal na Intsik, Vietnamese, Thai, Indones, Malay, Aleman, Ruso, Pranses, Kastila, Portuges at iba pang mga wika.
