Noong 2019, isang mananaliksik na Tsino na nagngangalang Li Bicheng inilatag ang kanyang mga ideya tungkol sa pagmanipula ng opinyong publiko gamit ang AI. Isang network ng “intelligent agents” – isang hukbo ng mga pekeng online persona, na kinokontrol ng AI – ay maaaring kumilos na tila tunay lamang upang bigyang anyo ang consensus sa mga isyu ng concern sa Partidong Komunista ng Tsina, tulad ng paghawak nito sa pandemya ng COVID-19. Ilang taon lamang bago iyon, isinulat ni Li sa iba pang mga artikulo na dapat pahusayin ng Tsina ang kakayahan nito sa pagsasagawa ng “online information deception” at “online public opinion guidance.”
Si Li ay walang outlier. Sa katunayan, siya ang pinakamataas na insider, na may mahabang karera sa pananaliksik sa pinakamataas na institusyon ng pananaliksik sa digmaang impormasyon ng Hukbong Bayan ng mga Tao. Ang kanyang bisyon ng paggamit ng AI upang manipulahin ang social media ay inilathala sa isa sa mga nangungunang akademikong journal ng militar ng Tsina. Siya ay konektado sa tanging kilalang yunit ng digmaang impormasyon ng PLA, Base 311. Samakatuwid, ang kanyang mga artikulo ay dapat tingnan bilang isang pangitain ng isang paparating na baha ng mga operasyon ng impluwensiya ng Tsina na tinutulungan ng AI sa buong web.
Gaya ng kamakailan lamang inihayag ng Meta sa kanilang quarterly adversarial threat report, ang mga platform ng internet sa Kanluran ay lumulubog na sa mga nilalamang pro-Beijing na ipinost ng mga grupo na nakakonekta sa pamahalaan ng Tsina. Ayon sa ulat ng Meta, higit sa kalahating milyong mga gumagamit ng Facebook ang sumunod sa hindi bababa sa isa sa mga pekeng account sa mas malawak na network ng Tsina – na umaasa sa mga click farm na nakabase sa Vietnam at Brazil upang palakasin ang saklaw nito. Binanggit din sa ulat na ang network ng Tsina ay bumili ng humigit-kumulang $3,000 na halaga ng mga advertisement upang higit pang itaguyod ang mga post nito. Gayunpaman, ang pagsisikap na ito ay mukhang pinapatakbo pa rin ng mga tao at may marginal na mga resulta sa tunay na mundo. Isang kamakailang ulat ng State Department sa mga operasyon ng impluwensiya ng Tsina ay pumapalakas sa puntong ito.
Ngunit ang generative AI ay nag-aalok ng potensyal na baguhin ang mga pagsisikap na ito sa isang mas epektibo, at samakatuwid ay mas mapanganib sa US at iba pang mga demokrasya sa buong mundo. At ang aming pananaliksik ay nagpapakita na handa ang Tsina na tanggapin ang bagong teknolohiyang ito. Noong nakaraang buwan, iniulat ng Microsoft na ang ilang mga aktor na nakakonekta sa Tsina na sinusubaybayan nito ay nagsimulang gumamit ng mga larawang nalikha ng AI noong Marso. Pinatototohanan nito ang aming mga alalahanin, at inaasahan namin na higit pang darating ito.
Ngayon, salamat sa generative AI, ang epekto ng manipulasyon ng social media ng Tsina ay magiging mas malaki sa tuyong dami at mas mura, at malamang na magkakaroon ng mas mahusay, mas kapanipaniwalang nilalaman. Habang ang tradisyonal na paraan ay nangangailangan ng pagkuha ng mga tao upang magtrabaho sa mga content farm upang lumikha o mag-post ng nilalaman at pagkatapos ay gumastos ng pera upang itaas at itaguyod ito sa social media, sa generative AI, ang gastos ay relatibong nakapirmi, at ang saklaw ay lubhang nadadagdagan: itayo ito minsan, at hayaan itong punan ang web ng nilalaman.
Ang gastos sa pagbuo ng ganitong modelo ay napakamura na at – tulad ng napakaraming teknolohiya – lalo lamang magiging mas mura. Gaya ng Wired na kamakailan lamang iniulat, isang mananaliksik na gumagamit ng alias na Nea Paw ay nakapaglikha ng isang ganap na awtomatikong account na nag-post sa buong internet, na may mga link sa mga artikulo at outlet ng balita, kahit na nagbanggit ng partikular na mga mamamahayag – maliban na lahat ng ito ay peke, ganap na nilikha gamit ang AI. Ginawa ito ni Paw gamit ang mga tool ng AI na available sa publiko, off-the-shelf. Nagkakahalaga lamang ito sa kanya ng $400.
Ang uri ng generative AI na ito, na kumikilos na mas tulad ng mga tao, at hindi tulad ng mga bot, ay nag-aalok sa CCP – at sa maraming iba pang masasamang aktor, tulad ng Russia at Iran – ng potensyal na matupad ang matagal nang mga hangarin na bigyang anyo ang pandaigdigang pag-uusap.
Noong Mayo 2021, muling binigyang-diin ni Chinese General Secretary Xi Jinping ang focus ng kanyang partido sa napakataas na layuning ito, sa kanyang mga pananalita sa Buwanang Pag-aaral ng Kolektibo ng Politburo ng CCP. Doon, sinabi niya na dapat lumikha ang Tsina ng “magandang panlabas na kapaligiran ng opinyong publiko para sa reporma, pag-unlad at katatagan ng Tsina,” sa bahagi sa pamamagitan ng pagbuo ng mas nakahihikayat na mga kuwento ng propaganda at mas mahusay na pag-aangkop ng nilalaman sa partikular na mga audience. Binigyang-diin din ni Xi na simula nang siya ay umupo sa kapangyarihan, noong 2012, pinalakas ng Beijing ang “gabay na kapangyarihan ng ating mga pagsisikap sa pandaigdigang opinyong publiko.” Sa madaling salita, natutuwa si Xi kung gaano na impluwensiya ng CCP ang pandaigdigang opinyong publiko ngunit sa tingin niya mayroon pang trabaho ang CCP.
Matagal na ring nagsasalita si Xi tungkol sa teknolohiya bilang paraan upang makamit ang kanyang mga hangarin. Sa isang mas naunang Pag-aaral ng Kolektibo ng Politburo, noong 2019, sinabi ni Xi na kinakailangan pag-aralan ang aplikasyon ng AI sa pagtitipon ng balita, produksyon, distribusyon, at feedback, upang mapahusay ang kakayahang gabayan ang opinyong publiko. Ang mas malawak na aparato ng Partido-estado ay kumilos na upang maisakatuparan ang bisyon ni Xi, kabilang ang pagtatatag ng mga ” departamento ng editorial ng AI.”
Ang mga mananaliksik ng militar ng Tsina ay nagtatrabaho upang lumikha ng tinatawag nilang minsan na “synthetic information” simula pa noong 2005. Ang naturang impormasyon ay maaaring gamitin para sa maraming layunin, kabilang ang paglikha ng “mapanabik na balita” tungkol sa mga kalaban. Halimbawa, pinagbintangan ang Tsina noong 2017 ng isang kampanya ng disimpormasyon na nagsasabing ang pamahalaan ng Taiwan ay mahigpit na reregulasyon ang mga serbisyo sa relihiyon, na lumikha ng isang napakalaking sagupaan sa pulitika sa isla.
Pana-panahon na nagrereklamo ang mga mananaliksik ng militar ng Tsina na kulang ang PLA sa kinakailangang dami ng kawani na may sapat na kasanayan sa banyagang wika at pag-unawa sa iba’t ibang kultura. Ngayon, gayunpaman, nag-aalok ang generative AI ng mga tool sa PLA upang gawin ang isang bagay na hindi ito kailanman magagawa dati, na manipulahin ang social media sa nilalamang may kalidad na katulad ng tao, sa iskala.
Mayroong mga hakbang na maaaring at dapat gawin ng mga platform ng social media at ng pamahalaan ng US upang simulan ang pagbawas sa banta na ito. Ngunit lahat ng naturang mga estratehiya ay dapat magsimula mula sa katotohanan na ang generative AI ay pangkalahatan na at malamang na hindi kailanman lubos na reregulasyon.
Gayunpaman, dapat paigtingin ng mga platform ng social media ang kanilang mga pagsisikap na pabagsakin ang mga umiiral na hindi tunay na account na kumakalat ng maling impormasyon at gawing mas mahirap para sa masasamang aktor – dayuhan o katutubo – na magbukas ng mga bagong account. Ang pamahalaan ng US, sa kabilang banda, ay dapat isaalang-alang kung ang kamakailang mga pagbabawal sa pagluwas para sa advanced na hardware na ipinatupad laban sa Tsina at Russia ay maaaring mapahusay sa panahon ng paparating na mga rebisyon upang mas mahusay na ma-capture ang hardware na kinakailangan upang sanayin ang malalaking modelo ng wika sa puso ng AI. Kapag nabuo na sila, ang mga modelo ay mas mahirap nang regulasyon.
Napakahalaga na kilalanin ng pamahalaan ng US at ng mga platform ng social media ang bantang ito at
