Para Humingi ng Pag-iingat sa AI na Makapatay sa Lahat, Unang I-Regulate ang Mga Deepfakes, Ayon kay Mananaliksik na si Connor Leahy

(SeaPRwire) –   Alala ni Connor Leahy ang panahon kung kailan siya unang nakarealize na patayin ng AI ang lahat ng tao.

Noong 2019, at lumabas ang GPT-2 ng OpenAI. Nakadownload ni Leahy ang lumalaking model ng wika sa kanyang laptop, at dinala ito sa isang hackathon sa Technical University of Munich, kung saan siya nag-aaral. Sa isang maliit at siksik na silid, nakaupo sa sofa kasama ng apat niyang kaibigan, binuksan niya ang sistema ng AI. Kahit hindi pa ito makapagtala ng maayos na pangungusap, nakilala ni Leahy sa GPT-2 ang isang bagay na kulang sa lahat ng iba pang modelo ng AI hanggang sa puntong iyon. “Nakita ko ang isang kiskis ng kahalagahan,” aniya, bago tumawa sa pagtingin pabalik kung gaano katangkad ang GPT-2 ngayon. “Ngayon, maaari kong sabihin ito at hindi ako mukhang baliw. Noon, mukha akong baliw.”

Lumitaw ang karanasan na nagbago ng kanyang mga prayoridad. “Akala ko may oras pa ako para sa isang normal na karera, pamilya, mga bagay na ganoon” aniya. “Nawala lahat iyon. Para, hindi na, ang panahon ngayon na.”

Ngayon, si Leahy ang CEO ng Conjecture, isang kompanya para sa kaligtasan ng AI. May mahabang balbas at buhok na abot sa balikat na parang isang mesiyas, siya rin ang isa sa pinakakilalang mukha ng tinatawag na “panganib na eksistensiyal” sa mundo ng AI, nagbibigay ng babala na ang AI ay nasa trayekto kung saan ito ay maaaring mabilis na lampasan ang kakayahan ng tao na kontrolin ito. Noong Enero 17, nagsalita siya sa isang fringe event sa taunang pulong ng World Economic Forum sa Davos, Switzerland, kung saan nagkakatipon taun-taon ang mga desisyon-makerr sa buong mundo upang talakayin ang mga panganib na hinaharap ng planeta. Karamihan sa atensyon sa Davos ngayong taon ay nakatuon sa lumalalang alitan sa Gitnang Silangan at lumalalang epekto ng pagbabago ng klima, ngunit ayon kay Leahy, ang panganib mula sa advanced na AI dapat talakayin sa pinakamataas na agenda.

Bagaman nagbabala na malamang malapit na ang wakas, hindi defeatist si Leahy. Dumating siya sa Davos may dalang solusyon sa polisiya at isang estratehiyang pangpulitika. Ang estratehiya: unahin muna ang pagbabawal sa , o AI generated na mga imahe na ngayon ay ginagamit nang malawak upang lumikha ng hindi pumapayag na sekswal na imahe ng karamihan sa mga babae at bata. Ayon kay Leahy, ang deepfakes ay isang mabuting unang hakbang dahil ito ay isang bagay na halos lahat ay maaaring pumayag na masama. Kung makakalutas ang mga politiko sa deepfakes, baka makapaglunsad sila sa pagharap sa mga panganib na ibinibigay ng tinatawag na AGI, o artificial na kahalagahan.

Nag-usap ang TIME kay Leahy sandali bago siya dumating sa Davos. Ito ay nakondensa at nai-edit para sa kalinawan.

Ano ang ginagawa mo sa Davos?

Pupunta ako sa isang panel upang magsalita tungkol sa deepfakes at ano ang maaaring gawin tungkol dito, at iba pang panganib mula sa AI. Ang deepfakes ay isang partikular na kaso ng isang mas malawak na problema. Kung gusto mong harapin ang mga bagay na gaya nito, hindi sapat na sisihin ang mga tagagamit, na ito ang ina-push ng mga taong may kinita sa pag-iral ng deepfakes. Kung gusto mong makapagharap ng mga problema ng ganitong hugis ng lipunan—na ang deepfakes ay isang partikular na halimbawa at ang AGI ay isa pang halimbawa—dapat makapag-target tayo sa buong supply chain. Hindi sapat na parusahan lamang, halimbawa, ang mga taong gumagamit ng teknolohiya upang makasakit. Dapat din tayong mag-target sa mga taong nagtatayo nito. Ginagawa na natin ito para sa, halimbawa, materyal na sekswal na pagsalakay sa mga bata; hindi lamang pinaparusahan ang mga nagkonsumo nito, pinaparusahan din natin ang mga nagprodukto, nagdistribute, at nag-host nito. At ito ang kailangan mong gawin kung seryosong lipunan na gustong harapin ang isang seryosong problema sa digital.

Sa tingin ko dapat may pananagutan. Maaari tayong magsimula sa deepfakes lamang, dahil ito ay isang napakapopular na posisyon sa pulitika. Kung gagawa ka ng sistema na maaaring gamitin upang lumikha ng deepfakes, kung magdidistribute ka ng sistema na iyon, magho-host ng sistema, etc., dapat may pananagutan ka sa pinsala at sa potensyal na kasong kriminal. Kung magdadala ka ng gastos sa lipunan, dapat sa iyo ang sagot. Kung gagawa ka ng bagong produkto, at masasaktan ang isang milyong tao, dapat mabayaran ang milyong tao sa paraan, o hindi ka dapat pahintulutang gumawa nito.

Sa deepfakes, isa sa mga pangunahing problema ay karaniwang hindi mo masasabi, mula sa larawan lamang, aling sistema ang ginamit upang lumikha nito. At kung hinihingi ang pananagutan, paano mo kokonektihin ang dalawang puntos sa isang paraan na legal na maipatupad?

Ang mabuting bagay tungkol sa pananagutan at pagpapatupad ng kriminal ay kahit hindi mo mahuli lahat, sapat na ang panganib na umiiral. Kaya sinusubukan mong ipasok ito sa pagdedesisyon ng mga taong nagtatayo ng mga sistema. Sa kasalukuyang panahon, kapag gumawa ng isang mananaliksik ng isang bagong mas mahusay na sistema ng deepfake, walang gastos, walang panganib, sa desisyon kung ipapaskil ba ito sa internet o hindi. Wala silang pakialam, walang interes kung paano ito apektuhan ang mga tao, at walang mangyayari sa kanila. Kung idadagdag mo lamang ang banta, idadagdag mo ang punto na kung may masama mang mangyari, at makita ka namin, may problema ka. Lubos na babago ito ang ekwasyon. Sigurado, hindi natin mahuhuli lahat. Pero maaari naming gawing mas mahirap.

Marami sa mga tao sa Davos ay mga desisyon-makerr na malakas ang paniniwala sa AI, pareho sa perspektibong pambansang seguridad at ekonomiya. Ano ang mensahe mo sa mga tao na iyon?

Kung simpleng ipagpapatuloy ninyo ang AI, hindi magiging mabuti ang resulta. Hindi ito magdadala ng mabuting bagay. Papunta ito sa mas maraming kaguluhan, kawalan ng pag-unawa at kontrol hanggang sa lahat ay wakasan. Problema ito ng pagkalat. Dagdagan ang mga tao na makakakuha ng mga bagay na maaaring makasakit sa iba, at maaari ring magkaroon ng mas malalang aksidente. Habang lumalaki ang pinsala na maaaring gawin ng tao, at ang kasamaan ng isang aksidente, lalo lamang hindi magiging matatag ang lipunan hanggang sa wala nang lipunan.

Kaya kung gusto nating may kinabukasan bilang isang species, hindi natin pwedeng payagan na kalat lang ang isang teknolohiya na napakalakas na—sumasang-ayon ang mga eksperto at iba—maaaring makipagkompetensya sa atin bilang isang species. Kung gagawa ka ng bagay na mas matalino sa tao, mas magaling sa pulitika, agham, manipulasyon, mas magaling sa negosyo, at hindi mo alam kung paano kontrolin—na hindi natin alam—at mass produce mo ito, ano sa palagay mo ang mangyayari?

May tiyak ba kayong proposal sa polisiya para harapin ang nakikita niyong panganib mula sa AGI?

Pinupush ko ang moratorium sa mga frontier na AI runs, na ipapatupad sa pamamagitan ng tinatawag na compute cap. Kaya ibig sabihin nito ay isang internasyonal na pagkasundo na pinapatupad tulad ng isang non-proliferation agreement, kung saan pagkasunduan natin, man lang para sa ilang panahon, na huwag magtatayo ng mas malalaking computer na lumalampas sa tiyak na sukat, at huwag magsagawa ng mga eksperimento sa AI na kumukuha ng mas maraming computing power. Ito ay may benepisyo dahil napakadaling sukatin ito. Ang supply chain ay napakahigpit, kailangan ng espesipikong trabaho at kakayahan upang itayo ang mga sistema na ito, at may napakaliit na bilang lamang ng mga kompanya na maaaring gawin ang mga eksperimento sa frontier. At lahat sila ay nasa mga bansang sumusunod sa batas sa kanluran. Kaya kung ipataw natin ang batas na dapat iulat ng Microsoft bawat eksperimento at huwag gawin ang may laking sukat, susunod sila. Kaya ito ay absolutong isang bagay na maaaring gawin, at ime-mediate na bibigyan tayo ng lahat ng karagdagang oras upang aktuwal na itayo ang matagal na solusyong teknikal at sosyo-pulitikal. Hindi ito o ang aking proposal sa deepfake ang matagal na solusyon. Unang hakbang lamang ito.