Habang Ang Mga CEO Ng Tech Ay Pinagtatanong Tungkol Sa Kaligtasan Ng Bata Online, Ay Nagsusulsol Ng Isyu Ang AI

(SeaPRwire) –   Ang mga CEO ng limang kompanya ng social media kabilang ang Meta, TikTok at X (dating Twitter) ay tinanong ng mga Senador noong Miyerkules kung paano nila pinipigilan ang pang-aabuso sa mga bata online.

Tinawag ng Senate Judiciary Committee ang pagpupulong upang hawakan ang mga CEO sa pananagutan para sa sinasabi nilang pagkabigo na pigilan ang pang-aabuso sa mga menor de edad, at tanungin kung sila ay tututulan sa mga batas na iminungkahi ng mga miyembro ng Komite upang tugunan ang problema.

Ayon sa National Center for Missing and Exploited Children, lumalala ang isyu ayon dito, na nagsabi na umabot sa rekord na taas noong nakaraang taon ang mga ulat tungkol sa child sexual abuse material (CSAM) na umabot sa higit sa 36 milyon, ayon sa ulat ng . Ang National Center for Missing and Exploited Children CyberTipline, isang sentralisadong sistema sa U.S. para sa pag-ulat ng online CSAM, ay nabigyan ng noong 2022, na halos 90% ng mga ulat ay galing sa labas ng bansa.

Sina Mark Zuckerberg ng Meta, Shou Chew ng TikTok, at Linda Yaccarino ng X ay lumabas kasama sina Jason Spiegel ng Snap at Jason Citron ng Discord upang sagutin ang mga tanong mula sa Senate Judiciary Committee. Bagamat lumabas nang boluntaryo sina Zuckerberg at Chew, kinailangan ng Komite na magserbisyo ng subpoena kay Spiegel, Citron, at Yaccarino .

Binuksan ni Senator Richard Durbin, isang Demokratiko mula Illinois at tagapangulo ng Komite, ang pagdinig sa pamamagitan ng isang video na nagpapakita ng mga biktima ng online child sexual exploitation, kabilang ang mga pamilya ng mga bata na namatay sa pamamagitan ng pagpapatiwakal matapos silang paglaruan ng mga manliligaw online.

Sinabi ni Senator Lindsey Graham, isang Republikano mula South Carolina at ranking member, tungkol kay , ang 17-taong gulang na anak ni South Carolina state house Rep. Brandon Guffey, na namatay sa pamamagitan ng pagpapatiwakal noong nakaraang taon matapos siyang sekswal na pang-aapi sa Instagram. “May dugo sa inyong mga kamay,” sabi ni Graham sa mga CEO, lalo na kay Zuckerberg.

Maraming mga nakalikom na mambabatas ang ipinahayag ang kanilang pagkadismaya sa sinasabi nilang hindi sapat na mga hakbang na ginawa ng mga kompanya sa social media upang harapin ang problema at tinatanggap ang kanilang sariling pagnanais na kumilos. Noong nakaraang taon, bukod sa pagdaraos ng maraming pagdinig, inilabas ng Senate Judiciary Committee ang ilang mga panukalang batas na naglalayong protektahan ang mga bata online sa Senate floor, kabilang ang na tatanggalin ang kawalan ng pananagutan mula sa teknolohikal na kompanya sa ilalim ng mga batas tungkol sa child sexual abuse material.

Sa kanilang mga testimonya, inilatag ng bawat CEO ang mga hakbang na ginagawa nila upang maiwasan ang mga pinsala sa mga bata online. Ngunit nang tanungin kung tututulan ba sila sa mga panukalang batas na inilabas ng Senate Judiciary Committee, marami ang nagdalawang-isip.

Sa isang punto, tinanong ni Senator Josh Hawley, isang Republikano mula Missouri, si Zuckerberg kung gusto niyang humingi ng tawad sa mga magulang ng mga bata na apektado ng online CSAM na naroon sa pagdinig. “Nagso-sorry ako sa lahat ng pinagdaanan n’yo,” sabi ni Zuckerberg. “Nakakalungkot. Walang dapat pumayag na makaranas ng mga bagay na pinagdaanan ng inyong mga pamilya.”

Sa maraming pagkakataon, binigyang-diin ng mga CEO ang paggamit ng kanilang kompanya ng artificial intelligence upang harapin ang isyu ng online CSAM. Sa kanyang testimonya, binigyang-diin ni Citron ang pagkuha ng Discord ng Sentropy, isang kompanya na umunlad ng AI-based na solusyon sa content moderation. Sinabi ni Zuckerberg na 99% ng nilalaman na tinatanggal ng Meta ay awtomatikong nadetekta ng kanilang mga tool sa artificial intelligence. Ngunit hindi pinag-usapan ng mga mambabatas at mga CEO ang papel ng AI sa paglaganap ng CSAM.

AI-generated child abuse images

Ang pagdating ng generative artificial intelligence ay nagdadagdag sa alalahanin tungkol sa pinsala sa mga bata online. Nahihirapan ang mga tagapagpatupad ng batas sa buong mundo na harapin ang pag-atake ng mga kaso tungkol sa AI-generated child sexual abuse material—isang walang katulad na kaganapan bago sa maraming korte.

Noong , 17-taong gulang na aktres na si Xochitl Gomez, na gumaganap bilang kabataang superhero na si America Chavez sa 2022 na pelikulang Doctor Strange in the Multiverse of Madness, nagsalita tungkol sa kung gaano kahirap na linisin ang X ng AI-generated pornographic images niya.

Nagsalita si Gomez sa isang podcast kasama si actor Taylor Lautner at kanyang asawa, sinabi niyang sinusubukan ng kanyang ina at kanyang team—nang walang tagumpay—na alisin ang mga imahe. “May maraming email ang ina ko, pero tulad ng, may marami siyang pinagkakaitan,” sabi niya. “Para sa akin, hindi ito isang bagay na nakakabigla, kundi higit pa sa lahat, ‘Bakit mahirap itong alisin?’”

Nahaharap ang mga awtoridad sa komplikadong tungkulin ng pagpigil sa pagkalat ng AI-generated CSAM habang lumalago nang mabilis ang teknolohiya at dumadami ang madaling access sa mga tool tulad ng tinatawag na kahit sa mga bata mismo.

Habang lumalawak at mas madaling ma-access ang mga modelo ng AI, mas mahihirapan rin silang pigilan kung gamitin ito para sa iligal na layunin, tulad ng paglikha ng CSAM, ayon kay Dan Sexton, chief technology officer ng U.K.-based Internet Watch Foundation (IWF). Sinabi niya na kailangan ng mundo ng solusyon agad: “Mas malaki ang tsansa na nangyari na ito at sinusubukan nang ayusin ang mga pinsala bago pa man ito nangyari kung mas matagal tayong maghintay na magkaroon ng solusyon sa bawat potensyal na isyu na maaaring mangyari bukas.”

Lumalalang problema

Sa karamihan, ipinagbabawal na sa maraming bansa ang paglikha ng anumang uri ng CSAM, kabilang ang paggamit ng AI. Sa pinakahuling ng International Center of Missing and Exploited Children, nakita na may batas 182 sa 196 na bansa na tumutugon sa CSAM o sapat na upang harapin ito. Halimbawa, inidefine ang CSAM bilang anumang visual na paglalarawan ng sekswal na aktibidad na ukol sa isang menor de edad—na maaaring kabilang ang “digital o computer generated na imahe na hindi mapagkakilanlan mula sa isang tunay na menor de edad” pati na rin ang “imahe na nilikha, inayos, o binago, ngunit mukhang nagpapakita ng isang natukoy at tunay na menor de edad.” Sa Ireland, mas mahigpit ang batas: ipinagbabawal ang CSAM, kahit .

Nabilang na ang ilang mga nagkasala sa ilalim ng mga batas na ito. Noong Setyembre, isang lalaking nasa kanyang 40s sa 2.5 taong pagkakakulong para gamitin ang AI upang ilarawan ang daan-daang lifelike na pornographic na imahe ng mga bata. Noong Abril ng nakaraang taon, isang lalaking 61 taong gulang sa tatlong taon sa bilangguan para gamitin ang deepfake technology upang lumikha ng synthetic na child sexual abuse videos. Sa parehong buwan, , isang lalaking 22 taong gulang ay sinentensiyahan ng anim na buwan na pagkakakulong at 10 taon ng probation bilang isang sex offender matapos mag-amin sa ilang mga kasong kaugnay sa paglikha at pagkalat ng sekswal na eksplisitong imahe ng higit sa dosenang kabataang babae.

Ngunit hindi palaging tuwid ang paglutas ng mga kasong ito. ng higit sa 20 na babae na may edad na 11 hanggang 17 na may lumalabas na AI-generated na hubad nilang larawan sa internet noong Setyembre. Ngunit kailangan pang matukoy ng mga awtoridad sa pagpapatupad ng batas ang kriminal na pananagutan ng mga pinaghihinalaang salarin, na din paniniwalaang mga menor de edad din. Sinabi ni Manuel Cancio, propesor ng kriminal na batas sa Autonomous University of Madrid, sa TIME na “kung malinaw na kaso kung saan alam ng lahat kung saan ilalagay ito sa seksyon ng [Spanish] criminal code, saka lamang isasampa ang mga kaso.” Sinabi ni David Wright, direktor ng U.K. Safety Internet Centre, na nakatanggap din sila ng mga ulat tungkol sa mga estudyante sa paaralan na lumilikha at nagkalat ng AI-generated na hubad na imahe ng kanilang mga kaklase.

Maaaring gamitin ng teknolohiyang AI ngayon ang itsura ng anumang bata nang walang pag-aalinlangan upang lumikha ng sekswal na pang-aabusong materyal sa ilang klik lamang, bagamat hindi pinapayagan ng maraming developer ang paggamit para sa ganitong layunin. Binigyang-diin ng Stanford Internet Observatory na ang ilang modelo ng AI ay tinuruan sa mga dataset na naglalaman ng hindi bababa sa 3,000 imahe ng kilalang CSAM—na kinuha mula sa pangunahing platform tulad ng at —bagamat ipinagbabawal nila ang pag-upload ng ganitong nilalaman. Hindi sumagot sa request para sa komento ang Reddit at X tungkol sa ulat. Ayon kay Sexton, natanggap din ng IWF ang mga ulat tungkol sa paggamit muli ng mga imahe ng dating biktima upang lumikha ng karagdagang CSAM ng mga ito.

Ayon kay David Thiel, chief technologist sa Stanford Internet Observatory, nalagpasan na ng AI-generated CSAM ang mga solusyon na ginagamit upang i-track at alisin ang nilalaman. “Parang walang humpay na pagdagsa ng bagong materyal imbes na pag-ikot lamang ng kilalang materyal na nagiging mahirap ang pag-fingerprint,” ani niya.