Sa Loob ng Planong Gawin ng OpenAI ang AI na Mas ‘Demokratiko’

(SeaPRwire) –   Isang hapon noong simula ng Mayo 2023, si Colin Megill ay nakaupo sa isang silya sa isang plantilyong lugar sa OpenAI headquarters sa San Francisco.

Siya ay nakapalibot ng pitong tauhan mula sa pinakamaunlad na laboratoryo ng artipisyal na intelihensiya sa mundo, na nagsimula ng ChatGPT ilang buwan ang nakalipas. Isa sa kanila ay si Wojciech Zaremba, isang co-founder ng OpenAI. Gusto niya ng tulong ni Megill.

Sa higit sa isang dekada, si Megill ay nagtatrabaho nang walang pagkilala sa kanyang sarili bilang co-founder ng Polis, isang nonprofit na open-source na platform para sa pagpapatuloy ng pagdeliberasyon ng publiko. Ang demokrasya, ayon sa pananaw ni Megill, ay halos hindi umunlad sa loob ng daang taon kahit na ang mundo ay nagbago nang hindi inaasahan. Bawat botante ay may maraming paniniwala na kailangang i-distill sa isang signal lamang: isang boto, bawat ilang taon. Ang kakaibang pagkatao ng bawat indibidwal ay nawawala at nadidistorsyon, na nagreresulta na ang mga sistema ng demokratikong pamahalaan ay madalas na hindi lubos na nagrereplekta sa kagustuhan ng tao at nagiging mapolarisado.

Ang Polis, na inilunsad noong 2012, ay ang solusyon ni Megill. Ang sistema ay nagtatrabaho sa pamamagitan ng pagpayag sa mga user na ipahayag ang kanilang mga pananaw sa mga maikling pahayag, at payagan silang bumoto sa iba. Gamit ang machine learning, ang sistema ay makapagpapakita ng detalyadong mapa ng mga halaga ng mga user, na malinaw na nakikilala ang mga cluster ng mga tao na may katulad na paniniwala. Ngunit ang tunay na inobasyon ay mas simple: sa pamamagitan ng datos na ito, ang Polis ay makakapaglabas ng mga pahayag na magkakasundo kahit ang mga grupo na karaniwang hindi magkasundo. Sa ibang salita, ito ay nagpapatag sa polarisasyon at nag-aalok ng landas papunta sa pag-unlad. Nakita ng pamahalaan ng Taiwan ang sapat na posibilidad sa Polis upang , at ang Twitter ay gumamit ng upang patakbuhin ang kanilang Community Notes fact-checking na tampok.

Ang mga team ng computer scientists sa OpenAI ay nagtatangkang tugunan ang problema sa teknikal kung paano maisasalin ang kanilang mga AI sa mga halaga ng tao. Ngunit ang mga tauhan sa kumpanya na nakatuon sa estratehiya at polisiya ay din nag-aalala sa mga mas malalim na kaugnay na isyu: tama ba ang mga halaga ng sinong tao ang dapat isalinan ng AI? At sino ang dapat magdesisyon?

Ang mga lider ng OpenAI ay ayaw gumawa ng mga desisyon nang sarili lamang. Nakita nila ang pulitikal na kawalan ng direksyon na naging kinalalagyan ng mga kompanya sa social media noong dekada 2010, kung kailan ang maliliit na grupo ng Silicon Valley na mga bilyonaryo ang naglagay ng mga alituntunin ng diskurso publiko para sa bilyun-bilyong tao. At gayunpaman, sila rin ay hindi komportable sa pagbibigay ng kapangyarihan sa kanilang mga AI sa mga pamahalaan o mga regulator lamang. Sa halip, ang laboratoryo ng AI ay naghahanap ng ikatlong paraan: pumunta nang tuwiran sa tao.

Si Zaremba ay may isang mapagkakatiwalaang alok kay Megill. Pareho nilang alam na ang teknolohiya ng Polis ay epektibo ngunit mahirap; ito ay nangangailangan ng mga tao upang pamahalaan ang mga deliberasyon na nangyayari sa platform at analisahin ang datos pagkatapos. Ito ay komplikado, mabagal, at mahal-halaga—mga bagay na si Megill ay nag-aakala ay naglilimita sa pagtanggap nito sa mga demokrasya sa buong mundo. Ang mga large language models (LLMs)—ang AI na nagpapatakbo ng mga kasangkapan tulad ng ChatGPT—ay makakatulong na malampasan ang mga paghihigpit na ito, ayon kay Zaremba. Ang mga chatbot ay tila espesyal na nakatuon sa gawain ng pagtalakayan ng mga komplikadong paksa sa tao, magtanong ng karagdagang tanong, at makilala ang mga lugar ng pagkakasundo.

Labing-isa araw pagkatapos ng kanilang pagpupulong, si Zaremba ay nagpadala kay Megill ng isang video ng isang nagtatrabahong prototype. “Iyon ay sci-fi,” iniisip ni Megill nang masayang. Pagkatapos ay tinanggap niya ang imbitasyon ni Zaremba na magpayo sa OpenAI sa isa sa pinakamalaking proyekto nito sa pagpapatupad ng pagpapasya ng AI. Ang kompanya ay gustong malaman kung ang mga teknolohiya ng deliberasyon, tulad ng Polis, ay makapagbibigay ng landas patungo sa pagkakasundo ng AI na kung saan ang malawak na bahagi ng publiko ay maaaring magkasundo. Sa kabilang dako, si Megill ay maaaring matutunan kung ang LLMs ay ang nawawalang puzzle piece na hinahanap niya upang sa wakas ay malampasan ang mga kahinaan na nakikita niya sa demokrasya.

Noong Mayo 25, ang OpenAI ay sa kanilang blog na hinahanap nila ang mga aplikasyon para sa isang $1 milyong programa na tinawag na “Democratic Inputs to AI.” Sampung team ang bawat tatanggap ng $100,000 upang lumikha ng “proof-of-concepts para sa isang demokratikong proseso na makakasagot ng mga tanong tungkol sa mga alituntunin na dapat sundin ng mga sistema ng AI.” Wala pa ngayong koherenteng mekanismo para sa tumpak na pagkuha ng opinyon ng global na publiko tungkol sa anumang bagay, lalo na sa isang masalimuot na bagay tulad ng pag-asal ng mga sistema ng AI. Ang OpenAI ay naghahanap ng isa.

Si Megill ay makakaupo sa isang hindi bayad na komite ng tatlong eksperto na mag-aadviso sa OpenAI kung aling mga aplikasyon ang dapat pondohan. (Ang mga natuklasan mula sa mga eksperimento ay hindi mananagot, “sa kasalukuyan,” ayon sa kompanya.) Bilang isang halimbawa ng uri ng mga proyektong pananaliksik na hinahanap nito, ang OpenAI ay naglabas ng isang mockup ng isang napapabuting bersyon ng Polis, kung saan ang ChatGPT ay magpapatuloy ng isang deliberasyon sa malawakang pagtatanaw, pagtatanong sa mga pananaw ng tao at pagkilala sa mga lugar ng pagkakasundo. Maaari mong makita ang pagkahumaling ng CEO ng OpenAI na si Sam Altman sa potensyal ng ideyang ito. “Mayroon tayong bagong kakayahan upang gawin ang malawakang direktang demokrasya na hindi pa natin nararanasan noon,” ayon kay Altman sa TIME noong Nobyembre. “Ang AI ay makakapag-usap lamang sa lahat at makakakuha ng aktuwal na mga kagustuhan nila.”

Sa isang auditorium sa OpenAI headquarters sa San Francisco noong Setyembre, ang mga kinatawan mula sa 10 panalong team ay nagtipon upang ipakita ang kanilang gawain. Dalawang malalaking loob na palma ang nakapalibot sa entablado, at isang hilera ng tumutubong halaman ang nakasabit sa proyektor na screen. Isang malambot na dilaw na ilaw ang sumasakop sa silid. Si Tyna Eloundou, isang mananaliksik sa OpenAI, ay sumakay sa podium upang batiin ang mga bisita. “Sa aming charter, tayo ay eksplikong gumawa ng commitment na bumuo ng AI na makakabenepisyo sa buong sangkatauhan,” ayon dito, na tumutukoy sa isang dokumento kung saan inaasahan ang mga tauhan ng OpenAI. “Sa maraming layunin at ambisyon ng sangkatauhan, iyon ay isang malaking gawain.” Kaya ba ito kahit paano upang maisagawa ang isang sistema na makakareplekta ng demokratikong kagustuhan ng publiko? Ano ang itsura ng ganitong sistema? Paano tugunan ang katotohanan na ang mga sistema ng AI ay nakikinabang sa ilang komunidad higit sa iba?

Ang susunod na nagsalita ay naglagay ng mas malinaw na punto sa grabedad ng okasyon. “Hindi mo talaga makikinabang ang isang tao kung hindi mo kinukuha ang kanilang input, at bilang mga tao tayong lahat ay gustong magkaroon ng kapangyarihan sa mga bagay na naglalaro ng mahalagang papel sa aming buhay,” ayon kay Teddy Lee, isang product manager sa OpenAI. “Kaya habang ang mga modelo na ito ay lumalakas at lumalawak ang paggamit, tiyaking ang isang malaking kinatawan ng bahagi ng populasyon ng mundo ay makakapagbigay ng salita kung paano sila magsisilbing napakaimportante.”

Isa sa mga tao sa audiensiya ay si Andrew Konya. Bago niya isumite ang aplikasyon para sa grant ng programa ng OpenAI, si Konya ay nagtatrabaho sa United Nations tungkol sa