Si Yann LeCun ng Meta tungkol sa AGI, bukas na-source, at panganib ng AI

(SeaPRwire) –   Ang punong siyentipiko ng AI ng Meta na si Yann LeCun ay nakatanggap ng isa pang parangal na idadagdag sa kanyang mahabang listahan ng mga gawa noong Linggo, nang gawaran siya ng isang TIME100 Impact Award para sa kanyang kontribusyon sa mundo ng artificial intelligence.

Bago ang seremonya ng gantimpala sa Dubai, nakipag-usap si LeCun sa TIME upang talakayin ang mga hadlang sa pagtatagumpay ng “artipisyal na pangkalahatang katalinuhan” (AGI), ang mga benepisyo ng open-source approach ng Meta, at ang nakikita niyang “preposterous” na pag-aangkin na maaaring magdala ng isang eksistensyal na panganib sa lahi ng tao ang AI.

Nakipag-usap ang TIME kay LeCun noong Enero 26. Pinagmalinis at pinagbuti ang pag-uusap para sa kalinawan.

Maraming tao sa mundo ng teknolohiya ngayon ang naniniwala na ang pagpapalaki ng mga malalaking modelo ng wika (LLMs) sa mas maraming kakayahang pangkompyuter at mas maraming datos ay magdadala sa artipisyal na pangkalahatang katalinuhan. Sumasang-ayon ka ba?

Napakagulat kung paano sila gumagana, kung itinuturo mo sila sa malaking sukat, ngunit napakalimitado. Nakikita natin ngayon na ang mga sistema na iyon ay nagpapalagay, hindi talaga nila nauunawaan ang tunay na mundo. Kinakailangan nila ng napakalaking halaga ng datos upang makamit ang antas ng katalinuhan na hindi gaanong mataas sa huli. At hindi sila makapag-isip. Hindi sila makaplano ng anumang bagay maliban sa mga bagay na tinuturo sa kanila. Kaya hindi sila isang daan patungo sa tinatawag ng mga tao na “AGI.” Ayaw ko ng terminong iyon. Kaugnay sila, walang pagdududa. Ngunit hindi sila isang landas patungo sa antas ng katalinuhan ng tao.

Binanggit mo na ayaw mo ang akronim na “AGI.” Ito ay isang terminong ginamit ni Mark Zuckerberg noong Enero, nang ipahayag niya na ang Meta ay nagpapalit ng direksyon patungo sa pagbuo ng artipisyal na pangkalahatang katalinuhan bilang isa sa sentral na mga layunin nito bilang isang organisasyon.

Maraming hindi pag-unawa doon. Kaya ang misyon ng FAIR [Fundamental AI Research team ng Meta] ay antas ng katalinuhan ng tao. Lumutang na ang barko, natalo na ako sa labanan na iyon, ngunit ayaw kong tawaging AGI dahil hindi pangkalahatan ang katalinuhan ng tao. May mga katangian ang mga makataong nilalang na wala pa sa anumang sistema ng AI ngayon, tulad ng pag-unawa sa pisikal na mundo; pagplano ng isang sekwensiya ng mga aksyon upang abutin ang isang layunin; pag-iisip na maaaring kumunsumi ng maraming oras. Ang mga tao, hayop, may espesyal na bahagi ng ating utak na ginagamit namin bilang memoryang pang-gawain. Walang iyon ang LLMs.

Natututo ang isang sanggol kung paano gumagana ang mundo sa unang ilang buwan ng buhay. Hindi namin alam kung paano gawin iyon [sa AI]. Kapag may mga teknik na matutunan ang “mundo models” sa pamamagitan lamang ng pagtingin sa mundo na umaandar, at ikabit ito sa mga teknik ng pagplano, at marahil ikabit ito sa mga sistema ng memoryang maikli, maaaring may landas na tayo patungo, hindi sa pangkalahatang katalinuhan, ngunit sabihin na antas ng katalinuhan ng pusa. Bago tayo makarating sa antas ng tao, kailangan naming dumaan sa mas simpleng anyo ng katalinuhan. At napakalayo pa natin doon.

Sa ilang paraan, makatwiran ang metaphor na iyon, dahil ang isang pusa ay makakatingin sa mundo at matututunan ang mga bagay na simpleng hindi kayang gawin ng state-of-the-art na LLM. Ngunit sa kabilang banda, hindi makukuha ng pusa ang buong kasaysayan ng kaalaman ng tao. Sa anong antas na limitado ang metaphor na iyon?

Eto ang simpleng pagkukwenta. Ang isang malaking modelo ng wika ay tinuturo sa buong teksto na makukuha sa publikong internet, higit-kumulang. Karaniwan, iyon ay 10 trilyong token. Ang bawat token ay mga dalawang byte. Kaya iyon ay dalawang beses 10 sa [kapangyarihan ng] 13 na byte para sa datos ng pagtuturo. At sasabihin mo, “Oh diyos ko, napakalaki nun, kailangan ng isang tao ng 170,000 taon upang basahin ito.” Napakalaking halaga ng datos. Ngunit pagkatapos ay kausapin mo ang mga sikologong pang-pag-unlad, at sasabihin nila sa iyo na ang isang 4 na taong gulang ay gising na sa loob ng 16,000 oras sa buhay nito. At pagkatapos ay maaari kang subukang sukatin kung gaano karaming impormasyon ang pumasok sa kanyang cortex na biswal sa loob ng apat na taon. At ang optical nerve ay mga 20 megabytes kada segundo. Kaya 20 megabytes kada segundo, times 60,000 oras, times 3,600 segundo kada oras. At iyon ay 10 sa [kapangyarihan ng] 15 na byte, na 50 beses higit sa 170,000 taon na halaga ng teksto.

Tama, ngunit ang teksto ay naglalaman ng buong kasaysayan ng kaalaman ng tao, samantalang ang biswal na impormasyon na natanggap ng isang 4 na taong gulang ay naglalaman lamang ng pangunahing impormasyon tungkol sa 3D, pangunahing wika, at mga bagay tulad non.

Ngunit mali ang sinasabi mo. Ang pinakamalaking bahagi ng kaalaman ng tao ay hindi ipinahayag sa teksto. Nasa hindi malamang bahagi ng isipan mo, na natutunan mo sa unang taon ng buhay bago ka makapagsalita. Ang karamihan sa kaalaman ay tungkol sa ating karanasan sa mundo at paano ito gumagana. Iyon ang tinatawag nating common sense. Walang iyon ang LLMs, dahil wala silang access doon. At kaya nila ginagawa ang napakatanga at mali na mga pagkakamali. Doon nanggagaling ang mga pagpapalagay. Ang mga bagay na lubos nating tinatanggap ay napakahirap pala para sa mga computer na ireporduha. Kaya ang AGI, o antas ng tao ng AI, ay hindi lang malapit, kakailanganin ng ilang malalim na pagbabago sa pananaw.

Usap-usapin natin ang open source. Matagal ka nang tagasuporta ng bukas na pananaliksik sa iyong karera, at tinanggap ng Meta ang patakaran ng epektibong pagbubukas ng pinakamakapangyarihang mga modelo ng wika, kamakailan ay . Ito ang estratehiya na nagtatangi sa Meta mula sa Google at Microsoft, na hindi nagpapalabas ng tinatawag na mga timbang ng kanilang pinakamakapangyarihang mga sistema. Sa tingin mo ba magpapatuloy ang pagiging angkop ng approach ng Meta habang lalong lumalakas at lalong lumalapit sa antas ng tao ang kanilang mga AI, kahit na sa hinaharap?

Ang unang sagot ay oo. At ang dahilan nito ay, sa hinaharap, ang lahat ng interaksyon ng tao sa digital na mundo, at sa mundo ng kaalaman ng pangkalahatan, ay mamamahalaan ng mga sistema ng AI. Sila ang magiging nagsisilbing mga assistant na kasama natin palagi. Hindi na natin gagamitin ang mga search engine. Tatanungin na lang natin ang mga tanong sa aming mga assistant, at tutulong ito sa aming araw-araw na buhay. Kaya ang buong aming pagkain ng impormasyon ay mamamahalaan ng mga sistema na ito. Sila ang magiging repositoryo ng lahat ng kaalaman ng tao. At hindi mo maaaring magkaroon ng ganitong uri ng pag-asa sa isang saradong sistema na may karapatan, lalo na’t may iba’t ibang wika, kultura, mga halaga, sentro ng interes sa buong mundo. Parang sinabi mong maaari bang isang komersyal na entidad, sa kanlurang baybayin ng Estados Unidos, ang lumikha ng Wikipedia? Hindi. Ang Wikipedia ay pinagkukunan ng maraming tao dahil gumagana ito. Kaya ganun din sa mga sistema ng AI, kailangan nilang ituro, o kahit paano ay ituro ng tulong ng lahat sa buong mundo. At hindi gagawin ito ng tao kung hindi nila maaaring mag-ambag sa isang malawak na platform na bukas. Hindi sila gagawin ito para sa isang saradong sistema.

Isa sa mga kritiko na maririnig mo ay maaaring payagan ng pagbubukas ng source code ang napakalakas na mga kasangkapan na mapunta sa mga kamay ng mga tao na magkamali. At kung may antas ng hindi pagkakapantay-pantay sa lakas ng pag-atake at lakas ng depensa, maaaring mapanganib ito sa lipunan sa malawak. Ano ang nagbibigay sayo ng tiyak na hindi mangyayari iyon?

Maraming mga bagay na sinasabi tungkol dito na talagang kumpletong fantasy. May isang na kamakailan lamang na inilabas ng RAND Corporation kung saan pinag-aralan nila, gamit ang kasalukuyang mga sistema, gaano kadali para sa mga taong may masamang intensyon na gumawa ng mga recipe para sa mga biyoweapons? At ang sagot ay: wala itong epekto. Ang dahilan ay dahil ang mga kasalukuyang sistema ay totoo lang hindi gaanong matalino. Tinuturo sila sa publikong datos. Kaya basta-basta lamang nila muling ihahayag ang halos kung ano ang tinuturo sa kanila mula sa publikong datos, na nangangahulugan maaaring makuha mo iyon mula sa Google. Sinasabi ng mga tao, “Oh diyos ko, kailangan nating i-regulate ang LLMs dahil magiging napakapeligroso nila.” Iyon ay hindi totoo.

Ngunit iba na ang istorya ng mga sistema sa hinaharap. Kaya marahil kapag mayroon tayong napakatalinong sistema na sobrang matalino, tutulong sila sa agham, sa medisina, sa negosyo, babawasan nila ang mga hadlang sa kultura sa pamamagitan ng pagpapahintulot ng sabayang pagsasalin. Kaya marami ang mga benepisyo. Kaya may isang pagsusuring panganib-benepisyo, na: produktibo ba ang subukang itago ang teknolohiya sa pag-asa na hindi makukuha ng masasamang tao? O mas mabuting ibukas ito upang makinabang ang buong mundo?