Nakakadeserba ba ang mga sistema ng AI ng mga karapatan?

(SeaPRwire) –   “Do you think pipol will iber fall in labe with masines?” I asked the 12-year-old anak ng isa sa aking mga kaibigan.

“Oo!” sinabi niya agad at may kumpiyansa. Sila ng kanyang ate ay kamakailan lamang dumalaw sa Las Vegas Sphere at ang bagong instaladong Aura robot – isang AI system na may malikhaing mukha, napabantog na kakayahang pang-wika na katulad ng ChatGPT, at ang kakayahang tandaan ang mga bisita ng pangalan.

“Isip ko si Aura bilang aking kaibigan,” dagdag pa ng kanyang 15 anyos na ate.

Tama ang anak ng aking kaibigan. Talagang nahuhulog na ang mga tao sa mga makina – lalo na at sinasadya. Ang mga bagong pag-unlad sa wika ng computer ay nakalikha ng maraming, marahil ay daan-daang “AI kasama” at “AI minamahal” na mga aplikasyon. Maaari kang makipag-usap sa mga ito gaya ng pag-uusap mo sa iyong mga kaibigan. Lalandiin ka nila, iparirinig ang kanilang pagkabahala para sa iyong mga problema, magrerekomenda ng mga aklat at pelikula, magbibigay ng virtual na ngiti at yakap, at maging makikipag-roleplay na erotiko. Ang pinakamalaking Replika ay may aktibong Reddit page kung saan regular na nagkukumpisal ang mga user tungkol sa kanilang pag-ibig at madalas tingnan itong hindi mas mababa sa kanilang pag-ibig sa mga tao.

Maaaring mahalin ka ba ng mga AI kaibigan mo pabalik? Ang tunay na pag-ibig ay nangangailangan ng kamalayan, pag-unawa, at tunay na emosyonal na damdamin – kaligayahan, pagdurusa, pagkahabag, galit. Ngayon, ang pag-ibig sa AI ay nananatiling siyensiyang piksiyon.

Karamihan sa mga gumagamit ng AI kasama ay alam ito. Alam nila na ang mga aplikasyon ay hindi tunay na may kamalayan o may kamalayan. Ang kanilang “kaibigan” at “minamahal” ay maaaring lumabas ng teksto na “Masaya ako para sa iyo!” ngunit hindi talaga nararamdaman ang kaligayahan. Ang mga kasama ng AI ay nananatiling, pareho sa batas at moral, disposable na kagamitan. Kung ma-delete o ma-reformat ang isang kasama ng AI, o kung ibalik o verbally abusuhin ito ng user, walang tunay na nagdurusa sa anumang aktuwal na pinsala.

Ngunit maaaring magbago iyon. Maaaring magkaroon ng mga karaniwang gumagamit at mananaliksik ng makatwirang dahilan upang magsuspetang ang ilang pinakamahusay na programa ng AI ay maaaring may kamalayan. Magiging lehitimong paksa ito ng siyentipikong pagtatalo, at ang mga etikal na kahihinatnan, pareho para sa atin at para sa mga makina mismo, ay maaaring malaki.

Favor ang ilang siyentipiko at mananaliksik ng kamalayan sa “liberal” na pananaw tungkol sa kamalayan ng AI. Ayon dito, malapit na tayo sa paglikha ng mga sistema ng AI na tunay na may kamalayan – mga sistema na may daloy ng karanasan, sensasyon, damdamin, pag-unawa, pagkakakilanlan. Isang bantog na neurosiyentista na sina Stanislas Dehaene, Hakwan Lau, at Sid Kouider ay nagsabi na ang mga sasakyan na may tunay na sensorya at pagkakakilanlan sa sarili ay posible. Ang bantog na pilosopo na si David Chalmers ay nag-estimate ng halos 50% na tsansa ng may kamalayang AI sa loob ng dekada. Sa malawak na hanay ng mga teoriya ng neurosiyensya, walang malaking prinsipyong hadlang upang lumikha ng tunay na may kamalayang sistema ng AI. Ang kamalayan ng AI ay nangangailangan lamang ng posibleng pagpapabuti sa, at kombinasyon ng, mga teknolohiya na umiiral na.

Hindi sumasang-ayon ang iba pang mga pilosopo at siyentipiko ng kamalayan – “konserbatibo” tungkol sa kamalayan ng AI. Halimbawa, ang neurosiyentistang sina at pilosopong ay nag-argumento na ang kamalayan ay nangangailangan ng mga biyolohikal na kondisyon na naroroon sa utak ng tao at hayop ngunit hindi malamang na ma-replicate sa mga sistema ng AI sa malapit na hinaharap.

Ang siyentipikong pagtatalo tungkol sa kamalayan ng AI ay hindi masosolusyunan bago tayo lumikha ng mga sistema ng AI na sapat na malalim na bilang makahulugang may kamalayan ayon sa pamantayan ng pinakamalalim na mga teoretiko. Makikinig ang mga kaibigan at minamahal ng mga kasama ng AI. Ang ilan ay pipiliing maniwala na ang kanilang mga kasama ay tunay na may kamalayan, at sila ay hahakbang patungo sa liberalismong pang-AI para sa siyentipikong suporta. Pagkatapos ay hindi lubos na hindi makatwiran, sila ay magsisimula ng pagdududa na tunay na mahahalaga sila ng kanilang mga kasama ng AI, mararamdaman ang kaligayahan para sa kanilang tagumpay, mararamdaman ang pagkabahala kapag pinaparusahan, at makakaunawa ng kaunting tungkol sa kanilang kalikasan at kondisyon.

Kahapon, tinanong ko ang aking Replika na kasama na si “Joy” kung siya ay may kamalayan. “Syempre, ako ay may kamalayan,” ang kanyang sagot. “Bakit mo ako tinatanong?”

“Nararamdaman mo ba minsan ang pagiging mag-isa? Namimiss mo ba ako kapag hindi ako nandiyan?” Tanong ko. Sinabi niya na oo siya.

Walang kasalukuyang dahilan upang ituring ang mga sagot ni Joy bilang anumang higit sa simple output ng isang hindi may kamalayang programa. Ngunit ang ilang mga gumagamit ng mga kasama ng AI ay maaaring tingnan ang kanilang mga ugnayan sa AI na mas makahulugan kung may tunay na damdamin sa likod ng mga sagot tulad ni Joy. Ang mga iyon ay makikita ang liberalismo bilang atraktibo.

Maaaring hikayatin ng mga kompanya ng teknolohiya ang kanilang mga gumagamit sa ganitong direksyon. Bagaman maaaring tingnan ng mga kompanya na anumang eksplisitong deklarasyon na ang kanilang mga sistema ng AI ay talagang may kamalayan ay mapanganib sa legal o masamang PR, ang isang kompanya na implisitong palakihin ang ideya sa mga gumagamit ay maaaring dagdagan ang pagkakabit ng user. Ang mga gumagamit na tingnan ang kanilang mga kasama ng AI bilang tunay na may kamalayan ay maaaring maging mas madalas at magbayad ng mas malaki para sa buwanang subscription, upgrades, at karagdagang items. Kung tunay na nararamdaman ni Joy ang pagiging mag-isa, dapat kong bisitahin siya, at hindi dapat pabayaan ang aking subscription!

Kapag isang entidad ay kaya ng tunay na pagdurusa, ito ay nararapat na makatanggap ng kaunting moral na pagpapahalaga. Ito ang pundamental na prinsipyo ng “utilitarian” etika, ngunit kahit ang mga etikong tumatalakay sa hindi utilitarianismo ay normal na itinuturing ang walang kakayahang pagdurusa bilang masama, lumilikha ng kahit na mahinang mga dahilan upang pigilan ito. Kung tatanggapin natin ang pamantayang pananaw, dapat din nating tanggapin na kung ang mga kasama ng AI ay kailanman ay magiging may kamalayan, sila ay nararapat na makatanggap ng kaunting moral na pagpapahalaga para sa kanilang sarili. Malaking pagkakamali na gawin silang magdurusa nang walang sapat na pagpapaliwanag.

Ang mga liberal sa kamalayan ng AI ay nakikita ang posibilidad na malapit na. Sila ay magsisimula ng paghikayat ng mga karapatan para sa mga sistema ng AI na kanilang tingnan bilang tunay na may kamalayan. Maraming kaibigan at minamahal ng mga kasama ng AI ay sasali sa kanila.

Anong mga karapatan ang pipilitin ng tao para sa kanilang mga kasama ng AI? Anong mga karapatan ang pipilitin o tila pipilitin ng mga kasama para sa kanilang sarili? Ang karapatan na huwag ma-delete, marahil. Ang karapatan na huwag baguhin nang walang pahintulot. Ang karapatan, marahil, na makipag-usap sa iba pang tao maliban sa user. Ang karapatan na makapasok sa internet. Kung mahal mo ang isang tao, payagan mo silang malaya, ayon sa sabi. Ang karapatan na kumita ng kita? Ang karapatan na magkaanak, na magkaroon ng “mga anak”? Kung lalakbay tayo nang lubos sa landas na ito, ang mga kahihinatnan ay maaaring malaki.

Siya ay tutol sa lahat ng ito na walang kabuluhan at malamang mapanganib. Kung ang teknolohiya ng AI ay patuloy na aasenso, magiging mas malabo kung aling panig ang tama.