Pagsusulit na P(Doom)

Ang P(doom), ang posibilidad ng isang kapahamakang dulot ng AI na sapat ang tindi upang wakasan ang kuwento ng sangkatauhan, ay nagsimula bilang impormal na notasyon sa mga porum ng mga rasyonalista noong humigit-kumulang 2010 at nakawala sa laboratoryo matapos ang ChatGPT, hanggang sa naging panimulang usapan sa Silicon Valley at palagiang paksa sa diskurso tungkol sa AI. Kapansin-pansin sa tanong na ito kung gaano kalaki ang pagkakaiba ng mga sagot ng mga taong buong-panahong nag-aaral sa problema. Isaalang-alang ang mga pagtatantiyang inilahad ng ilan sa pinakakilalang tinig sa diskursong ito:

• Roman Yampolskiy, mananaliksik sa kaligtasan ng AI: 99.999999%.

• Eliezer Yudkowsky, tagapagtatag ng MIRI: higit sa 95%.

• Daniel Kokotajlo, may-akda ng AI 2027: 70-80%.

• Dario Amodei, punong ehekutibo ng Anthropic: 10-25%.

• Geoffrey Hinton, nagwagi ng Nobel at ninong ng AI: 10-20%.

• Yann LeCun, dating punong siyentipiko sa AI ng Meta: mas mababa sa 0.01%.

Ang hindi pagkakasundo ay hindi tungkol sa nawawalang mga katotohanan; tungkol ito sa magkakaibang saligang pananaw sa mundo. May mga pangalan ang mga pananaw na iyon: pitong pangunahing pangkat ang bumubuo sa buong saklaw. Naniniwala ang mga lubos na Tagapaghula ng Kapahamakan na ang isang superintelihensiyang may mga layuning bahagyang naiiba sa atin ay hindi makokontrol, at na nakatakda tayong bumuo ng isa bago natin malaman kung paano ito itutungo. Sumasang-ayon ang pangunahing kilusan para sa kaligtasan ng AI, kabilang ang pangkat nitong nakatuon sa pangmatagalang hinaharap, na tunay ang panganib ngunit umaasa na kayang baguhin ng pananaliksik, pagsusuri, at pamamahala ang takbo. Nangangamba ang mga teorista ng unti-unting pagkawala ng kapangyarihan na walang pag-aalsa ng mga robot, kundi unti-unting isinusuko ng mga tao ang kontrol sa ekonomiya at politika sa bawat maginhawang pagsasagawa ng delegasyon. Ipinaglalaban ng pangkat na nakatuon sa mga pinsala sa kasalukuyan na inililihis ng usapan tungkol sa pagkalipol ang pansin mula sa pinsalang ginagawa ng AI ngayon, gaya ng pagkiling, pagmamatyag, at pagsasentro ng kapangyarihan. Iniisip ng mga Mapag-alinlangan sa kakayahan na mas malayo pa ang superintelihensiya ng makina kaysa sa sinasabi ng mga tagapagtaya. Inaasahan ng mga teknolohikal na optimista ang napakalaking pakinabang at pag-angkop ng tao. At higit pa ang hakbang ng mga tagapagtaguyod ng mabilis na pagpapaunlad: para sa kanila, ang tunay na panganib ay ang pagbagal.

Inilulugar ka ng pagsusulit na ito sa pitong hulwarang hinango sa mga pangkat na iyon. Inaasahan ng Tagapaghula ng Kapahamakan ang kapahamakan at nais itong pigilan. Sineseryoso ng Maingat na Tagapagtayo ang panganib ngunit nagpapatuloy pa rin sa pagbuo. Hinihingi ng Tagapagpahinto ang paghinto hanggang mapatunayang ligtas ito. Mas kinatatakutan ng Lawin ng Karera ang pagkatalo sa karera kaysa sa pagtakbo rito. Iniisip ng Mapag-alinlangan na mas malayo pa ang superintelihensiya kaysa sa sinasabi ng mga tagapagtaya. Pinahahalagahan ng Tagapagbantay ang mga pinsalang nagaganap ngayon, hindi ang mga mapagpalagay lamang. At inaasahan ng Fatalista ang masamang wakas na walang makapipigil. Bibigyan ka ng puntos ng iyong mga sagot sa lahat ng pito; ang pinakamalakas ang magiging iyong hulwaran.

Ang mga panandang paghahambing sa populasyon na ipinakikita kasama ng iyong mga resulta ay mga pagtatantiyang batay sa nailathalang sarbey tungkol sa pananaw ng mga eksperto at publiko sa panganib ng AI, hindi mga napatunayang pamantayan o persentil ng populasyon; ibinibigay lamang ang mga ito para sa pangkalahatang konteksto.

Ang iyong hulwaran ay larawan ng pananaw sa mundo, hindi diyagnosis o tumpak na pagtataya: maaaring bihisan ng isang numerong tila tiyak ang isang pakiramdam upang magmukhang sukat, maaaring magkaiba nang malaki ang ibig sabihin ng dalawang taong parehong nagsasabing “20%,” at karamihan sa mga tunay na palaisip ay mga kombinasyong lumilipat sa pagitan ng mga pangkat habang nagbabago ang katibayan. Ang pagsusulit na ito ay orihinal na pagtatasa na hinango sa pampublikong diskurso at pananaliksik sa sarbey tungkol sa panganib ng AI; hindi ito kaugnay o inendorso ng alinman sa mga mananaliksik na binanggit sa itaas, at ibinibigay lamang ito para sa mga layuning pang-edukasyon at libangan. Ang mataas na puntos ay hindi paranoya at ang mababang puntos ay hindi pagpapabaya.

Mga Sanggunian

• Grace, K., Stewart, H., Sandkühler, J. F., Thomas, S., Weinstein-Raun, B., Brauner, J., & Korzekwa, R. C. (2024). Thousands of AI Authors on the Future of AI. arXiv.
• Ord, T. (2020). The Precipice: Existential Risk and the Future of Humanity. Bloomsbury Publishing.
• Kokotajlo, D., Alexander, S., Larsen, T., Lifland, E., & Dean, R. (2025). AI 2027. ai-2027.com.