Pe baza cercetărilor Proiectului AI Futures.

Testul P(Doom)

Care este p(doom)-ul tău?

„Care este p(doom)-ul tău?” a început ca o prescurtare folosită informal de cercetătorii în domeniul AI pentru probabilitatea ca inteligența artificială avansată să ducă la o catastrofă pentru omenire și a devenit una dintre întrebările definitorii ale deceniului. Geoffrey Hinton își estimează probabilitatea la 10–20%. Cea a lui Eliezer Yudkowsky depășește 95%. Cea a lui Yann LeCun este aproximativ zero.

Acest test te plasează în cadrul acestei dezbateri și îți identifică arhetipul privind riscul AI: Doomer-ul, Constructorul prudent, Susținătorul pauzei, Șoimul cursei, Scepticul, Câinele de pază sau Fatalistul. Care dintre ele ești? Pentru a face testul, introdu răspunsul mai jos.

Întrebarea 1 din 28

O IA avansată ar putea învăța să-și înșele creatorii cu privire la ceea ce își dorește cu adevărat.

Înapoi Înainte

P(doom), probabilitatea unei catastrofe provocate de AI suficient de grave pentru a pune capăt poveștii omenirii, a început ca o notație informală pe forumurile raționaliste în jurul anului 2010 și a ieșit din laborator după apariția ChatGPT, devenind un subiect de conversație în Silicon Valley și un element permanent al discursului despre AI. Ceea ce frapează la această întrebare este cât de mult variază răspunsurile între oamenii care studiază problema cu normă întreagă. Iată estimările formulate de unele dintre cele mai cunoscute voci din această dezbatere:

• Roman Yampolskiy, cercetător în siguranța AI: 99.999999%.

• Eliezer Yudkowsky, fondatorul MIRI: peste 95%.

• Daniel Kokotajlo, autorul AI 2027: 70–80%.

• Dario Amodei, directorul general al Anthropic: 10–25%.

• Geoffrey Hinton, laureat al Premiului Nobel și unul dintre fondatorii domeniului AI: 10–20%.

• Yann LeCun, fost cercetător-șef în domeniul AI la Meta: sub 0,01%.

Dezacordul nu provine din lipsa unor fapte, ci din viziuni diferite asupra lumii. Aceste viziuni au nume: șapte tabere principale acoperă întregul spectru. Doomer-ii convinși consideră că o superinteligență cu obiective chiar și puțin diferite de ale noastre ar fi imposibil de controlat și că suntem pe cale să construim una înainte să știm cum să o dirijăm. Curentul dominant al siguranței AI, inclusiv aripa sa longtermistă, este de acord că riscul este real, dar mizează pe faptul că cercetarea, evaluarea și guvernanța pot schimba traiectoria. Teoreticienii cedării treptate a puterii nu se tem de o lovitură de stat a roboților, ci doar de cedarea treptată de către oameni a controlului economic și politic, printr-o delegare convenabilă după alta. Tabăra prejudiciilor actuale susține că discuțiile despre extincție distrag atenția de la daunele produse de AI chiar acum: prejudecăți, supraveghere și concentrarea puterii. Scepticii capabilităților cred că superinteligența artificială este mult mai departe decât susțin cei care fac previziuni. Techno-optimiștii se așteaptă la beneficii uriașe și la adaptarea oamenilor. Iar acceleraționiștii merg și mai departe: pentru ei, încetinirea este adevăratul pericol.

Acest test te plasează printre șapte arhetipuri desprinse din aceste tabere. Doomer-ul se așteaptă la o catastrofă și vrea să o oprească. Constructorul prudent ia riscul în serios și construiește totuși. Susținătorul pauzei cere oprirea până când siguranța este demonstrată. Șoimul cursei se teme mai mult să piardă întrecerea decât să participe la ea. Scepticul consideră că superinteligența este mult mai departe decât susțin cei care fac previziuni. Câinele de pază este preocupat de prejudiciile care se produc acum, nu de cele ipotetice. Iar Fatalistul se așteaptă la un deznodământ rău pe care nimeni nu îl va împiedica. Răspunsurile tale sunt punctate pentru toate cele șapte; scorul cel mai mare îți stabilește arhetipul.

Indicatorii de comparație cu populația afișați împreună cu rezultatele tale sunt estimări bazate pe sondaje publicate privind opiniile experților și ale publicului despre riscul AI, nu norme sau percentile validate la nivelul populației; sunt oferiți doar pentru context general.

Arhetipul tău este un portret al viziunii asupra lumii, nu un diagnostic sau o prognoză calibrată: un număr care sună precis poate transforma o impresie într-o măsurătoare, două persoane care spun „20%” pot înțelege lucruri complet diferite, iar majoritatea gânditorilor reali sunt combinații care trec de la o tabără la alta pe măsură ce se schimbă dovezile. Acest test este o evaluare originală inspirată de discursul public și de cercetările prin sondaj privind riscul AI; nu este afiliat cercetătorilor menționați mai sus și nici nu este susținut de aceștia și este oferit exclusiv în scop educațional și de divertisment. Un scor mare nu înseamnă paranoia, iar unul mic nu înseamnă nepăsare.

Referințe

Grace, K., Stewart, H., Sandkühler, J. F., Thomas, S., Weinstein-Raun, B., Brauner, J., & Korzekwa, R. C. (2024). Thousands of AI Authors on the Future of AI. arXiv.
Ord, T. (2020). The Precipice: Existential Risk and the Future of Humanity. Bloomsbury Publishing.
Kokotajlo, D., Alexander, S., Larsen, T., Lifland, E., & Dean, R. (2025). AI 2027. ai-2027.com.

Testul P(Doom)

De ce să alegi Acest Test?

1. Gratuit. Acest test P(Doom) îți este oferit gratuit și îți va permite să obții scorurile pentru cele patru convingeri care modelează modul în care oamenii se gândesc la riscul AI, împreună cu scorul tău general P(Doom).

2. Ancorat în dezbaterea reală. Dimensiunile testului sunt desprinse din liniile reale de fractură ale discursului despre riscul AI, din întrebările asupra cărora cercetătorii de frunte, cei care fac previziuni și scepticii nu sunt cu adevărat de acord.

3. Include comparații. Scorurile tale sunt reprezentate grafic în raport cu indicatori de referință ai populației, astfel încât să poți vedea dacă perspectiva ta asupra AI este mai îngrijorată sau mai relaxată decât a majorității oamenilor.