Test P(Doom)

P(doom), la probabilità che una catastrofe causata dall'IA sia abbastanza grave da porre fine alla storia dell'umanità, è nato come notazione informale nei forum razionalisti intorno al 2010 ed è uscito dai laboratori dopo ChatGPT, diventando un argomento per rompere il ghiaccio nella Silicon Valley e un elemento ricorrente del dibattito sull'IA. L'aspetto sorprendente di questa domanda è quanto varino le risposte tra le persone che studiano il problema a tempo pieno. Considera le stime avanzate da alcune delle voci più note del dibattito:

• Roman Yampolskiy, ricercatore sulla sicurezza dell'IA: 99.999999%.

• Eliezer Yudkowsky, fondatore di MIRI: superiore al 95%.

• Daniel Kokotajlo, autore di AI 2027: 70-80%.

• Dario Amodei, amministratore delegato di Anthropic: 10-25%.

• Geoffrey Hinton, premio Nobel e padrino dell'IA: 10-20%.

• Yann LeCun, ex direttore scientifico dell'IA di Meta: inferiore allo 0.01%.

Il disaccordo non riguarda fatti mancanti, ma diverse visioni del mondo sottostanti. Queste visioni hanno dei nomi: sette schieramenti principali coprono l'intero spettro. I Doomer radicali sostengono che una superintelligenza con obiettivi anche solo leggermente diversi dai nostri sarebbe incontrollabile e che siamo sulla strada per costruirne una prima di sapere come orientarla. La corrente principale della sicurezza dell'IA, compresa la sua componente orientata al lungo termine, concorda sul fatto che il rischio sia reale, ma scommette che ricerca, valutazione e governance possano modificare l'andamento. I teorici della perdita graduale di potere temono non un colpo di Stato dei robot, ma che gli esseri umani cedano il controllo economico e politico una delega conveniente alla volta. Lo schieramento dei danni presenti sostiene che parlare di estinzione distragga dai danni che l'IA sta causando proprio ora: pregiudizi, sorveglianza e concentrazione del potere. Gli scettici sulle capacità pensano che la superintelligenza artificiale sia molto più lontana di quanto affermino i previsori. I tecno-ottimisti si aspettano enormi benefici e l'adattamento umano. E gli accelerazionisti si spingono oltre: per loro, il vero pericolo è rallentare.

Questo test ti colloca tra sette archetipi tratti da quegli schieramenti. Il Doomer si aspetta una catastrofe e vuole fermarla. Il Costruttore Prudente prende sul serio il rischio e costruisce comunque. Il Frenatore pretende un arresto finché la sicurezza non sarà dimostrata. Il Falco della Corsa teme più di perdere la corsa che di correrla. Lo Scettico pensa che la superintelligenza sia molto più lontana di quanto affermino i previsori. Il Cane da Guardia si preoccupa dei danni che stanno accadendo ora, non di quelli ipotetici. E il Fatalista si aspetta un brutto finale che nessuno impedirà. Le tue risposte producono un punteggio per tutti e sette; quello più alto determina il tuo archetipo.

Gli indicatori di confronto con la popolazione mostrati insieme ai tuoi risultati sono stime basate su sondaggi pubblicati sull'opinione degli esperti e del pubblico riguardo al rischio legato all'IA, non norme o percentili di popolazione validati; vengono forniti solo a titolo di contesto generale.

Il tuo archetipo è un ritratto della tua visione del mondo, non una diagnosi né una previsione calibrata: un numero dall'aria precisa può far passare un sentimento per una misurazione, due persone che dicono «20%» possono intendere cose completamente diverse e la maggior parte dei pensatori reali è una combinazione di posizioni, spostandosi tra gli schieramenti al cambiare delle prove. Questo test è una valutazione originale ispirata al dibattito pubblico e alla ricerca tramite sondaggi sul rischio legato all'IA; non è affiliato a nessuno dei ricercatori citati sopra né da loro approvato, ed è fornito esclusivamente a scopo educativo e di intrattenimento. Un punteggio alto non indica paranoia e uno basso non indica indifferenza.

Riferimenti

• Grace, K., Stewart, H., Sandkühler, J. F., Thomas, S., Weinstein-Raun, B., Brauner, J., & Korzekwa, R. C. (2024). Thousands of AI Authors on the Future of AI. arXiv.
• Ord, T. (2020). The Precipice: Existential Risk and the Future of Humanity. Bloomsbury Publishing.
• Kokotajlo, D., Alexander, S., Larsen, T., Lifland, E., & Dean, R. (2025). AI 2027. ai-2027.com.