Teste P(Doom)

P(doom), a probabilidade de uma catástrofe provocada pela IA suficientemente grave para pôr fim à história da humanidade, começou por ser uma notação informal em fóruns racionalistas por volta de 2010 e saiu do laboratório depois do ChatGPT, tornando-se uma forma de quebrar o gelo no Vale do Silício e uma presença habitual no discurso sobre IA. O mais impressionante nesta questão é a enorme variação das respostas entre as pessoas que estudam o problema a tempo inteiro. Considere as estimativas apresentadas por algumas das vozes mais conhecidas deste debate:

• Roman Yampolskiy, investigador de segurança da IA: 99.999999%.

• Eliezer Yudkowsky, fundador do MIRI: superior a 95%.

• Daniel Kokotajlo, autor de AI 2027: 70–80%.

• Dario Amodei, diretor executivo da Anthropic: 10–25%.

• Geoffrey Hinton, laureado com o Nobel e padrinho da IA: 10–20%.

• Yann LeCun, antigo cientista-chefe de IA da Meta: inferior a 0,01%.

A divergência não diz respeito a factos em falta; diz respeito a diferentes visões fundamentais do mundo. Essas visões têm nomes: sete grupos principais cobrem todo o espetro. Os Doomers radicais defendem que uma superinteligência com objetivos mesmo ligeiramente diferentes dos nossos seria incontrolável e que estamos no caminho de construir uma antes de sabermos orientá-la. A corrente dominante da segurança da IA, incluindo a sua vertente longotermista, concorda que o risco é real, mas aposta que a investigação, a avaliação e a governação podem alterar a trajetória. Os teóricos da perda gradual de poder não receiam um golpe de robôs, mas sim que os seres humanos cedam o controlo económico e político através de uma delegação conveniente de cada vez. O grupo dos danos atuais defende que o discurso sobre a extinção distrai dos danos que a IA causa neste momento: preconceito, vigilância e concentração de poder. Os Céticos das capacidades consideram que a superinteligência artificial está muito mais distante do que afirmam os especialistas em previsões. Os tecno-otimistas esperam benefícios enormes e adaptação humana. E os aceleracionistas vão ainda mais longe: para eles, o verdadeiro perigo é abrandar.

Este teste situa-o entre sete arquétipos retirados desses grupos. O Doomer espera uma catástrofe e quer travá-la. O Construtor Cauteloso leva o risco a sério e constrói na mesma. O Pausador exige uma interrupção até que a segurança esteja comprovada. O Falcão da Corrida teme mais perder a corrida do que participar nela. O Cético considera que a superinteligência está muito mais distante do que afirmam os especialistas em previsões. O Cão de Guarda preocupa-se com os danos que estão a acontecer agora, não com os hipotéticos. E o Fatalista espera um final negativo que ninguém impedirá. As suas respostas são avaliadas nos sete e o resultado mais elevado torna-se o seu arquétipo.

Os indicadores de comparação com a população apresentados nos seus resultados são estimativas baseadas em inquéritos publicados sobre as opiniões de especialistas e do público quanto ao risco da IA, não normas populacionais nem percentis validados; são fornecidos apenas para contexto geral.

O seu arquétipo é um retrato da sua visão do mundo, não um diagnóstico nem uma previsão calibrada: um número com aparência de precisão pode fazer passar um sentimento por uma medição, duas pessoas que dizem «20%» podem querer dizer coisas completamente diferentes e a maioria dos pensadores reais são combinações que transitam entre grupos à medida que as provas mudam. Este teste é uma avaliação original inspirada no discurso público e na investigação através de inquéritos sobre o risco da IA; não tem qualquer afiliação com os investigadores acima mencionados nem o apoio deles e é disponibilizado apenas para fins educativos e de entretenimento. Uma pontuação elevada não é paranoia e uma pontuação baixa não é complacência.

Referências

• Grace, K., Stewart, H., Sandkühler, J. F., Thomas, S., Weinstein-Raun, B., Brauner, J., & Korzekwa, R. C. (2024). Thousands of AI Authors on the Future of AI. arXiv.
• Ord, T. (2020). The Precipice: Existential Risk and the Future of Humanity. Bloomsbury Publishing.
• Kokotajlo, D., Alexander, S., Larsen, T., Lifland, E., & Dean, R. (2025). AI 2027. ai-2027.com.