P（末日概率）测试

末日概率，即由人工智能驱动、严重到足以终结人类故事的灾难发生概率，最初约于2010年以非正式记号出现在理性主义论坛上；在聊天生成预训练变换模型问世后，它走出了实验室，成为硅谷破冰时常用的话题，也成了人工智能讨论中的固定内容。这个问题引人注目的地方在于：即使是全职研究这一问题的人，答案也存在极大的差异。以下是一些讨论中最知名的声音所提出的估计：

• 罗曼·扬波尔斯基，人工智能安全研究员：99.999999%。

• 埃利泽·尤德科夫斯基，机器智能研究所创始人：超过95%。

• 丹尼尔·科科泰洛，人工智能2027作者：70—80%。

• 达里奥·阿莫代伊，人工智能公司首席执行官：10—25%。

• 杰弗里·辛顿，诺贝尔奖得主、人工智能教父：10—20%。

• 扬·勒昆，前元公司首席人工智能科学家：低于0.01%。

分歧并不是因为缺少事实，而是因为底层世界观不同。这些世界观有各自的名称：七个主要阵营横跨整个光谱。彻底的末日论者认为，目标哪怕只与我们的目标略有不同的超级智能也将无法控制，而且我们正走在一条道路上：在知道如何引导它之前，就会把它建造出来。人工智能安全领域的主流，包括其中的长期主义派，承认风险真实存在，但相信研究、评估和治理能够改变发展曲线。渐进式失权理论家并不担心机器人政变，他们担心的是人类每次进行一次看似方便的委托，就让渡一点经济和政治控制权。关注当下伤害的阵营认为，灭绝论转移了人们对人工智能当前造成的偏见、监控和权力集中等伤害的注意力。能力怀疑论者认为，机器超级智能距离实现的时间比预测者所声称的要远得多。技术乐观主义者期待巨大的益处和人类的适应。而加速主义者更进一步：对他们而言，放慢脚步才是真正的危险。

本测试根据这些阵营确定的七种原型，为你定位。末日论者预期灾难，并希望阻止它。谨慎建设者认真看待风险，却仍然继续建造。暂停派要求在安全得到证明之前停止开发。竞赛鹰派比起参与竞赛，更害怕输掉竞赛。怀疑论者认为，超级智能距离实现的时间比预测者所声称的要远得多。监督者关心正在发生的当下伤害，而不是假设性的伤害。而宿命论者预期一个无人能够阻止的糟糕结局。你的回答会在七个维度上为你评分；得分最高的将成为你的原型。

结果中显示的人群比较标记，是参考已发表的人工智能风险专家和公众意见调查得出的估计，并非经过验证的人群常模或百分位数；它们仅用于提供一般性背景。

你的原型是一幅世界观画像，而不是诊断或经过校准的预测：听起来精确的数字可以把一种感受伪装成测量结果，两个都说“20%”的人可能表达着完全不同的意思，而大多数真正思考这些问题的人都是混合型，会随着证据变化在不同阵营之间转移。本测试是受有关人工智能风险的公共讨论和调查研究启发而原创的评估；它与上文提到的任何研究人员都没有关联，也未得到他们的认可，仅用于教育和娱乐。高分不等于偏执，低分也不等于自满。

参考

• Grace, K., Stewart, H., Sandkühler, J. F., Thomas, S., Weinstein-Raun, B., Brauner, J., & Korzekwa, R. C. (2024). Thousands of AI Authors on the Future of AI. arXiv.
• Ord, T. (2020). The Precipice: Existential Risk and the Future of Humanity. Bloomsbury Publishing.
• Kokotajlo, D., Alexander, S., Larsen, T., Lifland, E., & Dean, R. (2025). AI 2027. ai-2027.com.