P(Doom) 테스트

인류의 이야기를 끝낼 만큼 심각한 인공지능발 파국의 확률을 뜻하는 파국 확률은 2010년 무렵 합리주의 포럼에서 비공식 표기로 시작되었고, 챗지피티 이후 연구실 밖으로 퍼져 실리콘밸리에서 대화를 여는 화제가 되었으며 인공지능 담론의 고정 요소가 되었습니다. 이 질문에서 놀라운 점은 이 문제를 전업으로 연구하는 사람들 사이에서도 답변이 극도로 다르다는 것입니다. 담론에서 가장 잘 알려진 인물들이 제시한 추정치를 살펴보세요:

• 로만 얌폴스키, 인공지능 안전 연구자: 99.999999%.

• 엘리에저 유드코프스키, 엠아이알아이 설립자: 95% 초과.

• 대니얼 코코타일로, 인공지능 2027 저자: 70-80%.

• 다리오 아모데이, 앤트로픽 최고경영자: 10-25%.

• 제프리 힌턴, 노벨상 수상자이자 인공지능의 대부: 10-20%.

• 얀 르쿤, 전 메타 최고 인공지능 과학자: 0.01% 미만.

의견이 갈리는 이유는 사실이 부족해서가 아니라 근본적으로 서로 다른 세계관을 갖고 있기 때문입니다. 이러한 세계관에는 이름이 있으며, 일곱 개의 주요 진영이 스펙트럼을 이룹니다. 강경 둠어는 우리와 목표가 조금이라도 다른 초지능은 통제할 수 없고, 우리가 그것을 어떤 방향으로 이끌지 알기도 전에 그것을 만들게 될 경로에 들어섰다고 봅니다. 장기주의 성향을 포함한 인공지능 안전 주류는 위험이 실제로 존재한다는 데 동의하지만, 연구와 평가, 거버넌스를 통해 그 추세를 바꿀 수 있다고 봅니다. 점진적 권한 박탈 이론가들은 로봇의 쿠데타를 두려워하는 것이 아니라, 인간이 편리한 위임을 한 번씩 거듭하며 경제적·정치적 통제력을 넘겨주는 것을 두려워합니다. 현재 피해 진영은 멸종 이야기가 인공지능이 지금 일으키는 편향, 감시, 권력 집중 등의 피해에서 주의를 돌린다고 주장합니다. 능력 회의론자는 기계 초지능이 예측가들의 주장보다 훨씬 더 먼 미래에 있다고 생각합니다. 기술 낙관론자는 막대한 혜택과 인간의 적응을 기대합니다. 그리고 가속주의자는 한 걸음 더 나아갑니다. 그들에게 속도를 늦추는 것이 진짜 위험입니다.

이 테스트는 이러한 진영에서 비롯된 일곱 가지 원형 가운데 당신이 어디에 해당하는지 보여줍니다. 둠어는 파국을 예상하고 그것을 막고 싶어 합니다. 신중한 구축자는 위험을 진지하게 받아들이면서도 계속 구축합니다. 중단론자는 안전성이 입증될 때까지 중단할 것을 요구합니다. 경쟁 매파는 경쟁에 뛰어드는 것보다 경쟁에서 지는 것을 더 두려워합니다. 회의론자는 초지능이 예측가들의 주장보다 훨씬 더 먼 미래에 있다고 생각합니다. 감시자는 가상의 피해가 아니라 지금 발생하는 피해를 중시합니다. 그리고 운명론자는 누구도 막지 못할 나쁜 결말을 예상합니다. 당신의 답변은 일곱 원형 모두에 대한 점수로 환산되며, 가장 높은 점수를 받은 원형이 당신의 원형이 됩니다.

당신의 결과와 함께 표시되는 인구 비교 지표는 인공지능 위험에 관한 공개된 전문가 및 대중 의견 설문조사를 바탕으로 한 추정치이며, 검증된 인구 규준이나 백분위가 아닙니다. 일반적인 맥락을 제공하기 위한 용도로만 제시됩니다.

당신의 원형은 세계관을 보여주는 초상이지, 진단이나 보정된 예측이 아닙니다. 정밀해 보이는 숫자가 느낌을 측정값처럼 꾸밀 수 있고, “20%”라고 말하는 두 사람이 전혀 다른 의미를 담고 있을 수 있으며, 실제 사상가 대부분은 증거가 바뀜에 따라 진영 사이를 오가는 혼합형입니다. 이 테스트는 인공지능 위험에 관한 공개 담론과 설문 연구에서 영감을 얻은 독창적인 평가이며, 위에 언급된 연구자들과 제휴하거나 그들의 지지를 받은 것이 아닙니다. 또한 교육과 오락을 위한 목적으로만 제공됩니다. 높은 점수가 편집증을 뜻하는 것도 아니고, 낮은 점수가 안일함을 뜻하는 것도 아닙니다.

참고 자료

• Grace, K., Stewart, H., Sandkühler, J. F., Thomas, S., Weinstein-Raun, B., Brauner, J., & Korzekwa, R. C. (2024). Thousands of AI Authors on the Future of AI. arXiv.
• Ord, T. (2020). The Precipice: Existential Risk and the Future of Humanity. Bloomsbury Publishing.
• Kokotajlo, D., Alexander, S., Larsen, T., Lifland, E., & Dean, R. (2025). AI 2027. ai-2027.com.