Тест P(Doom)

Вероятность катастрофы — вероятность катастрофы, вызванной ИИ, настолько серьёзной, что она положит конец истории человечества, — начиналась как неформальная запись на рационалистических форумах примерно в 2010 году, а после появления ChatGPT вышла за пределы лабораторий, превратившись в способ завязать разговор в Кремниевой долине и неотъемлемую часть дискуссий об ИИ. Поразительно, насколько сильно различаются ответы людей, которые занимаются этой проблемой полный рабочий день. Рассмотрим оценки, предложенные некоторыми наиболее известными участниками этой дискуссии:

• Роман Ямпольский, исследователь безопасности ИИ: 99.999999%.

• Элиезер Юдковский, основатель MIRI: более 95%.

• Дэниел Кокотайло, автор «ИИ 2027»: 70–80%.

• Дарио Амодеи, генеральный директор Anthropic: 10–25%.

• Джеффри Хинтон, лауреат Нобелевской премии и крёстный отец ИИ: 10–20%.

• Янн ЛеКун, бывший главный научный сотрудник Meta по ИИ: менее 0.01%.

Разногласия связаны не с отсутствующими фактами, а с различиями в фундаментальных представлениях о мире. У этих представлений есть названия: весь спектр охватывают семь основных лагерей. Радикальные думеры считают, что сверхразум с целями, даже немного отличающимися от наших, будет неуправляемым и что мы движемся к его созданию, ещё не зная, как направить его в нужную сторону. Основное направление исследований безопасности ИИ, включая его долгосрочно-ориентированное крыло, соглашается, что риск реален, но рассчитывает, что исследования, оценки и регулирование смогут изменить траекторию. Сторонники теории постепенного лишения влияния опасаются не восстания роботов, а того, что люди будут шаг за шагом передавать экономический и политический контроль, всякий раз находя удобное оправдание. Лагерь, сосредоточенный на текущем вреде, утверждает, что разговоры об исчезновении человечества отвлекают от ущерба, который ИИ причиняет прямо сейчас: предвзятости, слежки и концентрации власти. Скептики возможностей считают, что машинный сверхразум гораздо дальше, чем утверждают прогнозисты. Технооптимисты ожидают огромной пользы и адаптации человечества. А сторонники ускорения идут ещё дальше: для них настоящая опасность — замедление.

Этот тест определяет, к какому из семи архетипов, основанных на этих лагерях, вы ближе. Думер ожидает катастрофы и хочет её остановить. Осторожный строитель всерьёз относится к риску, но всё равно продолжает разработку. Сторонник паузы требует остановки, пока безопасность не будет доказана. Ястреб гонки больше боится проиграть гонку, чем участвовать в ней. Скептик считает, что до сверхразума гораздо дальше, чем утверждают прогнозисты. Сторожевой пёс заботится о вреде, который происходит сейчас, а не о гипотетическом. А Фаталист ожидает плохого конца, которому никто не помешает наступить. Ваши ответы оцениваются по всем семи направлениям; наиболее выраженное становится вашим архетипом.

Показатели сравнения с населением, приведённые в ваших результатах, представляют собой оценки, основанные на опубликованных опросах экспертов и широкой общественности об опасности ИИ, а не подтверждённые популяционные нормы или процентили; они приведены только для общего контекста.

Ваш архетип — это портрет мировоззрения, а не диагноз и не откалиброванный прогноз: число, звучащее точно, может выдать ощущение за измерение, два человека, говорящие «20%», могут иметь в виду совершенно разные вещи, а большинство реально мыслящих людей представляют собой сочетание позиций и переходят из одного лагеря в другой по мере изменения доказательств. Этот тест — оригинальная методика, вдохновлённая публичной дискуссией и исследованиями общественного мнения о рисках ИИ; он не связан с упомянутыми выше исследователями и не одобрен ими, а предоставляется исключительно в образовательных и развлекательных целях. Высокий результат не означает паранойю, а низкий — беспечность.

Ссылки

• Grace, K., Stewart, H., Sandkühler, J. F., Thomas, S., Weinstein-Raun, B., Brauner, J., & Korzekwa, R. C. (2024). Thousands of AI Authors on the Future of AI. arXiv.
• Ord, T. (2020). The Precipice: Existential Risk and the Future of Humanity. Bloomsbury Publishing.
• Kokotajlo, D., Alexander, S., Larsen, T., Lifland, E., & Dean, R. (2025). AI 2027. ai-2027.com.