Тест P(Doom)

Ймовірність катастрофи, спричиненої ШІ, настільки тяжкої, що вона покладе край історії людства, почалася як неформальний запис на раціоналістичних форумах приблизно у 2010 році, а після появи ChatGPT вийшла за межі лабораторій, ставши темою для світської розмови в Кремнієвій долині та невід’ємною частиною дискурсу про ШІ. Вражає те, наскільки сильно різняться відповіді людей, які професійно досліджують цю проблему. Ось оцінки, запропоновані деякими з найвідоміших учасників цих дискусій:

• Роман Ямпольський, дослідник безпеки ШІ: 99.999999%.

• Еліезер Юдковський, засновник MIRI: вище 95%.

• Даніель Кокотайло, автор «ШІ 2027»: 70-80%.

• Даріо Амодеї, генеральний директор Anthropic: 10-25%.

• Джеффрі Гінтон, лауреат Нобелівської премії та хрещений батько ШІ: 10-20%.

• Янн ЛеКун, колишній головний науковець Meta з питань ШІ: менше 0.01%.

Розбіжності стосуються не браку фактів, а різних базових світоглядів. Ці світогляди мають назви: спектр охоплюють сім основних таборів. Радикальні Думери вважають, що надінтелект із цілями, навіть трохи відмінними від наших, буде некерованим, і що ми рухаємося до його створення, ще не знаючи, як ним керувати. Основна течія у сфері безпеки ШІ, включно з її довгостроковим крилом, погоджується, що ризик реальний, але розраховує, що дослідження, оцінювання та врядування зможуть змінити траєкторію. Теоретики поступової втрати впливу бояться не повстання роботів, а лише того, що люди крок за кроком передаватимуть економічний і політичний контроль, делегуючи повноваження заради зручності. Табір шкоди сьогодення стверджує, що розмови про вимирання відволікають від шкоди, якої ШІ завдає просто зараз: упередженості, стеження та зосередження влади. Скептики можливостей вважають, що машинний надінтелект набагато далі, ніж стверджують прогнозисти. Технооптимісти очікують величезної користі та адаптації людства. Акселераціоністи йдуть іще далі: на їхню думку, справжня небезпека — це уповільнення.

Цей тест визначає ваше місце серед семи архетипів, сформованих цими таборами. Думер очікує катастрофи й хоче її зупинити. Обережний Будівничий серйозно ставиться до ризику, але все одно будує. Вичікувач вимагає зупинки, доки безпеку не буде доведено. Яструб технологічної гонки більше боїться програти гонку, ніж брати в ній участь. Скептик вважає, що надінтелект набагато далі, ніж стверджують прогнозисти. Наглядач переймається шкодою, що відбувається зараз, а не гіпотетичною. А Фаталіст очікує поганого кінця, якому ніхто не запобіжить. Ваші відповіді оцінюються за всіма сімома напрямами; найсильніший із них стає вашим архетипом.

Показані разом із вашими результатами маркери порівняння з населенням є оцінками, заснованими на опублікованих опитуваннях експертної та громадської думки щодо ризиків ШІ, а не валідованими популяційними нормами чи процентилями; їх наведено лише для загального контексту.

Ваш архетип — це портрет світогляду, а не діагноз і не калібрований прогноз: число, що звучить точно, може видати відчуття за вимірювання, двоє людей, які кажуть «20%», можуть мати на увазі цілком різні речі, а більшість справжніх мислителів є поєднанням кількох таборів і переходять між ними в міру зміни доказів. Цей тест є оригінальним оцінюванням, натхненним публічними дискусіями та дослідженнями ризиків ШІ; він не пов’язаний із жодним із названих вище дослідників і не схвалений ними, а його надано лише з освітньою та розважальною метою. Високий результат не означає параної, а низький — безтурботності.

Посилання

• Grace, K., Stewart, H., Sandkühler, J. F., Thomas, S., Weinstein-Raun, B., Brauner, J., & Korzekwa, R. C. (2024). Thousands of AI Authors on the Future of AI. arXiv.
• Ord, T. (2020). The Precipice: Existential Risk and the Future of Humanity. Bloomsbury Publishing.
• Kokotajlo, D., Alexander, S., Larsen, T., Lifland, E., & Dean, R. (2025). AI 2027. ai-2027.com.