Test P(Doom)

P(doom), czyli prawdopodobieństwo katastrofy spowodowanej przez sztuczną inteligencję, na tyle poważnej, że zakończyłaby historię ludzkości, zaczęło jako nieformalny zapis na forach racjonalistycznych około 2010 roku, a po pojawieniu się ChatGPT wyszło poza laboratoria, stając się sposobem na przełamanie lodów w Dolinie Krzemowej i stałym elementem dyskursu o sztucznej inteligencji. Uderzające jest to, jak bardzo różnią się odpowiedzi osób, które zawodowo zajmują się tym problemem. Oto szacunki przedstawione przez niektóre z najbardziej znanych osób uczestniczących w tej debacie:

• Roman Yampolskiy, badacz bezpieczeństwa sztucznej inteligencji: 99.999999%.

• Eliezer Yudkowsky, założyciel MIRI: ponad 95%.

• Daniel Kokotajlo, autor AI 2027: 70–80%.

• Dario Amodei, dyrektor generalny Anthropic: 10–25%.

• Geoffrey Hinton, laureat Nagrody Nobla i ojciec chrzestny sztucznej inteligencji: 10–20%.

• Yann LeCun, były główny naukowiec Meta ds. sztucznej inteligencji: mniej niż 0,01%.

Nie chodzi o brakujące fakty, lecz o różne podstawowe światopoglądy. Te światopoglądy mają swoje nazwy: siedem głównych obozów obejmuje całe spektrum. Radykalni Doomerzy uważają, że superinteligencja o celach choćby nieznacznie różniących się od naszych byłaby niemożliwa do kontrolowania oraz że zmierzamy do zbudowania jej, zanim dowiemy się, jak nadać jej właściwy kierunek. Główny nurt badań nad bezpieczeństwem sztucznej inteligencji, w tym jego odłam longtermistyczny, zgadza się, że ryzyko jest realne, ale zakłada, że badania, ewaluacja i zarządzanie mogą zmienić bieg wydarzeń. Teoretycy stopniowego pozbawiania sprawczości nie obawiają się buntu robotów, lecz tego, że ludzie będą oddawać kontrolę ekonomiczną i polityczną po jednej wygodnej delegacji zadań. Obóz skupiony na obecnych szkodach twierdzi, że rozmowa o zagładzie odwraca uwagę od szkód wyrządzanych przez sztuczną inteligencję już teraz: stronniczości, inwigilacji i koncentracji władzy. Sceptycy możliwości uważają, że maszynowa superinteligencja jest znacznie bardziej odległa, niż twierdzą prognostycy. Technologiczni optymiści spodziewają się ogromnych korzyści i przystosowania się ludzi. Akceleracjoniści idą o krok dalej: ich zdaniem prawdziwym zagrożeniem jest spowalnianie prac.

Ten test umieszcza Cię wśród siedmiu archetypów wywodzących się z tych obozów. Doomer spodziewa się katastrofy i chce ją zatrzymać. Ostrożny Konstruktor poważnie traktuje ryzyko, ale mimo to buduje. Wstrzymujący się żąda zatrzymania prac do czasu udowodnienia bezpieczeństwa. Jastrząb Wyścigu bardziej obawia się przegrania wyścigu niż samego udziału w nim. Sceptyk uważa, że superinteligencja jest znacznie bardziej odległa, niż twierdzą prognostycy. Strażnik troszczy się o szkody, które dzieją się teraz, a nie o hipotetyczne zagrożenia. Fatalista spodziewa się złego zakończenia, któremu nikt nie zapobiegnie. Twoje odpowiedzi są punktowane we wszystkich siedmiu kategoriach; najsilniejsza z nich staje się Twoim archetypem.

Wskaźniki porównawcze populacji przedstawione wraz z Twoimi wynikami są szacunkami opartymi na opublikowanych badaniach opinii ekspertów i społeczeństwa na temat ryzyka związanego ze sztuczną inteligencją, a nie zweryfikowanymi normami populacyjnymi ani percentylami; służą wyłącznie jako ogólny punkt odniesienia.

Twój archetyp to portret światopoglądu, a nie diagnoza ani skalibrowana prognoza: precyzyjnie brzmiąca liczba może nadać odczuciu pozory pomiaru, dwie osoby mówiące „20%” mogą mieć na myśli zupełnie różne rzeczy, a większość rzeczywistych myślicieli łączy różne stanowiska i przechodzi między obozami wraz ze zmianą dowodów. Ten test jest autorskim narzędziem inspirowanym publiczną debatą i badaniami ankietowymi nad ryzykiem związanym ze sztuczną inteligencją; nie jest powiązany z żadnym z wymienionych wyżej badaczy ani przez nich zatwierdzony i służy wyłącznie celom edukacyjnym i rozrywkowym. Wysoki wynik nie oznacza paranoi, a niski — beztroski.

Odniesienia

• Grace, K., Stewart, H., Sandkühler, J. F., Thomas, S., Weinstein-Raun, B., Brauner, J., & Korzekwa, R. C. (2024). Thousands of AI Authors on the Future of AI. arXiv.
• Ord, T. (2020). The Precipice: Existential Risk and the Future of Humanity. Bloomsbury Publishing.
• Kokotajlo, D., Alexander, S., Larsen, T., Lifland, E., & Dean, R. (2025). AI 2027. ai-2027.com.