Tes P(Doom)

P(doom), yaitu probabilitas terjadinya bencana yang disebabkan AI dan cukup parah untuk mengakhiri kisah umat manusia, bermula sebagai notasi informal di forum rasionalis sekitar tahun 2010 dan keluar dari laboratorium setelah ChatGPT hadir, lalu menjadi pembuka percakapan di Silicon Valley dan bagian tetap dari wacana AI. Hal yang mencolok dari pertanyaan ini adalah betapa beragamnya jawaban di antara orang-orang yang mempelajari masalah ini secara penuh waktu. Pertimbangkan perkiraan yang dikemukakan oleh beberapa tokoh yang paling dikenal dalam wacana ini:

• Roman Yampolskiy, peneliti keselamatan AI: 99.999999%.

• Eliezer Yudkowsky, pendiri MIRI: di atas 95%.

• Daniel Kokotajlo, penulis AI 2027: 70–80%.

• Dario Amodei, CEO Anthropic: 10–25%.

• Geoffrey Hinton, peraih Nobel dan bapak AI: 10–20%.

• Yann LeCun, mantan kepala ilmuwan AI Meta: kurang dari 0.01%.

Perbedaan pendapat ini bukan disebabkan oleh fakta yang hilang, melainkan oleh perbedaan pandangan dunia yang mendasarinya. Pandangan-pandangan dunia tersebut memiliki nama: tujuh kelompok utama membentang di sepanjang spektrum ini. Doomer garis keras berpendapat bahwa superinteligensi dengan tujuan yang sedikit saja berbeda dari tujuan kita akan sulit dikendalikan, dan bahwa kita sedang menuju pembangunan sesuatu seperti itu sebelum tahu cara mengarahkannya. Arus utama keselamatan AI, termasuk sayap jangka panjangnya, sepakat bahwa risikonya nyata, tetapi bertaruh bahwa penelitian, evaluasi, dan tata kelola dapat membelokkan arah perkembangannya. Para pengusung teori pelemahan bertahap khawatir bukan tentang kudeta robot, melainkan manusia yang menyerahkan kendali ekonomi dan politik sedikit demi sedikit melalui pendelegasian yang praktis. Kelompok yang berfokus pada dampak masa kini berpendapat bahwa pembicaraan tentang kepunahan mengalihkan perhatian dari kerusakan yang ditimbulkan AI saat ini, yaitu bias, pengawasan, dan pemusatan kekuasaan. Para skeptis kapabilitas berpikir bahwa superinteligensi mesin masih jauh lebih lama tercapai daripada yang diklaim para peramal. Para optimis teknologi mengharapkan manfaat yang sangat besar dan kemampuan manusia untuk beradaptasi. Sementara itu, para akselerasionis melangkah lebih jauh: bagi mereka, memperlambat adalah bahaya yang sebenarnya.

Tes ini menempatkan Anda di antara tujuh arketipe yang diambil dari kelompok-kelompok tersebut. Doomer memperkirakan bencana dan ingin menghentikannya. Pembangun Cermat menganggap risikonya serius tetapi tetap membangunnya. Penjeda menuntut penghentian sampai keselamatannya terbukti. Elang Perlombaan lebih takut kalah dalam perlombaan daripada menjalankannya. Skeptis berpikir bahwa superinteligensi masih jauh lebih lama tercapai daripada yang diklaim para peramal. Pengawas peduli pada dampak buruk yang terjadi sekarang, bukan yang hipotetis. Dan Fatalis memperkirakan akhir yang buruk yang tidak akan dicegah oleh siapa pun. Jawaban Anda diberi skor pada ketujuh aspek; skor tertinggi menjadi arketipe Anda.

Penanda perbandingan populasi yang ditampilkan bersama hasil Anda adalah perkiraan berdasarkan survei yang telah diterbitkan mengenai pendapat para ahli dan masyarakat umum tentang risiko AI, bukan norma atau persentil populasi yang tervalidasi; penanda tersebut hanya disediakan sebagai konteks umum.

Arketipe Anda adalah gambaran pandangan dunia, bukan diagnosis atau ramalan yang terkalibrasi: angka yang terdengar presisi dapat membuat perasaan tampak seperti pengukuran, dua orang yang mengatakan “20%” mungkin memaksudkan hal yang sama sekali berbeda, dan sebagian besar pemikir nyata merupakan perpaduan yang berpindah-pindah di antara kelompok seiring berubahnya bukti. Tes ini adalah penilaian orisinal yang terinspirasi oleh wacana publik dan penelitian survei tentang risiko AI; tes ini tidak berafiliasi dengan atau didukung oleh peneliti mana pun yang disebutkan di atas, dan disediakan hanya untuk tujuan edukasi dan hiburan. Skor tinggi bukan berarti paranoia dan skor rendah bukan berarti sikap berpuas diri.

Referensi

• Grace, K., Stewart, H., Sandkühler, J. F., Thomas, S., Weinstein-Raun, B., Brauner, J., & Korzekwa, R. C. (2024). Thousands of AI Authors on the Future of AI. arXiv.
• Ord, T. (2020). The Precipice: Existential Risk and the Future of Humanity. Bloomsbury Publishing.
• Kokotajlo, D., Alexander, S., Larsen, T., Lifland, E., & Dean, R. (2025). AI 2027. ai-2027.com.