P(Doom) Testi

P(doom), insanlık tarihini sona erdirecek kadar büyük, yapay zekânın yol açtığı bir felaket olasılığıdır. Bu ifade, 2010 civarında rasyonalist forumlarda gayriresmî bir gösterim olarak ortaya çıktı ve ChatGPT'den sonra laboratuvar dışına taşarak Silikon Vadisi'nde sohbet başlatan bir konuya ve yapay zekâ söyleminin kalıcı bir parçasına dönüştü. Bu sorunun çarpıcı yanı, meseleyi tam zamanlı olarak inceleyen kişiler arasındaki yanıtların ne kadar büyük farklılık gösterdiğidir. Söylemin en tanınmış bazı isimlerinin öne sürdüğü tahminlere bakalım:

• Roman Yampolskiy, yapay zekâ güvenliği araştırmacısı: %99.999999.

• Eliezer Yudkowsky, MIRI kurucusu: %95'in üzerinde.

• Daniel Kokotajlo, Yapay Zekâ 2027 kitabının yazarı: %70-80.

• Dario Amodei, Anthropic Üst Yöneticisi: %10-25.

• Geoffrey Hinton, Nobel ödülü sahibi ve yapay zekânın öncülerinden: %10-20.

• Yann LeCun, eski Meta baş yapay zekâ bilim insanı: %0.01'den az.

Anlaşmazlık, eksik gerçeklerle ilgili değil; temelde yatan farklı dünya görüşleriyle ilgilidir. Bu dünya görüşlerinin adları vardır: yedi ana grup yelpazenin tamamını kapsar. Katı Doomcular, hedefleri bizimkilerden biraz bile farklı olan bir süperzekânın kontrol edilemez olacağını ve onu nasıl yönlendireceğimizi bilmeden önce böyle bir süperzekâ inşa etme yolunda olduğumuzu savunur. Uzun vadecileri de içeren yapay zekâ güvenliği ana akımı, riskin gerçek olduğu konusunda hemfikirdir, ancak araştırma, değerlendirme ve yönetişimin gidişatı değiştirebileceğine bahse girer. Kademeli güçsüzleşme kuramcıları, bir robot darbesinden değil, insanların her seferinde kullanışlı bir yetki devriyle ekonomik ve siyasi kontrolü bırakmasından korkar. Güncel zararlar grubu, yok oluş söyleminin yapay zekânın şu anda verdiği zarar olan önyargı, gözetim ve güç yoğunlaşmasından dikkati uzaklaştırdığını savunur. Yetenek şüphecileri, makine süperzekâsının tahmincilerin iddia ettiğinden çok daha uzakta olduğunu düşünür. Teknoloji iyimserleri muazzam fayda ve insanın uyum sağlamasını bekler. Hızlandırmacılar ise bir adım daha ileri gider: onlar için asıl tehlike yavaşlamaktır.

Bu test, bu gruplardan türetilen yedi arketip arasındaki yerinizi belirler. Doomcu felaket bekler ve bunun durdurulmasını ister. Temkinli Geliştirici riski ciddiye alır ve yine de inşa eder. Duraklayan, güvenli olduğu kanıtlanana kadar durulmasını talep eder. Yarış Şahini, yarışı sürdürmekten çok kaybetmekten korkar. Şüpheci, süperzekânın tahmincilerin iddia ettiğinden çok daha uzakta olduğunu düşünür. Gözetmen, varsayımsal zararlardan çok şu anda meydana gelen zararlarla ilgilenir. Kaderci ise kimsenin önleyemeyeceği kötü bir son bekler. Yanıtlarınız yedi arketipin tamamı için puanlanır; en yüksek puanlı olan sizin arketipiniz olur.

Sonuçlarınızla birlikte gösterilen nüfus karşılaştırma göstergeleri, yapay zekâ riski konusunda yayımlanmış uzman ve kamuoyu anketlerinden yararlanılarak yapılan tahminlerdir; doğrulanmış nüfus normları veya yüzdelik dilimler değildir ve yalnızca genel bağlam sağlamak amacıyla sunulmuştur.

Arketipiniz bir dünya görüşü portresidir; bir teşhis ya da kalibre edilmiş bir öngörü değildir: kulağa kesin gelen bir sayı, bir duyguyu ölçüm gibi gösterebilir, “%20” diyen iki kişi tamamen farklı şeyler kastediyor olabilir ve gerçek düşünürlerin çoğu, kanıtlar değiştikçe gruplar arasında hareket eden melezlerdir. Bu test, yapay zekâ riski hakkındaki kamu söyleminden ve anket araştırmalarından esinlenen özgün bir değerlendirmedir; yukarıda adı geçen araştırmacıların hiçbiriyle bağlantılı değildir veya onlar tarafından onaylanmamıştır ve yalnızca eğitim ve eğlence amacıyla sunulmuştur. Yüksek puan paranoya, düşük puan ise rehavet anlamına gelmez.

Referanslar

• Grace, K., Stewart, H., Sandkühler, J. F., Thomas, S., Weinstein-Raun, B., Brauner, J., & Korzekwa, R. C. (2024). Thousands of AI Authors on the Future of AI. arXiv.
• Ord, T. (2020). The Precipice: Existential Risk and the Future of Humanity. Bloomsbury Publishing.
• Kokotajlo, D., Alexander, S., Larsen, T., Lifland, E., & Dean, R. (2025). AI 2027. ai-2027.com.