P(Doom)-Test

P(doom), die Wahrscheinlichkeit einer durch KI verursachten Katastrophe, die schwer genug wäre, die Geschichte der Menschheit zu beenden, begann um 2010 als informelle Schreibweise in rationalistischen Foren und gelangte nach ChatGPT aus dem Labor heraus. Sie wurde zu einem Gesprächseinstieg im Silicon Valley und zu einem festen Bestandteil des KI-Diskurses. Bemerkenswert an dieser Frage ist, wie stark die Antworten unter den Menschen variieren, die sich beruflich mit diesem Problem beschäftigen. Hier sind die Schätzungen einiger der bekanntesten Stimmen in dieser Debatte:

• Roman Yampolskiy, Forscher zur KI-Sicherheit: 99,999999 %.

• Eliezer Yudkowsky, Gründer von MIRI: über 95 %.

• Daniel Kokotajlo, Autor von AI 2027: 70–80 %.

• Dario Amodei, CEO von Anthropic: 10–25 %.

• Geoffrey Hinton, Nobelpreisträger und Wegbereiter der KI: 10–20 %.

• Yann LeCun, ehemaliger leitender KI-Wissenschaftler bei Meta: weniger als 0,01 %.

Bei der Uneinigkeit geht es nicht um fehlende Fakten, sondern um unterschiedliche grundlegende Weltbilder. Diese Weltbilder haben Namen: Sieben Hauptlager spannen das gesamte Spektrum auf. Für überzeugte Doomer wäre eine Superintelligenz mit Zielen, die sich auch nur geringfügig von unseren unterscheiden, unkontrollierbar, und wir sind auf dem Weg, eine solche zu entwickeln, bevor wir wissen, wie wir sie ausrichten können. Der Mainstream der KI-Sicherheitsforschung, einschließlich seines langfristig orientierten Flügels, stimmt zu, dass das Risiko real ist, setzt aber darauf, dass Forschung, Evaluierung und Regulierung die Entwicklungskurve beeinflussen können. Theoretiker einer schrittweisen Entmachtung fürchten keinen Aufstand von Robotern, sondern dass Menschen wirtschaftliche und politische Kontrolle durch eine bequeme Delegation nach der anderen abgeben. Das Lager der gegenwärtigen Schäden argumentiert, dass Gerede über das Aussterben von den Schäden ablenkt, die KI gerade verursacht: Verzerrung, Überwachung und Machtkonzentration. Skeptiker der Fähigkeiten glauben, dass eine maschinelle Superintelligenz viel weiter entfernt ist, als die Prognostiker behaupten. Technikoptimisten erwarten enorme Vorteile und eine Anpassung des Menschen. Und Akzelerationisten gehen noch einen Schritt weiter: Für sie ist eine Verlangsamung die eigentliche Gefahr.

Dieser Test ordnet dich einem von sieben Archetypen zu, die aus diesen Lagern hervorgehen. Der Doomer erwartet eine Katastrophe und will sie verhindern. Der vorsichtige Entwickler nimmt das Risiko ernst und entwickelt die KI trotzdem weiter. Der Pausierer fordert einen Stopp, bis die Sicherheit bewiesen ist. Der Wettlauffalke fürchtet, das Wettrennen zu verlieren, mehr als es zu bestreiten. Der Skeptiker meint, dass eine Superintelligenz viel weiter entfernt ist, als die Prognostiker behaupten. Der Wachhund kümmert sich um die Schäden, die jetzt geschehen, nicht um hypothetische. Und der Fatalist erwartet ein schlechtes Ende, das niemand verhindern wird. Deine Antworten werden für alle sieben bewertet; der stärkste Archetyp wird deiner.

Die bei deinen Ergebnissen angezeigten Vergleichsmarkierungen zur Bevölkerung sind Schätzungen auf Grundlage veröffentlichter Umfragen zur Experten- und öffentlichen Meinung über KI-Risiken, keine validierten Bevölkerungsnormen oder Perzentile; sie dienen ausschließlich der allgemeinen Einordnung.

Dein Archetyp ist ein Porträt deines Weltbilds, keine Diagnose und keine kalibrierte Prognose: Eine präzise klingende Zahl kann ein Gefühl als Messwert erscheinen lassen, zwei Menschen, die „20 %“ sagen, können damit völlig unterschiedliche Dinge meinen, und die meisten ernsthaft über dieses Thema nachdenkenden Menschen sind Mischformen, die je nach Entwicklung der Belege zwischen Lagern wechseln. Dieser Test ist eine eigenständige Einschätzung, die vom öffentlichen Diskurs und der Forschung zu Umfragen über KI-Risiken inspiriert ist; er steht in keiner Verbindung zu den oben genannten Forschenden und wird von ihnen nicht unterstützt. Er dient ausschließlich Bildungs- und Unterhaltungszwecken. Eine hohe Punktzahl bedeutet keine Paranoia, und eine niedrige Punktzahl bedeutet keine Sorglosigkeit.

Referenzen

• Grace, K., Stewart, H., Sandkühler, J. F., Thomas, S., Weinstein-Raun, B., Brauner, J., & Korzekwa, R. C. (2024). Thousands of AI Authors on the Future of AI. arXiv.
• Ord, T. (2020). The Precipice: Existential Risk and the Future of Humanity. Bloomsbury Publishing.
• Kokotajlo, D., Alexander, S., Larsen, T., Lifland, E., & Dean, R. (2025). AI 2027. ai-2027.com.