Test P(Doom)

Le p(doom), c’est-à-dire la probabilité qu’une catastrophe provoquée par l’IA soit suffisamment grave pour mettre fin à l’histoire de l’humanité, a commencé comme une notation informelle sur les forums rationalistes vers 2010 avant de sortir des laboratoires après ChatGPT, devenant un sujet de conversation à Silicon Valley et un élément incontournable des discussions sur l’IA. Ce qui frappe dans cette question, c’est à quel point les réponses varient selon les personnes qui étudient le problème à plein temps. Voici les estimations avancées par certaines des voix les plus connues de ces discussions :

• Roman Yampolskiy, chercheur en sécurité de l’IA : 99.999999 %.

• Eliezer Yudkowsky, fondateur de MIRI : plus de 95 %.

• Daniel Kokotajlo, auteur d’IA 2027 : 70–80 %.

• Dario Amodei, directeur général d’Anthropic : 10–25 %.

• Geoffrey Hinton, lauréat du prix Nobel et figure tutélaire de l’IA : 10–20 %.

• Yann LeCun, ancien directeur scientifique de l’IA chez Meta : moins de 0.01 %.

Le désaccord ne porte pas sur des faits manquants, mais sur des visions du monde sous-jacentes différentes. Ces visions ont des noms : sept grands camps couvrent tout le spectre. Les Doomers convaincus pensent qu’une superintelligence dont les objectifs différeraient ne serait-ce qu’un peu des nôtres serait impossible à contrôler, et que nous sommes en bonne voie pour en construire une avant de savoir lui donner la bonne direction. Le courant dominant de la sécurité de l’IA, y compris son aile long-termiste, reconnaît que le risque est réel, mais parie sur le fait que la recherche, l’évaluation et la gouvernance peuvent infléchir la trajectoire. Les théoriciens de la dépossession progressive ne craignent pas un coup d’État des robots, mais plutôt que les humains cèdent leur contrôle économique et politique, une délégation pratique après l’autre. Le camp des dommages actuels soutient que les discours sur l’extinction détournent l’attention des dégâts que l’IA cause dès maintenant : biais, surveillance et concentration du pouvoir. Les Sceptiques des capacités pensent que la superintelligence artificielle est bien plus éloignée que ne l’affirment les prévisionnistes. Les techno-optimistes s’attendent à des bénéfices immenses et à l’adaptation des humains. Et les accélérationnistes vont encore plus loin : pour eux, le véritable danger est de ralentir.

Ce test vous situe parmi sept archétypes issus de ces camps. Le Doomer s’attend à une catastrophe et veut l’arrêter. Le Bâtisseur prudent prend le risque au sérieux, mais construit quand même. Le Partisan de la Pause exige un arrêt jusqu’à ce que la sécurité soit démontrée. Le Faucon de la Course craint davantage de perdre la course que de la mener. Le Sceptique pense que la superintelligence est bien plus éloignée que ne l’affirment les prévisionnistes. La Sentinelle se préoccupe des dommages qui se produisent aujourd’hui, et non de dommages hypothétiques. Et le Fataliste s’attend à une mauvaise issue que personne n’empêchera. Vos réponses vous attribuent un score pour chacun des sept archétypes ; celui qui obtient le score le plus élevé devient votre archétype.

Les repères de comparaison avec la population affichés avec vos résultats sont des estimations fondées sur des enquêtes publiées concernant les opinions d’experts et du grand public sur les risques liés à l’IA, et non des normes ou percentiles de population validés ; ils sont fournis uniquement à titre de contexte général.

Votre archétype est un portrait de votre vision du monde, non un diagnostic ni une prévision étalonnée : un chiffre à l’apparence précise peut donner à un sentiment l’allure d’une mesure, deux personnes qui disent « 20 % » peuvent vouloir dire des choses entièrement différentes, et la plupart des penseurs sont en réalité des mélanges qui passent d’un camp à l’autre à mesure que les données évoluent. Ce test est une évaluation originale inspirée par les débats publics et les recherches par sondage sur les risques liés à l’IA ; il n’est affilié à aucun des chercheurs cités ci-dessus et n’est pas approuvé par eux, et il est fourni uniquement à des fins éducatives et de divertissement. Un score élevé n’est pas de la paranoïa, et un score faible n’est pas de l’insouciance.

Références

• Grace, K., Stewart, H., Sandkühler, J. F., Thomas, S., Weinstein-Raun, B., Brauner, J., & Korzekwa, R. C. (2024). Thousands of AI Authors on the Future of AI. arXiv.
• Ord, T. (2020). The Precipice: Existential Risk and the Future of Humanity. Bloomsbury Publishing.
• Kokotajlo, D., Alexander, S., Larsen, T., Lifland, E., & Dean, R. (2025). AI 2027. ai-2027.com.