Bài kiểm tra P(Doom)

P(doom), tức xác suất một thảm họa do AI gây ra đủ nghiêm trọng để chấm dứt câu chuyện của nhân loại, bắt đầu như một ký hiệu không chính thức trên các diễn đàn duy lý vào khoảng năm 2010 và thoát khỏi phòng thí nghiệm sau ChatGPT, trở thành một chủ đề mở đầu cuộc trò chuyện ở Thung lũng Silicon và một phần quen thuộc của diễn ngôn về AI. Điều đáng chú ý về câu hỏi này là các câu trả lời khác nhau đến mức nào giữa những người nghiên cứu vấn đề này toàn thời gian. Hãy xem những ước tính được đưa ra bởi một số tiếng nói nổi tiếng nhất trong cuộc tranh luận:

• Roman Yampolskiy, nhà nghiên cứu an toàn AI: 99.999999%.

• Eliezer Yudkowsky, người sáng lập MIRI: trên 95%.

• Daniel Kokotajlo, tác giả AI 2027: 70-80%.

• Dario Amodei, giám đốc điều hành Anthropic: 10-25%.

• Geoffrey Hinton, người đoạt giải Nobel và cha đỡ đầu của AI: 10-20%.

• Yann LeCun, cựu trưởng khoa học gia AI của Meta: dưới 0.01%.

Sự bất đồng không nằm ở những dữ kiện còn thiếu; nó nằm ở những thế giới quan nền tảng khác nhau. Những thế giới quan đó có tên gọi: bảy nhóm chính trải dài trên toàn bộ phổ quan điểm. Những người tin chắc vào ngày tận thế cho rằng một siêu trí tuệ có các mục tiêu chỉ hơi khác mục tiêu của chúng ta cũng sẽ không thể kiểm soát, và chúng ta đang đi đúng hướng để xây dựng một hệ thống như vậy trước khi biết cách định hướng nó. Dòng chính về an toàn AI, bao gồm cả nhánh theo chủ nghĩa dài hạn, đồng ý rằng rủi ro là có thật nhưng đặt cược vào việc nghiên cứu, đánh giá và quản trị có thể điều chỉnh xu hướng. Những người theo thuyết suy giảm quyền lực dần dần không lo sợ một cuộc đảo chính của rô-bốt, mà lo con người nhường quyền kiểm soát kinh tế và chính trị qua từng lần ủy quyền tiện lợi. Nhóm tập trung vào tác hại hiện tại cho rằng lời nói về sự tuyệt chủng đang đánh lạc hướng khỏi những thiệt hại AI gây ra ngay lúc này: thiên lệch, giám sát và sự tập trung quyền lực. Những người hoài nghi về năng lực cho rằng siêu trí tuệ máy móc còn xa hơn rất nhiều so với tuyên bố của các nhà dự báo. Những người lạc quan về công nghệ trông đợi lợi ích to lớn và khả năng thích nghi của con người. Còn những người theo chủ nghĩa tăng tốc đi xa hơn một bước: với họ, chậm lại mới là mối nguy thực sự.

Bài kiểm tra này xác định vị trí của bạn trong bảy kiểu hình được rút ra từ các nhóm đó. Người tin ngày tận thế dự đoán thảm họa và muốn ngăn chặn nó. Người xây dựng thận trọng coi trọng rủi ro nhưng vẫn tiếp tục xây dựng. Người tạm dừng yêu cầu dừng lại cho đến khi chứng minh được độ an toàn. Người ủng hộ chạy đua sợ thua cuộc đua hơn là sợ tham gia nó. Người hoài nghi cho rằng siêu trí tuệ còn xa hơn rất nhiều so với tuyên bố của các nhà dự báo. Người giám sát quan tâm đến những tác hại đang xảy ra hiện nay, chứ không phải những tác hại giả định. Còn Người theo thuyết định mệnh dự đoán một kết cục tồi tệ mà không ai có thể ngăn chặn. Câu trả lời của bạn được chấm trên cả bảy kiểu hình; kiểu có điểm cao nhất sẽ trở thành kiểu hình của bạn.

Các mốc so sánh với dân số được hiển thị cùng kết quả của bạn là những ước tính dựa trên các khảo sát đã công bố về ý kiến của chuyên gia và công chúng đối với rủi ro AI, không phải các chuẩn dân số hoặc phân vị đã được kiểm định; chúng chỉ được cung cấp để tham khảo chung.

Kiểu hình của bạn là một bức chân dung về thế giới quan, không phải chẩn đoán hay dự báo được hiệu chỉnh: một con số nghe có vẻ chính xác có thể biến một cảm giác thành một phép đo, hai người cùng nói “20%” có thể đang chỉ những điều hoàn toàn khác nhau, và hầu hết những người thực sự suy nghĩ về vấn đề này đều là sự pha trộn, chuyển dịch giữa các nhóm khi bằng chứng thay đổi. Bài kiểm tra này là một đánh giá nguyên bản lấy cảm hứng từ diễn ngôn công chúng và nghiên cứu khảo sát về rủi ro AI; bài kiểm tra không liên kết với hoặc được bất kỳ nhà nghiên cứu nào được nêu ở trên chứng thực, và chỉ được cung cấp cho mục đích giáo dục và giải trí. Điểm cao không có nghĩa là hoang tưởng và điểm thấp không có nghĩa là tự mãn.

Tài liệu tham khảo

• Grace, K., Stewart, H., Sandkühler, J. F., Thomas, S., Weinstein-Raun, B., Brauner, J., & Korzekwa, R. C. (2024). Thousands of AI Authors on the Future of AI. arXiv.
• Ord, T. (2020). The Precipice: Existential Risk and the Future of Humanity. Bloomsbury Publishing.
• Kokotajlo, D., Alexander, S., Larsen, T., Lifland, E., & Dean, R. (2025). AI 2027. ai-2027.com.