แบบทดสอบ P(ความหายนะ)

P(ความหายนะ) ซึ่งหมายถึงความน่าจะเป็นที่หายนะจากปัญญาประดิษฐ์จะรุนแรงถึงขั้นจบเรื่องราวของมนุษยชาติ เริ่มต้นจากสัญกรณ์ไม่เป็นทางการในกระดานสนทนาของกลุ่มเหตุผลนิยมราวปี 2010 และหลุดออกจากห้องปฏิบัติการหลังการเปิดตัวแชตจีพีที จนกลายเป็นหัวข้อชวนคุยในซิลิคอนแวลลีย์และเป็นส่วนหนึ่งของวาทกรรมเรื่องปัญญาประดิษฐ์ สิ่งที่สะดุดตาเกี่ยวกับคำถามนี้คือคำตอบของผู้ที่ศึกษาปัญหานี้เต็มเวลานั้นแตกต่างกันอย่างมาก ลองพิจารณาค่าประเมินจากบุคคลที่มีชื่อเสียงในวาทกรรมนี้บางคน:

• โรมัน ยัมโปลสกี นักวิจัยด้านความปลอดภัยของปัญญาประดิษฐ์: 99.999999%.

• เอลีเซอร์ ยูดคอฟสกี ผู้ก่อตั้งเอ็มไออาร์ไอ: มากกว่า 95%.

• แดเนียล โคโคตาจโล ผู้เขียนปัญญาประดิษฐ์ 2027: 70-80%.

• ดาริโอ อามอเดอี ผู้บริหารสูงสุดของแอนโทรปิก: 10-25%.

• เจฟฟรีย์ ฮินตัน ผู้ได้รับรางวัลโนเบลและบิดาแห่งวงการปัญญาประดิษฐ์: 10-20%.

• ยาน เลอคุน อดีตหัวหน้านักวิทยาศาสตร์ด้านปัญญาประดิษฐ์ของเมตา: น้อยกว่า 0.01%.

ความไม่เห็นพ้องกันนี้ไม่ได้เกี่ยวกับข้อเท็จจริงที่ขาดหายไป แต่เกี่ยวกับโลกทัศน์พื้นฐานที่แตกต่างกัน โลกทัศน์เหล่านั้นมีชื่อเรียก และมีกลุ่มหลักเจ็ดกลุ่มครอบคลุมตั้งแต่ปลายหนึ่งถึงอีกปลายหนึ่ง นักสิ้นหวังสุดขั้วเชื่อว่าปัญญาเหนือมนุษย์ที่มีเป้าหมายแตกต่างจากเราเพียงเล็กน้อยจะควบคุมไม่ได้ และเรากำลังมุ่งหน้าสร้างมันก่อนที่จะรู้วิธีกำหนดทิศทางให้มัน กระแสหลักด้านความปลอดภัยของปัญญาประดิษฐ์ รวมถึงฝ่ายที่มองระยะยาว เห็นพ้องว่าความเสี่ยงมีอยู่จริง แต่เชื่อว่าการวิจัย การประเมิน และธรรมาภิบาลสามารถเปลี่ยนแนวโน้มได้ นักทฤษฎีการลดอำนาจลงทีละน้อยไม่กลัวการก่อรัฐประหารของหุ่นยนต์ แต่กลัวมนุษย์สละการควบคุมทางเศรษฐกิจและการเมืองผ่านการมอบหมายงานที่สะดวกทีละเรื่อง กลุ่มความเสียหายในปัจจุบันโต้แย้งว่าการพูดถึงการสูญพันธุ์เบี่ยงเบนความสนใจจากความเสียหายที่ปัญญาประดิษฐ์กำลังก่อขึ้นในขณะนี้ ทั้งอคติ การสอดส่อง และการกระจุกตัวของอำนาจ ผู้คลางแคลงด้านความสามารถคิดว่าปัญญาเหนือมนุษย์จากเครื่องจักรยังอยู่ห่างไกลกว่าที่ผู้พยากรณ์อ้าง นักมองโลกในแง่ดีทางเทคโนโลยีคาดหวังประโยชน์มหาศาลและการปรับตัวของมนุษย์ ส่วนผู้เร่งการพัฒนาไปไกลกว่านั้นอีกขั้น สำหรับพวกเขา การชะลอคืออันตรายที่แท้จริง

แบบทดสอบนี้จัดตำแหน่งคุณไว้ในหนึ่งในเจ็ดแบบแผนที่มาจากกลุ่มเหล่านั้น นักสิ้นหวังคาดหวังหายนะและต้องการหยุดมัน นักสร้างผู้รอบคอบจริงจังกับความเสี่ยงแต่ยังคงสร้างต่อ ผู้ชะลอเรียกร้องให้หยุดจนกว่าจะพิสูจน์ได้ว่าปลอดภัย เหยี่ยวการแข่งขันกลัวการแพ้การแข่งขันมากกว่าการเข้าร่วมการแข่งขัน ผู้คลางแคลงคิดว่าปัญญาเหนือมนุษย์ยังอยู่ห่างไกลกว่าที่ผู้พยากรณ์อ้างมาก ผู้เฝ้าระวังใส่ใจกับความเสียหายที่กำลังเกิดขึ้นในขณะนี้ ไม่ใช่เรื่องสมมติ และนักชะตานิยมคาดหวังจุดจบที่เลวร้ายซึ่งไม่มีใครป้องกันได้ คำตอบของคุณจะได้รับคะแนนในทั้งเจ็ดแบบแผน แบบที่มีคะแนนสูงสุดจะกลายเป็นแบบแผนของคุณ

เครื่องหมายเปรียบเทียบกับประชากรที่แสดงพร้อมผลลัพธ์ของคุณเป็นค่าประมาณจากการสำรวจที่เผยแพร่เกี่ยวกับความคิดเห็นของผู้เชี่ยวชาญและสาธารณชนต่อความเสี่ยงจากปัญญาประดิษฐ์ ไม่ใช่ค่ามาตรฐานหรือเปอร์เซ็นไทล์ของประชากรที่ผ่านการตรวจสอบความถูกต้อง และจัดทำขึ้นเพื่อเป็นข้อมูลประกอบทั่วไปเท่านั้น

แบบแผนของคุณเป็นภาพสะท้อนโลกทัศน์ ไม่ใช่การวินิจฉัยหรือการพยากรณ์ที่ผ่านการปรับเทียบ ตัวเลขที่ฟังดูแม่นยำอาจทำให้ความรู้สึกดูเหมือนการวัด คนสองคนที่พูดว่า “20%” อาจหมายถึงสิ่งที่แตกต่างกันโดยสิ้นเชิง และนักคิดตัวจริงส่วนใหญ่เป็นการผสมผสานที่เคลื่อนไหวไปมาระหว่างกลุ่มเมื่อหลักฐานเปลี่ยนแปลง แบบทดสอบนี้เป็นการประเมินต้นฉบับที่ได้รับแรงบันดาลใจจากวาทกรรมสาธารณะและงานวิจัยเชิงสำรวจเกี่ยวกับความเสี่ยงจากปัญญาประดิษฐ์ ไม่ได้เกี่ยวข้องหรือได้รับการรับรองจากนักวิจัยที่กล่าวถึงข้างต้น และจัดทำขึ้นเพื่อวัตถุประสงค์ทางการศึกษาและความบันเทิงเท่านั้น คะแนนสูงไม่ได้หมายถึงความหวาดระแวง และคะแนนต่ำไม่ได้หมายถึงความชะล่าใจ

เอกสารอ้างอิง

• Grace, K., Stewart, H., Sandkühler, J. F., Thomas, S., Weinstein-Raun, B., Brauner, J., & Korzekwa, R. C. (2024). Thousands of AI Authors on the Future of AI. arXiv.
• Ord, T. (2020). The Precipice: Existential Risk and the Future of Humanity. Bloomsbury Publishing.
• Kokotajlo, D., Alexander, S., Larsen, T., Lifland, E., & Dean, R. (2025). AI 2027. ai-2027.com.