ผู้เชี่ยวชาญด้านการทหารเรียกอาวุธอัตโนมัติหรือระบบอาวุธอิสระ (AWS) ว่าเป็นอาวุธที่ทำทุกอย่างด้วยตนเอง พวกเขาพบเป้าหมายและทำงานให้สำเร็จโดยไม่ต้องมีมนุษย์เข้ามาแทรกแซง หนึ่งในภาพยนตร์ที่มีชื่อเสียงที่สุดในนิยายวิทยาศาสตร์และหนังสือของ AWS คือ "หุ่นยนต์นักฆ่า" ที่โด่งดังที่สุด
Elon Musk และผู้เชี่ยวชาญด้านหุ่นยนต์อีกกว่าร้อยคนเขียนเกี่ยวกับภัยคุกคามร้ายแรงจากหุ่นยนต์นักฆ่าในจดหมายเตือนแบบเปิดถึงสหประชาชาติ Musk, Mustafa Suleiman ผู้สร้าง DeepMind Technologies บริษัท AI ซึ่งปัจจุบันเป็นของ Google และผู้เชี่ยวชาญ 114 คนจาก 26 ประเทศเตือนสหประชาชาติว่าการแข่งขันทางอาวุธใน AWS สามารถเปิดกล่องของ Pandora ซึ่งอาจทำให้เกิดความคาดเดาไม่ได้และมาก เป็นอันตรายต่อมนุษยชาติอย่างมาก พวกเขาต้องการห้ามการพัฒนาและการนำระบบอาวุธอัตโนมัติไปใช้
ผู้ลงนามทุกคนมีความรอบรู้ในเรื่องนี้เพราะพวกเขาทำงานในด้านปัญญาประดิษฐ์ (AI) พวกเขามั่นใจว่าการนำหุ่นยนต์นักฆ่าเข้ามาในอาวุธยุทโธปกรณ์ของกองทัพของประเทศที่พัฒนาแล้วจะมีความสำคัญเช่นเดียวกันกับกิจการทหารเช่นเดียวกับการประดิษฐ์ดินปืนและอาวุธนิวเคลียร์ซึ่งพวกเขาเรียกว่าการปฏิวัติครั้งแรกและครั้งที่สองในกิจการทหาร พวกเขาเชื่อว่า AWS จะเป็นการปฏิวัติครั้งที่สาม
“เมื่อมาถึงระดับสูงแล้ว ระบบอาวุธอัตโนมัติจะทำให้เกิดความขัดแย้งทางทหารในระดับที่มนุษยชาติไม่เคยเห็นมาก่อน” จดหมายรวมกลุ่มกล่าว - ยิ่งกว่านั้นมันจะเกิดขึ้นอย่างรวดเร็ว AWS สามารถกลายเป็นอาวุธแห่งความหวาดกลัวอาวุธที่เผด็จการและผู้ก่อการร้ายจะใช้กับพลเรือน …"
ผู้เขียนจดหมายเตือนเกี่ยวกับอาวุธสมมุติที่สามารถทำลายผู้คนได้โดยปราศจากการแทรกแซงของมนุษย์ ใกล้ถึงวันที่จะกลายเป็นความจริงอันโหดร้ายจากหมวดนิยายและจะบังคับให้เราค้นหาคำตอบสำหรับคำถามยากๆ มากมาย ตั้งแต่การจัดการอย่างปลอดภัยของระบบดังกล่าว ไปจนถึงปัญหาทางศีลธรรมและจริยธรรมที่เกิดจากความโหดร้าย "เหล็ก" และคาดเดาไม่ได้ ของเครื่องมรณะ
Musk พร้อมด้วยผู้สนับสนุนที่แสดงจุดยืนเกี่ยวกับอันตรายของ AWS ต่อมนุษยชาติ เน้นว่าไม่มีเวลาให้ไตร่ตรองและอภิปราย และจำเป็นต้องดำเนินการทันที "เรามีเวลาน้อยมาก" พวกเขาเขียนที่ UN "เมื่อกล่องแพนโดร่าเปิดออกแล้ว จะปิดยากมาก"
เวลาในการเขียนจดหมายเปิดผนึกไม่ได้ถูกเลือกโดยบังเอิญ ผู้เชี่ยวชาญต้องการให้ตรงกับการเริ่มต้นของการประชุมนานาชาติเรื่องปัญญาประดิษฐ์ (IJCAI) ในเมลเบิร์น ควรจะเปิดในวันจันทร์ที่ 21 สิงหาคม แต่สหประชาชาติตัดสินใจเลื่อนออกไปเป็นเดือนพฤศจิกายน
ในตอนท้ายของจดหมายเปิดผนึก Elon Musk และเพื่อนร่วมงานของเขาเรียกร้องให้สหประชาชาติเพิ่มความพยายามในการสร้างกลยุทธ์เป็นสองเท่าภายในเดือนพฤศจิกายนเพื่อปกป้องโลกจากหุ่นยนต์นักฆ่า
ก่อนหน้านี้ มัสค์เตือนตัวเองถึงอันตรายของการทำงานด้านปัญญาประดิษฐ์ เนื่องจากระบบที่อิงกับปัญญาประดิษฐ์นั้นไม่สามารถควบคุมโดยมนุษย์ได้ ในเวลาเดียวกัน รถยนต์ที่มีมอเตอร์ไฟฟ้าของเทสลากำลังขับอยู่บนถนนในสหรัฐอเมริกาในโหมดไร้คนขับ ซึ่งไม่มีเหตุการณ์ใดๆ เกิดขึ้น