في رأيه، أدت التطورات غير المنضبطة في مجال الذكاء الاصطناعي إلى "إحراز تقدم لم نتوقعه نحن أنفسنا". وأكد راسل أن البشر أخطأوا في البداية، عندما لم يفكروا في الغرض من هذا الذكاء. وأضاف أنه من المحتمل أن تقاوم الآلات فائقة الذكاء في المستقبل محاولات السيطرة عليها.
وقال: "كيف تحافظ على سلطتك على الكيانات الأقوى منك؟ إذا لم يكن لديك إجابة، توقف عن البحث. الأمر بسيط للغاية. إذا لم نتحكم في حضارتنا، إذن نحن نفقد حق التصويت على وجودنا في المستقبل".
ولاحظ راسل، أن ظهور الذكاء الاصطناعي العالمي، وهو نظام قادر على أداء أي مهمة يمكن لأي شخص القيام بها، يمكن أن يحدث في غضون عشر سنوات. وأعرب العالم عن قلقه عند حل المشكلات المتعلقة بالمناخ على سبيل المثال، فقد تصل هذه البرامج إلى استنتاج مفاده أن التخلص من الناس سيكون الحل الأفضل.
وتابع: "إذا قمت بتعليم الذكاء الاصطناعي تقليد السلوك البشري، فأنت في الأساس تعلمه تحديد الأهداف البشرية ومتابعتها. والأهداف البشرية تشمل كل شيء. يمكن للمرء أن يتخيل فقط ما هي الكارثة التي تنشأ عن ظهور الأنظمة التي من شأنها أن تسعى لتحقيق هذه الأهداف "، وفقا لصحيفة تايمز.
في وقت سابق، حذر الملياردير الأمريكي إيلون ماسك من أن الذكاء الاصطناعي سيتحكم بنفسه حتمًا، مع إمكانية تدمير البشرية.