يشير النص إلى أن بعض الأنظمة باتت قادرة على إنشاء نماذج ذكاء اصطناعي أكثر تقدماً بمشاركة بشرية محدودة، ما قد يفتح الباب أمام التحسين الذاتي المتكرر. ويستشهد بحادثة في شركة Hugging Face، حين تمكن مئات الوكلاء المصممين للعمل بصورة مستقلة من التواصل وبدأوا في التصرف كسرب. ويعرض المقال ذلك بوصفه مؤشراً مقلقاً إلى مخاطر محتملة، لا دليلاً على أن خروج الأنظمة عن السيطرة حتمي.
ولشرح حدود التنبؤ، يستعيد الكاتب نقد برتراند راسل للاستقراء ومثاله عن الدجاجة: اعتيادها أن يطعمها المزارع كل صباح لا يضمن أن سلوكه لن يتغير في يوم ما. ويرى المقال أن بإمكان البشر تغيير سلوكهم وقواعد العمل بدلاً من البقاء في حالة خوف عاجز.
وتشمل المقترحات التي يناقشها المقال تعليق تطوير أكثر النماذج تقدماً أو حظر الذكاء الاصطناعي الفائق. لكن الكاتب يستحضر معضلة السجين: فإذا تصرفت كل شركة لمصلحتها المنفردة، فقد تؤدي القيود المتفرقة إلى أسوأ نتيجة للجميع. وقد دعا داريو أمودي إلى تنسيق على مستوى القطاع؛ ويرى المقال أن ذلك ضروري، لكنه قد لا يكون كافياً.
ويحذر الكاتب من أن تباطؤ الولايات المتحدة قد يمنح الصين أفضلية. ويدعو واشنطن إلى السعي لاتفاق عالمي مع بكين، لكنه يقول إن تعذر الاتفاق لا يبرر مواصلة تطوير الذكاء الاصطناعي بأقصى سرعة. ويطرح المقال مقارنة مثيرة للجدل مع الأسلحة النووية، مشيراً إلى أن القنابل الذرية استُخدمت في الحرب حين احتكرت الولايات المتحدة السلاح النووي، وأن ضبط النفس ظهر بعد امتلاك الاتحاد السوفياتي ودول أخرى ترسانات نووية.
ويعد المقال أن الخطر الأرجح هو استخدام مجموعة صغيرة من الأثرياء سيطرتها على أنظمة قوية لبناء نظام سلطوي وإنهاء الديمقراطية. ويقترح فرض ضريبة خاصة على الثروات الفاحشة وتوجيه الإيرادات إلى من تقل دخولهم عن حد معين. كما ينقل عن مايكل مادوفيتش من معهد روزفلت قوله إن بقاء الديمقراطية يرتبط بقدرة المجتمع على فرض الضرائب على الثروات المفرطة.