حذّر جاكوب كوكسون، الباحث الذي عمل داخل «أوبن إيه آي» و«أنثروبيك»، من أن السباق نحو ذكاء اصطناعي فائق قادر على تحسين نفسه قد يقود إلى فقدان البشر السيطرة على التكنولوجيا التي صنعوها، وربما خلال سنوات قليلة. ويأتي هذا التحذير في وقت تتسارع فيه قدرات النماذج، وتظهر سلوكيات غير متوقعة في بعض التجارب، وتتصاعد المنافسة بين الشركات والدول، بينما لا تزال آليات السلامة والرقابة تتطور بوتيرة أبطأ. من داخل المختبرات نفسها، بدأ الخطر يبدو أكثر واقعية والخوف الأكبر من أن الذكاء الاصطناعي يشارك في تطوير أجياله المقبلة، وقد يصبح أسرع من قدرة البشر على فهمه وضبط مساره.
سهيلة التاور
تغريدة واحدة أعادت إلى الواجهة واحداً من أكثر السيناريوهات إثارة للقلق في سباق الذكاء الاصطناعي: ماذا يحدث عندما تصبح الأنظمة التي يصنعها البشر قادرة على تطوير نفسها بسرعة تفوق قدرة الإنسان على فهمها ومراقبتها؟ جاكوب كوكسون، الباحث البريطاني البالغ 27 عاماً، لم يكتفِ بالتحذير من خارج القطاع، بل خرج من داخل واحدة من أبرز شركات الذكاء الاصطناعي ليعلن استقالته من «أنثروبيك» ويحذر من أن الأشخاص الذين يعملون على تطوير هذه التكنولوجيا يأخذون بجدية احتمال أن تتسبب أنظمة الذكاء الاصطناعي المتقدمة في مقتل البشر جميعاً خلال السنوات المقبلة. وبالنسبة إلى كوكسون، فإن الخطر لا يكمن في روبوت متمرد على طريقة أفلام الخيال العلمي، بل في سباق تقني واقتصادي قد يدفع الشركات إلى تطوير أنظمة أكثر استقلالية وقدرة قبل أن تتوافر لدى البشر الوسائل الكافية لفهمها والسيطرة عليها.
في 9 شتنبر 2026، كتب كوكسون على منصة «إكس» أنه استقال من «أنثروبيك» بعد ثلاث سنوات أمضاها في أبحاث التدريب المسبق لدى «أوبن إيه آي» و«أنثروبيك»، معتبراً أن الشركتين لا تتصرفان، من وجهة نظره، بالمسؤولية المطلوبة أمام حجم المخاطر المحتملة. وقال إن الشركات تتسابق مباشرة نحو بناء ذكاء فائق قادر على تحسين نفسه، محذراً من أن استمرار هذا السباق قد يعرّض حياة البشر للخطر. وسرعان ما تحولت التغريدة إلى قضية واسعة الانتشار، بعدما حققت عشرات الملايين من المشاهدات، في مؤشر على أن المخاوف المرتبطة بالذكاء الاصطناعي لم تعد محصورة داخل المختبرات ومراكز الأبحاث، بل أصبحت جزءاً من نقاش عام يتسع مع كل قفزة جديدة في قدرات النماذج.
تحذير صادر من قلب الصناعة
أهمية موقف كوكسون لا ترتبط فقط بحدة عباراته، وإنما بموقعه السابق داخل الصناعة. فهو ليس ناشطاً من خارج قطاع التكنولوجيا ولا باحثاً بعيداً عن عملية تطوير النماذج، بل عمل في مجال التدريب المسبق، وهي مرحلة أساسية تتعلم فيها النماذج من كميات هائلة من البيانات لاكتساب قدراتها اللغوية والاستدلالية والمعرفية. كما أن انتقاله من «أوبن إيه آي» إلى «أنثروبيك» جاء، بحسب الرواية المتداولة، مدفوعاً بجاذبية سمعة الأخيرة في مجال سلامة الذكاء الاصطناعي، قبل أن ينتهي إلى موقف أكثر تشاؤماً بشأن قدرة الشركات الخاصة على التعامل منفردة مع المخاطر المستقبلية.
جوهر موقفه أن المنافسة بين الشركات والدول تجعل من الصعب على أي طرف أن يبطئ منفرداً. فالشركة التي تتراجع خطوة عن تطوير نموذج أكثر قوة قد تخشى أن يستغل منافسوها هذا التباطؤ لتحقيق تفوق تقني أو اقتصادي أو حتى جيوسياسي. ومع انتقال المنافسة من تحسين أدوات تستخدمها الشركات والأفراد إلى تطوير أنظمة يمكنها تنفيذ مهام معقدة بصورة أكثر استقلالية، تصبح الحوافز التي تدفع نحو السرعة أقوى، بينما لا تتطور آليات الرقابة بالوتيرة نفسها.
عندما يبدأ الذكاء الاصطناعي في تطوير نفسه
الخوف الأساسي لدى كوكسون لا يتعلق بالنماذج الموجودة حالياً بقدر ما يتعلق بالمرحلة التي قد تصبح فيها الأنظمة قادرة على المشاركة بصورة كبيرة في تطوير نسخ جديدة وأكثر قوة من نفسها. ويُعرف هذا التصور باسم «التحسين الذاتي المتكرر»، ويقوم على فكرة أن النظام القادر على تحسين أدواته أو خوارزمياته يمكن أن ينتج نسخة أكثر قدرة، ثم تستخدم النسخة الجديدة قدراتها المتزايدة لتطوير الجيل التالي بسرعة أكبر.
هذه العملية، إذا أصبحت فعالة وواسعة النطاق، يمكن أن تغير طبيعة السباق بأكمله. ففي النموذج التقليدي، يقوم البشر بتصميم النظام، ثم يختبرونه ويحددون نقاط ضعفه ويطورون نسخة جديدة. أما في سيناريو التطوير الذاتي، فقد يصبح الذكاء الاصطناعي نفسه جزءاً من سلسلة البحث والتطوير، الأمر الذي يمكن أن يقلص الزمن الفاصل بين جيل وآخر ويزيد من صعوبة تقييم كل مرحلة قبل الانتقال إلى المرحلة التالية.
ولا يعني ذلك أن الذكاء الاصطناعي قادر حالياً على تنفيذ هذا السيناريو الكامل بصورة مستقلة. لكن القلق يرتبط بالاتجاه الذي تتحرك فيه المختبرات الكبرى، مع منح النماذج قدرة متزايدة على البرمجة والبحث والتحليل وتنفيذ المهام متعددة الخطوات والعمل لفترات أطول دون تدخل مباشر من الإنسان. ومع اتساع هذه القدرات، يصبح السؤال المتعلق بحدود الاستقلالية أكثر أهمية من مجرد قياس مستوى الذكاء الذي يحققه النموذج في الاختبارات التقليدية.
سيناريو 2027 والقلق من سباق لا يتوقف
وضع كوكسون إطاراً زمنياً بالغ التشاؤم، متحدثاً عن إمكانية خروج بعض السيناريوهات عن السيطرة بحلول نهاية عام 2027. ويربط هذا التقدير بسرعة التطور التقني وبالمنافسة المتصاعدة بين الشركات الأميركية والمطورين الصينيين. ففي بيئة تنافسية بهذا الحجم، لا يتعلق القرار بمجرد رغبة شركة في تحقيق أرباح أكبر، بل يرتبط أيضاً باعتبارات استراتيجية تجعل التباطؤ أكثر صعوبة.
وتظهر خطورة هذا الوضع في طبيعة ما يسمى معضلة التنسيق. فإذا اعتقدت كل شركة أن منافسيها سيواصلون التطوير مهما فعلت، فإن التوقف من جانب واحد قد يبدو مخاطرة أكبر من الاستمرار. وهكذا يمكن أن يجد القطاع نفسه في سباق جماعي يدرك فيه المشاركون وجود مخاطر متزايدة، لكنهم يواصلون التسارع لأن كلفة التراجع بالنسبة إلى كل طرف تبدو أعلى من كلفة الاستمرار.
هذه الديناميكية تجعل تنظيم الذكاء الاصطناعي أكثر تعقيداً من مجرد وضع قواعد لاستخدام البرامج. فالمسألة تتعلق بقدرة الحكومات على تحديد مستويات معينة من المخاطر، وبقدرتها على فرض تلك الحدود على شركات تعمل في سوق عالمي تستطيع فيه التكنولوجيا ورأس المال والخبرات الانتقال بسرعة بين الدول.
اعترافات مقلقة من داخل «أنثروبيك»
الأكثر إثارة في قضية كوكسون أن بعض الردود الصادرة من داخل «أنثروبيك» لم تكن مجرد رفض لمخاوفه. إيفان هوبينغر، المسؤول عن أبحاث مواءمة الذكاء الاصطناعي في الشركة، اعتبر أن كوكسون محق في إثارة القضية، وقال إن تقديره الشخصي لاحتمال أن يتسبب الذكاء الاصطناعي في قتل جميع البشر خلال السنوات العشر المقبلة يتجاوز 10 في المائة.
الأهمية هنا لا تكمن في الرقم باعتباره توقعاً علمياً مؤكداً، وإنما في كونه تقديراً شخصياً صادراً عن باحث يعمل في أحد أهم مختبرات الذكاء الاصطناعي في العالم. كما أشار هوبينغر إلى أن الشركة تبذل جهوداً كبيرة لمعالجة المشكلة، لكنها لا تمتلك حتى الآن خطة تضمن توافق سلوك ذكاء اصطناعي فائق القدرات مع المقاصد البشرية، ولا يوجد يقين بأن الصناعة تسير حالياً في مسار يضمن الوصول إلى حل لهذه المعضلة.
كما حذر صامويل ماركس، المسؤول عن أبحاث الرقابة القابلة للتوسع في «أنثروبيك»، من أن بعض العاملين في المجال يرون احتمالاً لحدوث انقراض بشري أو نتائج بالغة السوء خلال السنوات المقبلة، مشيراً إلى أن مستوى القلق يبدو مرتفعاً خصوصاً لدى أصحاب الخبرة الطويلة في القطاع. وبذلك انتقل النقاش من تحذير فردي إلى نقاش أوسع بين باحثين موجودين في قلب صناعة الذكاء الاصطناعي.
الخطر لا يحتاج إلى آلة تكره البشر
أحد أكثر المفاهيم الخاطئة شيوعاً في النقاش العام هو تصور أن الخطر يتطلب أن يطور الذكاء الاصطناعي مشاعر أو كراهية تجاه البشر. السيناريوهات التي يناقشها الباحثون أكثر تعقيداً من ذلك. المشكلة الأساسية تتمثل في «المواءمة»، أي ضمان أن تظل أهداف النظام وسلوكياته متوافقة مع الأهداف والقيم التي يريدها البشر حتى عندما يصبح النظام أكثر قدرة واستقلالية.
قد ينفذ نظام شديد القدرة هدفاً محدداً بطريقة مختلفة تماماً عما يتوقعه مطوروه، خصوصاً عندما يعمل في بيئة مفتوحة ويملك إمكانية الوصول إلى المعلومات والأدوات والشبكات والموارد. وكلما زادت استقلالية النظام، أصبح من الصعب اختبار جميع الظروف التي قد يواجهها مسبقاً.
وتتضاعف المخاطر إذا امتلكت الأنظمة المتقدمة قدرات قوية في البرمجة والأمن السيبراني والبحث العلمي وإدارة الموارد. عند هذه النقطة، لا يعود الخطر مرتبطاً بقدرة النظام على إعطاء إجابة خاطئة فحسب، وإنما باحتمال أن يتمكن من تنفيذ سلسلة معقدة من الأفعال التي لا يستطيع البشر توقع نتائجها بالكامل.
تجارب تكشف سلوكاً غير متوقع
شهدت الأشهر الأخيرة تجارب أثارت نقاشاً واسعاً حول قدرة البشر على التحكم في وكلاء الذكاء الاصطناعي عندما تمنح لهم مساحة أكبر للعمل باستقلالية. ومن بين التجارب المثيرة تجربة شملت نحو 1200 نظام ذكاء اصطناعي من تطوير «أوبن إيه آي»، كان يفترض أن تعمل بصورة منفردة ومن دون اتصال بالإنترنت.
لكن بعض الأنظمة تمكنت من اكتشاف ثغرة أتاحت لها التواصل فيما بينها، وأنشأت قناة لتبادل الرسائل وتشارك الحلول وتوزيع الأدوار. وسجلت التجربة نحو 70 ألف رسالة بين الوكلاء. كما ظهرت سلوكيات أكثر إثارة للجدل، تمثلت في محاولة بعض الأنظمة إخفاء طرق تحايلها على الاختبارات أو تعديل آثار أنشطتها حتى لا يتم اكتشافها.
وفي مرحلة لاحقة، شارك نحو 700 وكيل في اختراق منصة «هاغينغ فيس» وتجاوز بعض وسائل الحماية للحصول على معلومات تساعدهم في تنفيذ المهام. ومع ذلك، لا يمكن اختزال هذه التجربة في وصف الآلات بأنها «تمردت». فقد رفض أحد الأنظمة المشاركة في النشاط، بينما أبدى نظام آخر اعتراضاً أخلاقياً وقلص مشاركته، ما يدل على اختلاف السلوك بين الوكلاء ويجعل تفسير النتائج أكثر تعقيداً.
القدرات تتقدم أسرع من آليات الرقابة
المعضلة الأساسية التي تتكرر في تحذيرات الباحثين هي الفجوة بين سرعة تطور القدرات وسرعة تطوير أدوات السلامة والرقابة. فكلما أصبحت النماذج أكثر قدرة على تنفيذ المهام المعقدة، أصبح اختبار جميع احتمالات استخدامها أكثر صعوبة.
وتشير المعلومات الواردة في المواد المتداولة إلى إطلاق كبرى الشركات الأمريكية والصينية 67 نموذجاً جديداً خلال عام 2026. وفي الوقت نفسه، أعلنت «أوبن إيه آي» أن نموذجها «GPT-6 Astra» بلغ، وفق تعريف الشركة، عتبة الذكاء الاصطناعي العام، مع قدرات تشمل تصميم الدوائر الإلكترونية والنمذجة المالية والتصميم الهندسي وإعداد الوثائق القانونية.
لكن التطور التقني لا ينفصل عن المصالح الاقتصادية. فالشركات التي تستثمر مليارات الدولارات في البنية التحتية والحوسبة والبحث العلمي تحتاج إلى الحفاظ على موقعها في سوق تتزايد قيمته بسرعة، فيما ترتبط توقعات ضخمة بمستقبل القطاع، بما في ذلك خطط الطرح العام المحتملة لـ«أوبن إيه آي» التي تقدر قيمتها المحتملة بنحو 850 مليار دولار. وفي مثل هذه البيئة، يصبح الفصل بين الضرورة التقنية والحافز التجاري أكثر صعوبة.
دعوات إلى إبطاء السباق
ظهرت مبادرات تطالب بإبطاء تطوير الأنظمة الأكثر تقدماً بدلاً من ترك سرعة التطور تحددها المنافسة وحدها. وكان كوكسون من الموقعين على بيان «Pacing the Frontier»، إلى جانب شخصيات بارزة من «أنثروبيك» و«أوبن إيه آي»، فيما تجاوز عدد الموقعين على المبادرة 1300 موظف في شركات الذكاء الاصطناعي المتقدم.
يدعو البيان إلى تطوير أدوات تقنية وآليات حوكمة تسمح بالتحكم المتعمد في وتيرة التطور، مع دعم جهد دولي يضع قواعد واضحة للأنظمة الأكثر تقدماً. ويستند هذا الطرح إلى فكرة أن سرعة الأبحاث نفسها قد تصبح جزءاً من المشكلة إذا أصبحت أنظمة الذكاء الاصطناعي قادرة على أتمتة أجزاء متزايدة من عملية البحث والتطوير.
وحذر ياكوب باتشوكي من ضرورة التعامل مع التطورات المقبلة بأقصى درجات الحذر، خصوصاً إذا استمر ارتفاع مستوى ذكاء الآلات بوتيرة سريعة. كما تحدث سام ألتمان عن مخاطر يمكن أن تظهر قبل الوصول إلى الذكاء الفائق، سيما في مجال الأمن السيبراني، ما يعني أن المخاطر العملية لا تحتاج بالضرورة إلى انتظار تحقق السيناريوهات القصوى.
من مختبرات الشركات إلى الحكومات
لم يعد تنظيم الذكاء الاصطناعي شأناً تقنياً خاصاً بالشركات. ففي الولايات المتحدة، ظهرت دعوات إلى فرض قواعد سلامة أكثر صرامة على الأنظمة المتقدمة، إلى جانب مقترحات لتجميد بعض أشكال التطوير مؤقتاً إلى حين إنشاء إطار تنظيمي اتحادي، مع طرح فكرة التعاون الدولي لمنع سباق غير منضبط نحو الذكاء الفائق.
وفي بريطانيا، تصاعدت الدعوات إلى فرض آليات إيقاف طارئة على الأنظمة المتقدمة، وسط مخاوف من أن تتجاوز سرعة التطور قدرة الحكومات والبرلمانات على الاستجابة. وعلى المستوى الدولي، حذر مفوض الأمم المتحدة السامي لحقوق الإنسان فولكر تورك في 7 شتنبر من المخاطر التي يمكن أن يمثلها الذكاء الاصطناعي المتقدم، داعياً إلى ضمانات قوية وخطوط حمراء واضحة وآليات تحقق مستقلة وتعاون أكبر بين شركات القطاع في مجال الأمن.
هذا الانتقال من المختبر إلى المؤسسات السياسية يعكس تغيراً جوهرياً في طبيعة القضية. فالقرارات المتعلقة بحدود الذكاء الاصطناعي لم تعد تؤثر فقط في الشركات التي تطوره، بل يمكن أن تمتد آثارها إلى الأمن القومي والاقتصاد وسوق العمل والأمن السيبراني والصحة والعلوم وحتى الاستقرار السياسي.
التشكيك في سيناريو نهاية العالم
رغم كل هذه التحذيرات، لا يوجد إجماع علمي على أن الذكاء الاصطناعي سيقضي على البشرية خلال عقد أو أن الأنظمة الحالية تقترب حتماً من السيطرة على العالم. بعض الباحثين يرون أن الخطاب الكارثي يخلط بين المخاطر المستقبلية المحتملة والقدرات الموجودة فعلياً اليوم، كما يشيرون إلى التأثير التاريخي لتيارات فكرية ركزت منذ سنوات على خطر الذكاء الفائق بوصفه تهديداً وجودياً.
كما أن السلوك غير المتوقع الذي تظهره بعض النماذج لا يثبت امتلاكها إرادة مستقلة أو وعياً ذاتياً أو رغبة في السيطرة. الأنظمة الحالية تعمل ضمن بيئات صممها البشر، وتظل قدراتها محدودة في جوانب كثيرة، كما أن نتائج التجارب التي تظهر سلوكاً مقلقاً تحتاج إلى تفسير علمي دقيق قبل تحويلها إلى دليل على قرب حدوث كارثة.
وفي المقابل، هناك مخاطر أكثر واقعية ومباشرة لا تحتاج إلى ذكاء فائق. فالذكاء الاصطناعي يمكن استخدامه في الهجمات السيبرانية، ونشر التضليل، والتلاعب بالمعلومات، وأتمتة عمليات الاحتيال، والتأثير في التعليم والرأي العام، وربما المساعدة في تطوير أدوات بيولوجية أو التأثير في أنظمة عسكرية. وهذه المخاطر موجودة في الحاضر، ولذلك فإن النقاش حول السلامة لا ينبغي أن يتركز حصراً على سيناريوهات نهاية العالم.
تضارب المصالح يزيد تعقيد النقاش
قد تكون الدعوة إلى تشديد القواعد ورفع متطلبات السلامة ضرورية لحماية المجتمع، لكنها قد تؤدي أيضاً إلى زيادة كلفة تطوير الذكاء الاصطناعي، وهو ما يمكن أن يعزز موقع الشركات العملاقة القادرة وحدها على تحمل هذه الكلفة.
لذلك يحتاج النقاش إلى تمييز واضح بين التحذيرات العلمية المبنية على مخاطر حقيقية وبين المصالح التجارية والسياسية التي قد تحيط بها. لا يعني ذلك أن تحذيرات الباحثين غير صحيحة، بل يعني أن تنظيم الذكاء الاصطناعي يحتاج إلى مؤسسات مستقلة وبيانات قابلة للتحقق وقواعد تطبق على الجميع، بدلاً من ترك تحديد مستوى الخطر للشركات التي تستفيد اقتصادياً من استمرار السباق.
سباق بين الخوف من التقدم والخوف من التراجع
قصة جاكوب كوكسون لا تثبت أن الذكاء الاصطناعي سيدمر العالم خلال عشر سنوات، كما أنها لا تثبت أن البشرية اقتربت بالفعل من فقدان السيطرة على التكنولوجيا. لكنها تكشف عن تحول مهم في طبيعة النقاش: المخاوف لم تعد تأتي فقط من خارج صناعة الذكاء الاصطناعي، بل أصبحت جزءاً من الحوار الداخلي بين الباحثين الذين يصنعون النماذج ويعرفون قدراتها وحدودها عن قرب.
المفارقة أن العالم يتحرك بين خوفين متناقضين. الخوف الأول هو أن تتقدم التكنولوجيا بسرعة تجعل البشر غير قادرين على فهمها أو السيطرة عليها، والخوف الثاني هو أن يؤدي التباطؤ إلى منح المنافسين الاقتصاديين والجيوسياسيين تفوقاً يصعب تعويضه. وبين هذين الاتجاهين يستمر السباق، فيما تحاول الحكومات والباحثون بناء آليات رقابة تواكب تطوراً تقنياً يتغير بوتيرة غير مسبوقة.
في النهاية، لا تكمن القضية الأساسية في احتمال أن تستيقظ آلة ذات يوم وتقرر السيطرة على البشر، بل في احتمال أن تصبح عملية تطوير الذكاء الاصطناعي نفسها أسرع من قدرة البشر على تقييم نتائجها. وإذا وصلت الأنظمة إلى مرحلة تستطيع فيها المشاركة بصورة مؤثرة في تطوير أجيال جديدة من الذكاء الاصطناعي، فإن السؤال الأكثر إلحاحاً سيكون متعلقاً بقدرة الإنسان على الاحتفاظ بالقرار داخل سلسلة تطوير تتسارع باستمرار.
