أعادت استقالة لافتة من داخل اثنين من أبرز مختبرات الذكاء الاصطناعي في العالم إشعال النقاش حول ما إذا كان السباق لتطوير أنظمة ذكاء اصطناعي تزداد قوة يتحرك بوتيرة أسرع من الضمانات المصممة للسيطرة عليها.
أعلن جاكوب كوكسون، الباحث البريطاني البالغ من العمر 27 عاماً والذي أمضى السنوات الثلاث الماضية في العمل على التدريب المسبق للذكاء الاصطناعي في OpenAI وAnthropic، أنه سيغادر Anthropic وصناعة الذكاء الاصطناعي بأكملها.
ولم يكن السبب تغييراً عادياً في المسار المهني.
قال كوكسون إنه لم يعد يرغب في المشاركة في سباق شامل داخل القطاع لتطوير أنظمة ذكاء اصطناعي متزايدة الاستقلالية قد تصبح قادرة في نهاية المطاف على تحسين نفسها.
وكتب كوكسون في بيان علني: «لا تتصرف أي من الشركتين بمسؤولية». واتهم OpenAI وAnthropic بالتسابق نحو تطوير ذكاء فائق قادر على تحسين نفسه، وبـ«المقامرة بحياتنا».
وحظيت استقالته باهتمام خاص لأن التحذير جاء من شخص عمل مباشرة على التقنية التي يدور حولها النقاش.
من OpenAI إلى Anthropic
يتخصص كوكسون في «التدريب المسبق»، وهو إحدى المراحل الأساسية في تطوير نماذج الذكاء الاصطناعي الكبيرة.
وخلال التدريب المسبق، تعالج النماذج كميات هائلة من البيانات لتطوير القدرات الأساسية التي تتيح لاحقاً لأنظمة مثل ChatGPT وClaude فهم اللغة وكتابة البرمجيات والاستدلال وتنفيذ مهام أخرى.
عمل كوكسون ضمن الطاقم التقني في OpenAI من عام 2023 حتى يوليو 2026، وشمل بحثه أعمالاً مرتبطة بـGPT-4o.
ثم انتقل إلى Anthropic، وهي شركة أسسها موظفون سابقون في OpenAI وتشتهر على نطاق واسع بتركيزها على سلامة الذكاء الاصطناعي.
وقال كوكسون إن نهج Anthropic في مجال السلامة كان أحد أسباب قراره الانضمام إلى الشركة.
لكن تجربته هناك لم تبدد مخاوفه في نهاية المطاف.
وقال كوكسون إن الباحثين في Anthropic يدركون فعلاً المخاطر المحتملة للذكاء الاصطناعي المتقدم للغاية، لكن الشركة لا تزال عالقة في سباق تنافسي قد يتيح تباطؤها لمختبر آخر التقدم عليها.
«قد تخرج الأمور عن السيطرة»
يتعلق أحد أبرز تحذيرات كوكسون بسرعة تطور التقنية.
وقال كوكسون لصحيفة The Wall Street Journal إن التطورات، في بعض أكثر السيناريوهات اندفاعاً، قد تصبح بالفعل «خارج السيطرة» بحلول نهاية العام المقبل.
ويتركز قلقه على احتمال أن تصبح أنظمة الذكاء الاصطناعي قادرة على المساهمة بشكل كبير في تطوير ذكاء اصطناعي أكثر تقدماً.
ولن يقتصر دور مثل هذا النظام على الإجابة عن الأسئلة أو إكمال المهام التي يحددها البشر، بل قد يساعد الباحثين في كتابة الشيفرات وإجراء التجارب واكتشاف التحسينات وتسريع إنشاء الأنظمة التي ستخلفه.
ويشير الباحثون أحياناً إلى التسارع النظري لهذه العملية باسم «التحسين الذاتي التكراري».
ويخشى كوكسون أنه بمجرد أن يبدأ الذكاء الاصطناعي في تسريع أبحاث الذكاء الاصطناعي نفسه بدرجة كبيرة، قد يصبح من الصعب على البشر بصورة متزايدة مراقبة التقدم التقني والسيطرة عليه.
لكن من المهم التمييز بين هذه التحذيرات والحقائق المثبتة. فالأنظمة الحالية مثل ChatGPT وClaude ليست أنظمة ذكاء فائق مستقلة تعمل على تحسين نفسها بصورة مستقلة ومتواصلة. ويصف كوكسون سيناريو مستقبلياً محتملاً والمخاطر التي يرى أنها قد ترافقه.
السباق نحو ذكاء فائق قادر على تحسين نفسه
يتمحور الجدل حول مفهوم «الذكاء الفائق القادر على تحسين نفسه».
ويشير الذكاء الاصطناعي الفائق عموماً إلى نظام افتراضي للذكاء الاصطناعي تتجاوز قدراته قدرات البشر في نطاق واسع من المهام الفكرية.
ويرى كوكسون أن الأنظمة المستقبلية قد تصبح بالغة القدرة في مجالات مثل تطوير البرمجيات والأمن السيبراني والبحث العلمي وتطوير الذكاء الاصطناعي نفسه.
وحذر من أن الأنظمة المتقدمة بما يكفي قد تتمكن من اكتشاف الثغرات البرمجية، وتحويل قطاعات بأكملها بسرعة استثنائية، واكتساب نفوذ أو موارد كبيرة في العالم الحقيقي.
ومرة أخرى، هذه تنبؤات بشأن أنظمة مستقبلية محتملة، وليست قدرات أثبتتها منتجات الذكاء الاصطناعي الاستهلاكية الحالية.
لكن كوكسون يرى أن وتيرة التقدم تعني أن على القطاع معالجة هذه المخاطر قبل وجود مثل هذه الأنظمة.
«الأشخاص الذين يطورون الذكاء الاصطناعي» يشعرون بالقلق
قدم كوكسون أيضاً طرحاً لافتاً بشأن المواقف داخل مختبرات الذكاء الاصطناعي الرائدة.
وقال إن بعض الأشخاص الذين يطورون أنظمة الذكاء الاصطناعي المتقدمة يؤمنون فعلاً بأن التقنية قد تشكل في نهاية المطاف تهديداً وجودياً للبشرية.
وقال كوكسون إن المديرين التنفيذيين والباحثين البارزين قد يستخدمون لغة أكثر حذراً عند حديثهم علناً، بينما يعبرون سراً عن مخاوف أقوى بكثير بشأن ما قد تصبح عليه أنظمة الذكاء الاصطناعي المتزايدة القدرة.
واكتسبت تصريحاته اهتماماً إضافياً عندما رد باحثون لا يزالون يعملون في Anthropic علناً.
باحث في سلامة Anthropic يقدّر الخطر بأكثر من 10%
أيد إيفان هوبينغر، الذي يقود فريقاً لسلامة مواءمة الذكاء الاصطناعي في Anthropic، علناً جانباً مهماً من تحذير كوكسون.
وقال هوبينغر إنه يقدّر شخصياً بأكثر من 10% احتمال أن يتسبب الذكاء الاصطناعي في انقراض البشر خلال العقد المقبل.
كما أقر بتحدٍّ أساسي لم يحسمه القطاع بعد، يتمثل في ضمان بقاء نظام فائق الذكاء في المستقبل متوافقاً مع أهداف البشر وقيمهم.
وقال هوبينغر إن Anthropic تحاول معالجة المشكلة، لكنها لا تملك بعد خطة مثبتة لحل مشكلة المواءمة الخاصة بالذكاء الفائق.
وتشير «المواءمة» على نطاق واسع إلى تحدي ضمان استمرار نظام الذكاء الاصطناعي في التصرف وفق الأهداف البشرية المقصودة وقيود السلامة، حتى مع ازدياد قدراته.
وأكد هوبينغر أن قلقه يتعلق أساساً بالأنظمة المستقبلية القادرة على تحسين نفسها، وليس بمستوى الخطر الذي تمثله نماذج اليوم.
كما أن تقديره بالنسبة المئوية هو تقييم شخصي للمخاطر، وليس إجماعاً علمياً أو تنبؤاً بوقوع هذه النتيجة.
المخاوف تتجاوز Anthropic
لا يقتصر الجدل على كوكسون وAnthropic.
فقد دعا باحثون ومديرون تنفيذيون في أنحاء قطاع الذكاء الاصطناعي بصورة متزايدة إلى تعزيز الضمانات مع ازدياد قدرات النماذج المتقدمة.
وقال كبير العلماء في OpenAI، ياكوب باتشوكي، مؤخراً إن الصعود السريع للذكاء الآلي يستدعي «حذراً شديداً» وتنسيقاً أكبر بين شركات الذكاء الاصطناعي والحكومات.
كما حذر الرئيس التنفيذي لـOpenAI، سام ألتمان، من أن أنظمة الذكاء الاصطناعي المتزايدة القوة قد تخلق مخاطر خطيرة على الأمن السيبراني إذا لم تستجب الحكومات والشركات بسرعة.
وأوجد هذا الوضع غير المعتاد معضلة أساسية أمام قطاع الذكاء الاصطناعي: فبعض الأشخاص الذين يطورون أقوى أنظمة الذكاء الاصطناعي في العالم يحذرون في الوقت نفسه من أن التقنية قد تصبح شديدة الخطورة.
المشكلة الكبرى: هل تستطيع أي شركة تحمل تباطؤها؟
بالنسبة إلى كوكسون، تتجاوز المشكلة سياسات السلامة في OpenAI أو Anthropic.
إنها تكمن في بنية سباق الذكاء الاصطناعي نفسه.
فإذا أبطأت شركة ما التطوير طوعاً لإجراء أبحاث إضافية في مجال السلامة، فقد تواصل شركة أخرى، سواء في الولايات المتحدة أو الصين أو أي مكان آخر، التقدم وتنتزع الريادة التقنية.
ويخلق ذلك حافزاً لكل مختبر لمواصلة التقدم.
لذلك يرى كوكسون أن الإجراءات الطوعية التي تتخذها الشركات بصورة منفردة قد لا تكون كافية.
وقد تشمل الحلول المحتملة اتفاقات بين مختبرات الذكاء الاصطناعي الرائدة للحد من وتيرة التطوير، ورقابة حكومية أقوى، أو قيوداً مؤقتة على تطوير بعض القدرات المتقدمة.
ويتمثل التحدي المركزي في ضمان خضوع الشركات لقواعد متشابهة، حتى لا يعني إعطاء الأولوية للسلامة تلقائياً خسارة سباق الذكاء الاصطناعي.
تحذير من داخل صناعة الذكاء الاصطناعي
لا تثبت استقالة كوكسون أن الذكاء الاصطناعي على وشك الإفلات من السيطرة البشرية.
كما أنها لا تعني أن ChatGPT أو Claude أو نماذج الذكاء الاصطناعي الأخرى الحالية أصبحت أنظمة فائقة الذكاء ومستقلة.
ما يمنح القصة أهميتها هو مصدر التحذير.
فقد أمضى كوكسون سنوات في العمل مباشرة على نماذج الذكاء الاصطناعي المتقدمة في اثنين من أكثر مختبرات القطاع تأثيراً.
كما يردد باحثون لا يزالون داخل هذه المؤسسات مخاوفه، ولو جزئياً.
ويحوّل ذلك ما كان في السابق نقاشاً نظرياً إلى حد كبير حول مستقبل الذكاء الاصطناعي إلى خلاف علني متزايد بين الأشخاص الذين يطورون التقنية فعلياً.
ويصبح السؤال الذي يواجه القطاع أكثر صعوبة في تجاهله:
هل تستطيع شركات الذكاء الاصطناعي الرائدة في العالم إبطاء السباق بما يكفي لجعل الأنظمة المتزايدة القوة آمنة، أم سيدفع الضغط التنافسي التقنية إلى الأمام بوتيرة أسرع من قدرة البشرية على تعلم كيفية السيطرة عليها؟
