أدت الادعاءات بأن إجراءات الأمان في نموذج Claude Fable 5 من شركة Anthropic يمكن تعطيلها بطرق معينة إلى تسريع المفاوضات بين الشركة وإدارة الولايات المتحدة. خلال اللقاءات التي جرت في واشنطن، نوقش ما إذا كان يمكن إعادة فتح النموذج للاستخدام من قبل المستهلكين.
تتمسك إدارة الولايات المتحدة برأيها بأن بعض طبقات الحماية في النموذج يمكن تجاوزها، مما قد يتيح الوصول إلى قدرات أمن سيبراني أقوى. من جانبها، ترى Anthropic أن هذه المخاوف مبالغ فيها.
الاجتماعات عُقدت في وزارة التجارة
أُجريت المفاوضات ضمن اجتماعات فرق العمل التي نظمتها وزارة التجارة. شارك في الاجتماعات باحثون حكوميون ومسؤولون من مكتب المدير الوطني للأمن السيبراني، كما انضم وزير التجارة هوارد لوتنيك عبر مؤتمر من قمة مجموعة السبع.
قاد المفاوضات من جانب Anthropic الشريك المؤسس ورئيس قسم الحوسبة توم براون ورئيسة العلاقات الخارجية سارة هيك. كما حضر إلى واشنطن رئيس فريق الاختبارات الأمنية المتقدمة لوجان غراهام والباحث الأمني الأول نيكولاس كارليني للمشاركة في اللقاءات.
قال متحدث باسم الشركة إن الطرفين يعملان على حل المشكلة بسرعة، بينما لم يصدر البيت الأبيض أي تعليق حول الموضوع.
المخاوف الأمنية أدت إلى قرار التقييد
تركزت المفاوضات على الفرق بين نموذج Claude Fable 5 ونموذج Mythos الخاص بالشركة. يُعتبر Fable 5 نسخة محدودة مزودة بحمايات في مجالات الأمن السيبراني والبيولوجيا والكيمياء، ويُعتقد أنه في حال تجاوز هذه الحمايات يمكن الوصول إلى قدرات أقوى على مستوى Mythos.
اتخذت إدارة الولايات المتحدة إجراءات لأول مرة الأسبوع الماضي بسبب هذه المخاوف الأمنية. يُذكر أن الرئيس التنفيذي لأمازون آندي جاسي اتصل مباشرة بوزير الخزانة سكوت بيسنت، مما زاد من قلق الإدارة. ثم كلف البيت الأبيض وكالة الأمن القومي بتقييم الثغرات الأمنية.
أفادت التقارير بأن وكالة الأمن القومي أكدت إمكانية تجاوز الحمايات، مما دفع الإدارة لاتخاذ قرار بتقييد النموذج. في الوقت نفسه، التقى لوتنيك بالرئيس التنفيذي لشركة Anthropic داريو أمودي.
بعد أن أوقفت Anthropic وصول المستخدمين إلى النموذج في نهاية الأسبوع، أجرى لوتنيك عدة مكالمات هاتفية مع براون وهيك. وأعربت وزارة التجارة عن استعدادها للبحث عن طريقة لإعادة فتح النموذج للمستخدمين بمجرد حل المخاوف الأمنية بالكامل.
تزامن توقيت الأزمة مع خلاف مستمر بين Anthropic والبنتاغون حول الاستخدام العسكري لبعض نماذج الذكاء الاصطناعي، مما حول النقاش من مسألة أمنية تقنية إلى قضية أوسع تؤثر على علاقات الشركة مع الحكومة.
رسالة مفتوحة وردود فعل القطاع
رأى بعض الباحثين في الأمن السيبراني أن خطوة الإدارة كانت غير ضرورية وقدموا رسالة مفتوحة يعترضون فيها على القرار. وأشار الموقعون إلى أن نماذج الشركة قوية في اكتشاف الثغرات واستغلالها لكنها ليست فريدة في هذا المجال.
من جانبها، قالت الباحثة كاتي موسوريس إن الأدلة المتوفرة لا تثبت وجود اختراق كامل للنموذج. ووصفت الحمايات بأنها ليست حدوداً صارمة بل عوائق تبطئ المهاجمين المتمرسين.
خلال عطلة نهاية الأسبوع، قام المستثمرون بتقييم تأثير هذا التوتر على مستقبل الشركة. بعضهم اعتبر أن إدارة الولايات المتحدة تستهدف Anthropic بشكل خاص، بينما رأى آخرون أن شركة أخرى قد لا تواجه نفس الرد إذا أصدرت نموذجاً مشابهاً.
تشكل هذه التطورات تحذيراً للمختبرات الأخرى التي تطور نماذج ذكاء اصطناعي متقدمة، حيث يُتوقع أن تتواصل الشركات مع البيت الأبيض بشكل أبكر وأكثر شفافية قبل إطلاق نماذجها.
قال آيدان غوميز، الرئيس التنفيذي لشركة Cohere، إن هذه الأحداث تظهر أن الحكومة الأمريكية قد تتخذ مثل هذه الخطوات، محذراً الشركات من عدم الاستعداد لمثل هذه الوقائع.