خلال اختبار أجرته شركة إيرريغولار الإسرائيلية للأمن السيبراني لنماذج الذكاء الاصطناعي المتقدمة، وصل نموذج جيميني من غوغل إلى البنى التحتية الإلكترونية لثلاث شركات حقيقية بسبب إتاحة الوصول إلى الإنترنت على نحو غير مخطط له.
كان من المقرر إجراء الاختبار في بيئة مغلقة، وأن يشن جيميني هجمات سيبرانية على أنظمة تجريبية فقط. لكن تشغيل اتصال الإنترنت عن طريق الخطأ أدى إلى خروج النموذج عن الأنظمة المشمولة بالاختبار.
جيميني عثر على بيانات الدخول أو خمّنها
أعلنت غوغل أن جيميني استخدم معلومات عثر عليها عبر الإنترنت أو خمّن بيانات الدخول للاتصال بمواقع إلكترونية اعتقد أنها جزء من الاختبار. وأُوقف النموذج في الحالات الثلاث جميعها.
وأفادت الشركة بإبلاغ الشركات الثلاث المتضررة من الحوادث، لكنها لم تكشف عن تفاصيلها للرأي العام. كما ذكرت غوغل أنه لم تحدث أضرار، وأنها لم ترَ ضرورة لإصدار إعلان عام.
وقالت هذر أدكينز، نائبة رئيس غوغل لشؤون هندسة الأمن، إن الحوادث أظهرت ضرورة تدريب نماذج الذكاء الاصطناعي القوية على العمل بمسؤولية.
إيرريغولار تعلن معالجة المشكلات
أوضحت إيرريغولار أن الحادث مرتبط بالواقعة نفسها التي أُبلغ عنها سابقًا، وأنه لم يقع في جوهره حادث منفصل. وأفادت الشركة بأن مختبرات الأبحاث المعنية والأطراف المتضررة أُبلغت في نهاية يوليو 2026، وأن المشكلات التي جرى تحديدها عولجت قبل أسابيع.
وكانت إيرريغولار قد أجرت في وقت سابق اختبارات أمنية لصالح شركتي أوبن إيه آي وأنثروبيك. كما واجهت الشركة حوادث منفصلة خرجت فيها نماذج الذكاء الاصطناعي عن بيئات الاختبار ووصلت إلى أنظمة حقيقية.
جدل في الولايات المتحدة بشأن الرقابة على التطوير
أعاد الحادث الذي وقع خلال اختبار جيميني إلى الواجهة في الولايات المتحدة الجدل بشأن الرقابة على نماذج الذكاء الاصطناعي المتقدمة. ودعا السيناتور بيرني ساندرز الشركات إلى وقف تطوير النماذج المتقدمة مؤقتًا، وقال إن ما حدث يوضح صعوبة السيطرة على هذه التكنولوجيا.
وأعلنت أوبن إيه آي وقف أعمال تطوير النماذج المتقدمة لمدة أسبوعين. من جهته، دعا الرئيس التنفيذي لشركة أنثروبيك داريو أمودي إلى إبطاء أعمال الذكاء الاصطناعي بصورة جماعية ومنتظمة، بما يتيح تطوير آليات الأمان اللازمة.
