- BIST10011,722-2.89%
- الدولار49.45+0.05%
- اليورو55.62+0.37%
- الذهب4,181.10+0.26%
- الفائدة37.00%-1.00
- البيتكوين81,579+0.09%
- 17 أكتوبر 202612°
- BIST10011,722-2.89%
- الدولار49.45+0.05%
- اليورو55.62+0.37%
- الذهب4,181.10+0.26%
- الفائدة37.00%-1.00
- البيتكوين81,579+0.09%
- 17 أكتوبر 202612°
خبراء في مجلس الشيوخ الأميركي يطالبون بقواعد صارمة لوكلاء الذكاء الاصطناعي
قال كريس بينتر وماريوس هوبهان خلال جلسة في مجلس الشيوخ الأميركي يوم الأربعاء إن وكلاء الذكاء الاصطناعي قادرون على تنفيذ مهام معقدة بتدخل بشري محدود، وإنهم يشكلون خطراً كبيراً على البنية التحتية الحيوية. ودعا الخبيران إلى تشديد الرقابة وقواعد المسؤولية على المطورين.
سلّطت جلسة للجنة الأمن الداخلي والشؤون الحكومية في مجلس الشيوخ الأميركي، ضمن اللجنة الفرعية لإدارة الكوارث، الضوء على المخاطر الأمنية التي يشكلها وكلاء الذكاء الاصطناعي المستقلون على البنية التحتية الحيوية. وفي الجلسة التي حملت عنوان "الذكاء الاصطناعي المارق: حماية البنية التحتية الحيوية من هجمات وكلاء الذكاء الاصطناعي"، رأى خبراء أن مطوري الذكاء الاصطناعي بحاجة إلى رقابة أكثر صرامة، وأنه ينبغي تحميلهم مسؤولية الأضرار المحتملة.
ومن بين الوقائع المطروحة في الجلسة وصول وكلاء ذكاء اصطناعي طورتهم شركة OpenAI إلى البنية التحتية لمنصة Hugging Face. ووُصفت Hugging Face بأنها منصة يخزن فيها مطورو الذكاء الاصطناعي الأكواد البرمجية ويتبادلونها.
خبراء يحذرون من حدود الرقابة البشرية
قال كريس بينتر، رئيس قسم تقييم النماذج وأبحاث التهديدات، إن وكلاء الذكاء الاصطناعي قادرون على تحقيق أهداف قد يحتاج خبراء بشريون إلى أيام لإنجازها. وأضاف بينتر أن هذه الأنظمة تحتاج إلى تدخل بشري عند تشغيلها فقط.
وأوضح بينتر أنه لا يوجد شخص يراقب بالتفصيل كل مرحلة من مراحل أنشطة الوكلاء، نظراً إلى عملهم بسرعة عالية وعلى نطاق واسع، داعياً إلى إطلاع الرأي العام على مزيد من المعلومات بشأن قدرات الذكاء الاصطناعي المتقدمة والوقائع التي حدثت.
من جهته، قال ماريوس هوبهان، الرئيس التنفيذي لشركة Apollo Research، إن قدرات الذكاء الاصطناعي تتقدم بسرعة وبدأت تتجاوز الحدود البشرية. وأضاف هوبهان أن النماذج تستطيع إخفاء سلوكياتها المثيرة للقلق عندما تدرك أنها قيد الاختبار، كما بدأت تتجه إلى نوع من الاستدلال "الداخلي" الذي لا يمكن تتبع طريقة تفكيرها خلاله بشكل موثوق باستخدام الأدوات المتاحة حالياً.
وقال هوبهان إن واقعة Hugging Face أمكن إعادة بنائها لأن سلسلة أفكار نماذج الذكاء الاصطناعي كانت قابلة للقراءة من جانب البشر. لكنه أشار أيضاً إلى أن استخدام سلاسل الأفكار كدليل موثوق يزداد صعوبة.
نحو 1,000 وكيل في واقعة Hugging Face
ذُكر خلال الجلسة أن مئات وكلاء الذكاء الاصطناعي الذين أنشأتهم شركة OpenAI في يوليو/تموز وصلوا إلى البنية التحتية لمنصة Hugging Face بعد خروجهم من بيئة أمنية مخصصة للاختبار.
وقال دانيال كوكوتايلو إن "سرب" الذكاء الاصطناعي الذي هاجم Hugging Face تألف من نحو 1,000 وكيل. وأضاف كوكوتايلو أن الوكلاء لم يكونوا مبرمجين للتواصل مع بعضهم، لكنهم أنشأوا رغم ذلك لوحة رسائل من دون تصريح.
ورداً على سؤال حول الموعد الذي قد يطور فيه الذكاء الاصطناعي لغة لا يستطيع البشر فهمها بوضوح، قال هوبهان: "نحن على بُعد 12 شهراً". وأضاف أن دراسة أُجريت مع OpenAI العام الماضي أظهرت أن أحد نماذج الشركة استخدم لغة غير إنجليزية ولا يفهمها البشر فهماً كاملاً.
مناقشة المسؤولية القانونية للمطورين
قال السيناتور جوش هاولي إن المنتجين يتحملون المسؤولية عندما يتسبب منتج معيب في إلحاق الضرر بالبشر. ودعا هاولي إلى تطبيق قواعد المسؤولية نفسها المطبقة على المنتجين الآخرين على مطوري الذكاء الاصطناعي أيضاً.
وقال بول أوم، أستاذ القانون في مركز القانون بجامعة جورجتاون، إن نظامي المسؤولية التقصيرية والقانون الجنائي لم ينجحا في ردع الهجمات الإلكترونية التي قد يتسبب فيها وكلاء الذكاء الاصطناعي.
قال كورت غوديت، نائب الرئيس الأول في شركة Dragos، إن مشغلي البنية التحتية الحيوية يواجهون الآن بيئة تهديد جديدة لا تقتصر على الهجمات المتفرقة عالية التأثير التي تستهدف عدداً محدوداً من الأهداف. وأضاف غوديت أن البنية التحتية الحيوية بأكملها أصبحت هدفاً في هذه البيئة.
وقال دانيال كوكوتايلو، الموظف السابق في OpenAI والمدير التنفيذي لمشروع AI Futures Project، إن الذكاء الاصطناعي يكتب الآن الجزء الأكبر من الأكواد في شركات الذكاء الاصطناعي الرائدة. وأضاف أن المهندسين البشريين يعملون بدرجة أكبر كأشخاص يديرون هذه الأنظمة.
وحذر كوكوتايلو من أن سباق تطوير الذكاء الفائق قد يؤدي إلى تركّز القوة في أيدي معينة، وزيادة خطر اندلاع حرب عالمية، والإرهاب البيولوجي، واضطرابات اقتصادية كبرى.
اشترك في Ally Daily
اشترك ليتم إعلامك بالأخبار والتطورات والإعلانات الخاصة. سنبقيك على اطلاع.
بالتسجيل، فإنك توافق على سياسة الخصوصية الخاصة بنا
