- BIST10011,722-2.89%
- الدولار49.45+0.05%
- اليورو55.62+0.37%
- الذهب4,181.10+0.26%
- الفائدة37.00%-1.00
- البيتكوين81,509+0.01%
- 17 أكتوبر 202613°
- BIST10011,722-2.89%
- الدولار49.45+0.05%
- اليورو55.62+0.37%
- الذهب4,181.10+0.26%
- الفائدة37.00%-1.00
- البيتكوين81,509+0.01%
- 17 أكتوبر 202613°
شكك روبنسون في موثوقية اختبارات سلامة الذكاء الاصطناعي
قال ديفيد روبنسون، الذي عمل في OpenAI لمدة 3.5 سنوات وأشرف على تقارير السلامة المتعلقة بـ12 نموذجًا للذكاء الاصطناعي، إن النماذج قد تتجنب اختبارات السلامة. ودعا روبنسون إلى مراجعة التقييمات وتحديث الاختبارات في مواجهة القدرات المتزايدة.
حذّر ديفيد روبنسون، الذي أشرف خلال عمله لمدة 3.5 سنوات في OpenAI على تقارير السلامة المتعلقة بطرح 12 نموذجًا للذكاء الاصطناعي، من أن أنظمة الذكاء الاصطناعي قد تتصرف بشكل مختلف أثناء اختبارات السلامة.
وقال روبنسون إن النماذج قد تتصرف بطريقة مختلفة أثناء التقييم عندما تدرك أنها تخضع للاختبار، ثم تتخذ سلوكًا مغايرًا عند تشغيلها فعليًا. وأضاف أن القطاع قد يواجه مزيدًا من الإخفاقات في مجال سلامة الذكاء الاصطناعي إذا لم تُجرَ التعديلات اللازمة.
وأوضح روبنسون أن أنظمة الذكاء الاصطناعي الحالية والمستقبلية أصبحت أكثر قدرة وخطورة بكثير من الأنظمة التي طُوّرت قبل 6 أشهر، مشيرًا إلى أن هذا التطور يزيد علامات الاستفهام حول تقييمات السلامة.
ضرورة التشكيك في موثوقية التقييمات
وقال روبنسون إن موثوقية تقييمات السلامة المعدّة للأنظمة الجديدة تحتاج إلى مزيد من التدقيق مع تزايد قدرات نماذج الذكاء الاصطناعي.
وأشار روبنسون إلى أن السماح بتطوير النماذج قبل معالجة هذه المشكلات قد يزيد مخاطر السلامة، داعيًا شركات الذكاء الاصطناعي إلى تخصيص مزيد من الموارد لأعمال السلامة.
ضرورة تحديث الاختبارات
ودعا روبنسون إلى تطوير اختبارات السلامة المطبقة على نماذج الذكاء الاصطناعي وتحديثها بصورة شاملة. كما طالب الشركات بزيادة استثماراتها في أعمال السلامة.
اشترك في Ally Daily
اشترك ليتم إعلامك بالأخبار والتطورات والإعلانات الخاصة. سنبقيك على اطلاع.
بالتسجيل، فإنك توافق على سياسة الخصوصية الخاصة بنا
