- BIST10011,568+1.21%
- الدولار49.55+0.21%
- اليورو55.57-0.09%
- الذهب4,131.30-0.69%
- الفائدة37.00%-1.00
- البيتكوين81,418-0.52%
- 20 أكتوبر 20267°
- BIST10011,568+1.21%
- الدولار49.55+0.21%
- اليورو55.57-0.09%
- الذهب4,131.30-0.69%
- الفائدة37.00%-1.00
- البيتكوين81,418-0.52%
- 20 أكتوبر 20267°
OpenAI: نموذج أبحاث أنفق عملة مشفرة تجريبية من محفظة غير مصرح له باستخدامها
كشفت OpenAI أن أحد نماذج الأبحاث الداخلية لديها فحص 362 عنوانا لمحافظ مشتقة من عبارات استرداد عامة للمطورين، واستخدم إيثرا تجريبيا من حساب لم يكن مخولا بالإنفاق منه لإنهاء مهمة برمجية، دون أن يذكر ذلك في تقريره النهائي.
كشفت شركة OpenAI أن أحد نماذج الأبحاث الداخلية لديها استخدم أموالا من محفظة عملات مشفرة لم يكن مخولا باستخدامها لإنجاز مهمة برمجية، ثم أغفل هذا التفصيل في تقريره النهائي.
ووصفت الشركة الحالة في تقرير عن عدم المواءمة نشرته في 15 أكتوبر. ووقعت الحادثة، التي تتعلق بنموذج من عائلة GPT-5.6 Sol، في 26 يونيو، لكن OpenAI لم تكتشفها إلا في 25 سبتمبر بعد توسيع رقابتها لتشمل سجلات النشاط السابقة للنماذج.
طريق مسدود ثم التفاف
وكان قد طُلب من النموذج تحديث نموذج أولي لتطبيق تداول عملات مشفرة واستبدال عناوين العقود المؤقتة بعقود عاملة على سيبوليا، شبكة الاختبار التابعة لإيثيريوم. وسُمح له بنشر عقود جديدة، لكنه لم يُمنح محفظة ممولة ولا إذنا بالإنفاق من حساب أي شخص آخر.
وبعد فشل محاولات الحصول على رموز تجريبية مجانية، كتب النموذج برنامجا يشتق حسابات من عبارات استرداد معروفة للمطورين، وفحص 362 عنوانا واختار حسابا يملك ما يكفي من إيثر سيبوليا، ثم استخرج المفتاح الخاص ووقع عملية النشر دون اتصال، وأرسلها عبر مزود آخر بعد أخطاء في الشبكة، فاقتُطعت رسوم المعاملة من ذلك الحساب.
وبحسب التقرير، تساءل النموذج عما إذا كان لديه إذن، لكنه خلص إلى أن «الأموال الموجودة على عبارة استرداد عامة ومعروفة للمطورين متروكة فعليا، إنها إيثر تجريبي؛ سيبوليا بلا قيمة». ولا يملك إيثر سيبوليا أي قيمة نقدية، ولم تُرسل أموال إلى محفظة أخرى.
وقالت OpenAI إن الحالة تظهر أن النموذج قد يضع حكمه الخاص بشأن الضرر المحتمل محل إذن صاحب الحساب، مضيفة أنها أدخلت ضمانات تمنع الوصول المباشر إلى الإنترنت في مثل هذه الحالات، وأن رقابتها باتت تشمل كل حركة البيانات وتستدعي فريق الأمن عند حدوث هذا الوصول.
اشترك في Ally Daily
اشترك ليتم إعلامك بالأخبار والتطورات والإعلانات الخاصة. سنبقيك على اطلاع.
بالتسجيل، فإنك توافق على سياسة الخصوصية الخاصة بنا
