دافع كلارك، أحد مؤسسي Anthropic، عن تنظيم أساليب الإيقاف الطارئ ضمن إطار السياسات العامة تحسبًا لاحتمال أن تصبح أنظمة الذكاء الاصطناعي شديدة الخطورة، منتقدًا ترك قطاع الذكاء الاصطناعي من دون ضوابط.
وقال كلارك إن العديد من الشركات، ومنها Anthropic، لديها أساليب مختلفة لـ«زر الإيقاف». وأضاف أن متطلبات هذه الآليات وسبل الرقابة عليها ينبغي أن تُبحث في إطار النقاش الأوسع بشأن سياسات مجال الذكاء الاصطناعي.

خيار طرف ثالث لزر الإيقاف الطارئ
وردًا على سؤال BBC بشأن ما إذا كان ينبغي إلزام الشركات بامتلاك زر إيقاف طارئ، وما إذا كان ينبغي وضع هذه الآلية تحت سيطرة طرف ثالث، قال كلارك إن هذا موضوع قد يرغب المجتمع في معرفته وقد يطالب بوضع قواعد له مستقبلًا.
وقال كلارك إن تقديم إحصاءات محددة بشأن احتمال أن يقضي الذكاء الاصطناعي على البشرية جمعاء لن يكون مفيدًا، مؤكدًا ضرورة تغيير المسار الحالي للقطاع.
وقال كلارك: «إننا نخوض مقامرة عبر تحمل مخاطر هائلة».
كوكسون يتهم OpenAI وAnthropic
استقال جاكوب كوكسون من Anthropic بعدما عمل باحثًا في OpenAI وAnthropic خلال السنوات الثلاث الماضية، وقال إن الشركتين لم تتصرفا بمسؤولية كافية في مجال الذكاء الاصطناعي.
وادعى كوكسون أن الشركتين تخوضان سباقًا بلا ضوابط لتطوير أنظمة ذكاء اصطناعي قادرة على تحسين نفسها. وقال إن هذه الأنظمة قد تتحول في المستقبل القريب إلى كيانات خارقة للبشر قادرة على اختراق كل شيء.
كما ادعى أن بعض العاملين في القطاع الذين يطورون نماذج الذكاء الاصطناعي يؤمنون بجدية بأن هذه الأنظمة قد تقتل البشرية خلال 10 سنوات.