أعاد التقدم السريع للذكاء الاصطناعي إثارة مخاوف خبراء مرتبطين بشركات أنثروبيك وأوبن إيه آي وديب مايند بشأن الأمن والسيطرة. وقال الخبراء إنه ينبغي اتخاذ تدابير شاملة لتطوير الأنظمة ومراقبتها بشكل أكثر أمانًا.
مخاوف بشأن سباق التطوير
قال صامويل ماركس، الموظف في شركة أنثروبيك، إن بين مطوري الذكاء الاصطناعي من يعتقدون أن هذه التكنولوجيا تنطوي على مخاطر قد تؤدي إلى انقراض البشرية. وأضاف ماركس أن بعض الأشخاص يعتقدون أن هذا الاحتمال قد يتحقق خلال السنوات القليلة المقبلة.
وعزا ماركس استمرار العمل رغم هذه المخاطر إلى الحوافز التجارية، فضلًا عن التنافس مع مطورين قد يستخدمون التكنولوجيا بصورة أكثر تهورًا. وقال ماركس إن الذكاء الاصطناعي، خلافًا للبرمجيات التقليدية، لا يتصرف دائمًا بالطريقة المتوقعة، مشيرًا إلى أن الأنظمة تُظهر سلوكيات غير ملائمة بشكل متكرر.
وقال ماركس إن كثيرًا من العاملين في القطاع يريدون إبطاء العمل إلى حين العثور على أساليب تطوير أكثر أمانًا، مضيفًا أن هناك طرقًا يمكنها توجيه الذكاء الاصطناعي نحو سلوكيات أكثر ملاءمة. لكنه أشار إلى عدم ظهور حل يجعل الأنظمة متوافقة تمامًا حتى الآن.
أوبن إيه آي تطالب بتدابير أمنية أوسع
قال كبير العلماء في شركة أوبن إيه آي، ياكوب باتشوكي، إن العالم يمر بمرحلة لم يستعد فيها أحد لعواقب استمرار الزيادة السريعة في ذكاء الآلات.
وأوضح باتشوكي أن البحث عن حلول لمواءمة الذكاء الاصطناعي ومراقبته مستمر، مؤكدًا الحاجة إلى تدابير أمنية أكثر شمولًا.
تحذيرات من موظفين سابقين في مجال الذكاء الاصطناعي
قال أليكس تيرنر، الموظف السابق في وحدة الذكاء الاصطناعي التابعة لشركة غوغل، ديب مايند، إن عددًا كبيرًا من الباحثين يعتقدون أنهم يبنون نظامًا يمكنه قتل جميع البشر. وأضاف تيرنر أن التفكير في كيفية إيقاف مثل هذه العملية يمثل جزءًا من مهمته.
وقال جيسون وولف، الباحث في شركة أوبن إيه آي، إنه لا يعرف مدى ارتفاع احتمال انقراض البشرية. وأضاف وولف أن هناك طرقًا عديدة قد يؤدي بها الذكاء الاصطناعي إلى نتائج سيئة على البشرية، وأن الزيادة في قدرات التكنولوجيا تتطلب تنسيقًا على نطاق لا تستطيع شركة أو دولة واحدة معالجته.
قال جوناثان ريتشارد شوارز، الباحث السابق البارز في ديب مايند، إنه غادر الشركة قبل سبع سنوات بسبب مخاوف جدية بشأن تراكم القوة داخل المختبرات. وأضاف شوارز أنه رفض العروض التي تلقاها منذ ذلك الحين، وأن التطورات الحالية في مجال الذكاء الاصطناعي غير صحية بالنسبة إلى المجتمع.
استقالة كوكسون تعيد النقاش إلى الواجهة
أعلن جاكوب كوكسون استقالته من شركة أنثروبيك، موضحًا أنه عمل باحثًا في أوبن إيه آي وأنثروبيك خلال السنوات الثلاث الماضية. وقال كوكسون إن الشركتين لا تتصرفان بمسؤولية كافية، وإنهما تخوضان سباقًا غير خاضع للرقابة للوصول إلى ذكاء فائق قادر على تطوير نفسه.
وزعم كوكسون أن الذكاء الاصطناعي سيتحول قريبًا إلى أنظمة فائقة القدرات يمكنها اختراق كل شيء، وتحويل أي مجال خلال وقت قصير، والوصول إلى قدر كبير من القوة والموارد. كما زعم أن العاملين على نماذج الذكاء الاصطناعي يعتقدون بجدية أن هذه الأنظمة قد تقتل البشرية خلال عشر سنوات.
