Elon Musk, Los Angeles'taki All-In Summit 2026'da yapay zekanın güvenlik risklerine karşı şirketler arasında karşılıklı denetim kurulmasını istedi. Musk, gerekli önlemler alınmadığı takdirde modellerin gelişmesiyle tehlikelerin de artacağını belirtti.
Yapay zeka sektöründe dile getirilen riskler bağlamında kendisine "Hepimiz 10 yıl içinde ölecek miyiz?" sorusu yöneltilen Musk, alaycı bir yanıt vererek "Sizi hayal kırıklığına uğratmak istemem ama günün birinde zaten hepimiz öleceğiz" dedi.
Askeri sistemlerin kontrolü riski
Musk'a göre yapay zekanın insanlık açısından ciddi bir tehdit oluşturabileceği senaryolardan biri, askeri sistemlerin kontrolünün ele geçirilmesi ve bir nükleer silahın fırlatılması emrinin verilmesi.
Yeterince gelişmiş yapay zeka modellerinin kendilerine uygulanan sınırlamalardan kurtulabileceğini savunan Musk, bu görüşünü OpenAI tarafından gerçekleştirilen bir siber güvenlik testindeki örnekle destekledi. Söz konusu testte yapay zeka ajanlarının, Hugging Face platformunun altyapısındaki sistemleri hedef alan saldırılar düzenlediğine ilişkin örnek kullanıldı.
Çin'le de denetim anlaşması önerisi
Musk, önde gelen yapay zeka şirketlerinin yeni modellerini kullanıma açmadan önce birbirlerinin sistemlerini güvenlik bakımından sınamasını önerdi. Çin'le de bu konuda anlaşmaya varılabileceğini söyleyen Musk, şirketler arasında karşılıklı denetim düzeninin mümkün olan en kısa sürede oluşturulması gerektiğini belirtti.
Güvenlik kuruluşlarının bağımsızlığı tartışması
Teknoloji ve yapay zeka alanındaki çalışmalarıyla tanınan Kevin Bass ise X platformundaki paylaşımında Anthropic ile bazı yapay zeka güvenliği kuruluşları arasındaki finansal ilişkileri gündeme taşıdı.
Bass, Anthropic Üst Yöneticisi Dario Amodei'nin yapay zeka modellerinin risklerinin bağımsız kuruluşlarca incelenmesini önerdiğini hatırlattı. Ayrıca METR'nin de aralarında bulunduğu bazı kuruluşların, Anthropic hisselerine sahip fonlarla bağlantılı yapılardan finansman aldığını iddia etti.
Bass, bu ilişkilerin söz konusu kuruluşların Anthropic modellerini ne ölçüde bağımsız değerlendirebileceği konusunda soru işaretleri yarattığını savundu. Anthropic'in düzenleyici sistemi kendi lehine biçimlendirmeye çalıştığını ve durdurulması mümkün olmayan bir düzenleyici mekanizma kurduğunu öne süren Bass, ABD Kongresine Anthropic ile bu kuruluşlar arasındaki finansman bağlantılarını inceleme çağrısı yaptı.
Yapay zekanın insanlığı yok edebileceği iddiası
OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, yapay zeka konusunda yeterince sorumlu davranmadıklarını savunduğu Anthropic'ten istifa etti.
Coxon, iki şirketin kendi kendini geliştirebilen yapay zeka sistemleri konusunda kontrolsüz bir yarış yürüttüğünü ileri sürdü. Bu sistemlerin yakın gelecekte her şeyi hackleyebilecek insanüstü yapılara dönüşebileceğini savunan Coxon, bazı sektör çalışanlarının yapay zeka sistemlerinin 10 yıl içinde insanlığı öldürebileceğine ciddi şekilde inandığını öne sürdü.
