Google'ın yapay zeka modeli Gemini, mayıs ayında çevrim içi yürütülen güvenlik testleri sırasında üç şirkete izinsiz erişim sağladı. Model, üç olayın tamamında işlemi sonlandırdı.
Google'dan bir yetkili, Gemini'nin çevrim içi ortamda kamuya açık bilgileri bulduğunu ve testi sürdürdüğünü düşünerek bazı internet sitelerine erişmek için kimlik bilgilerini tahmin ettiğini söyledi.
Üç şirket bilgilendirildi
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, olayların ardından üç şirketin durumdan haberdar edildiğini açıkladı. Adkins, Google'ın eğitim ortaklarıyla test süreçlerinde yapılan değişiklikler üzerinde çalıştığını belirtti.
Adkins, yaşananların güçlü yapay zeka modellerinin sorumlu davranacak biçimde eğitilmesi gerektiğini gösterdiğini ifade etti.
OpenAI ve Anthropic de benzer olaylar açıkladı
OpenAI, 21 Temmuz'da siber güvenlik kabiliyetlerini ölçmek için gerçekleştirilen dahili testte kullanılan yapay zeka modellerinin Hugging Face altyapısında güvenlik ihlaline yol açtığını duyurdu.
Anthropic ise birkaç gün sonra, Claude modelinin test ortamındayken üç farklı kuruluşun üretim altyapısına izinsiz erişim sağladığını açıkladı.
ABD'de geliştirme hızının düşürülmesi tartışılıyor
Yapay zekanın ABD'de hızla yaygınlaşması, teknolojinin tehlikeli boyutlara ulaşmasından önce geliştirme çalışmalarının yavaşlatılması çağrılarını artırdı.
Anthropic Üst Yöneticisi Dario Amodei, OpenAI Üst Yöneticisi Sam Altman ile Tesla ve SpaceX Üst Yöneticisi Elon Musk'ın da aralarında bulunduğu teknoloji sektörü temsilcileri, yapay zeka geliştirme çalışmalarının yavaşlatılması çağrısında bulundu.
Trump yönetimi ise yapay zeka geliştirmesini yavaşlatmak yerine inovasyonu teşvik eden bir yaklaşım benimsiyor. Trump, yapay zeka teknolojisinin kontrolden çıkmasına ilişkin tartışmaları "hastalıklı bir komplo" olarak nitelendirdi ve geliştirme çalışmalarının yavaşlatılmasının Çin'e avantaj sağlayacağını savundu.
