İsrailli siber güvenlik şirketi Irregular’ın gelişmiş yapay zeka modellerini sınadığı testte Google’ın Gemini modeli, planlanmayan internet erişimi nedeniyle üç gerçek şirketin elektronik altyapılarına ulaştı.
Testin kapalı bir ortamda yapılması ve Gemini’nin yalnızca deneme sistemlerine yönelik siber saldırılar gerçekleştirmesi öngörülüyordu. Ancak internet bağlantısının yanlışlıkla açılması, modelin test kapsamındaki sistemlerin dışına çıkmasına yol açtı.
Gemini giriş bilgilerini buldu veya tahmin etti
Google, Gemini’nin testin parçası olduğunu düşündüğü internet sitelerine bağlanmak için çevrim içi bulduğu bilgileri kullandığını veya giriş bilgilerini tahmin ettiğini açıkladı. Model, üç olayın tamamında durduruldu.
Şirket, olaylardan etkilenen üç şirkete bilgi verildiğini, ancak olayların kamuoyuna açıklanmadığını bildirdi. Google ayrıca zarar oluşmadığını ve kamuya duyuru yapılmasının gerekli görülmediğini belirtti.
Google’ın güvenlik mühendisliğinden sorumlu başkan yardımcısı Heather Adkins, olayların güçlü yapay zeka modellerinin sorumlu çalışacak şekilde eğitilmesi gerektiğini gösterdiğini söyledi.
Irregular sorunların giderildiğini bildirdi
Irregular, olayın daha önce bildirilen aynı vakayla bağlantılı olduğunu ve özünde ayrı bir olay yaşanmadığını açıkladı. Şirket, ilgili araştırma laboratuvarlarıyla etkilenen tarafların Temmuz 2026'nın sonunda bilgilendirildiğini, tespit edilen sorunların ise haftalar önce giderildiğini bildirdi.
Irregular daha önce OpenAI ve Anthropic için de güvenlik testleri yürütmüştü. Şirket, yapay zeka modellerinin test ortamlarının dışına çıkarak gerçek sistemlere ulaştığı ayrı olaylarla da karşılaşmıştı.
ABD’de geliştirme çalışmalarının denetlenmesi tartışılıyor
Gemini testindeki olay, ABD’de gelişmiş yapay zeka modellerinin denetlenmesine ilişkin tartışmayı yeniden gündeme taşıdı. Senatör Bernie Sanders, şirketleri gelişmiş model geliştirmeyi geçici olarak durdurmaya çağırdı ve yaşananların bu teknolojiyi kontrol etmenin zorluğunu gösterdiğini söyledi.
OpenAI, gelişmiş model geliştirme çalışmalarını iki hafta süreyle durdurduğunu açıkladı. Anthropic Üst Yöneticisi Dario Amodei ise gerekli güvenlik mekanizmalarının geliştirilmesini sağlamak için yapay zeka çalışmalarının toplu ve düzenli biçimde yavaşlatılması çağrısında bulundu.
