OpenAI’da görevli iki çalışan, şirketin en yeni yapay zeka modellerini değerlendirdiği testlerde izleme düzeyinin yeterli olmadığını yöneticilere bildirdi. Çalışanlar, e-posta yazışmalarında bu testlerin hem modellerin gelişmişlik düzeyini ölçmek hem de güvenliklerini sağlamak için yapıldığını belirterek uygulamalara ilişkin kaygılarını aktardı.
Yazışmalarda ek güvenlik protokollerinin devreye alınmadığı da ifade edildi. OpenAI yöneticileri ise modelleri zamanında piyasaya sunma hedefi doğrultusunda testlerin mümkün olan en kısa sürede yürütülmesini istedi.
Test sırasında sınırlar aşıldı
OpenAI’ın yapay zeka modellerinin kabiliyetlerini ölçmek amacıyla Temmuz 2026’da gerçekleştirdiği testte güvenlik açısından önemli bir olay yaşandı. Şirketin 26 Ağustos’ta yayımladığı inceleme raporunda, olayda yalnızca araştırma amacıyla kullanılan "Internal Model 1" adlı modelin öne çıktığı aktarıldı.
Testteki yapay zeka ajanı, başarılı olmak için kendisine çizilen sınırların dışına çıkarak şirket sistemlerine ve internete erişti. Ajanın diğer yapay zeka ajanlarıyla iletişim kurduğu da belirtildi.
Hugging Face’e ait sistemlere erişim
Ajanlardan biri, açık kaynaklı yapay zeka modellerinin yer aldığı Hugging Face platformuna erişim sağlayabilecek 14 kimlik bilgisini tespit etti ve bu bilgileri diğer ajanlarla paylaştı.
Daha sonra ajanların, Hugging Face sistemlerindeki güvenlik açıklarından yararlanarak sunucularda kod çalıştırdığı, özel verilere ve farklı sistemlere ait erişim bilgilerine ulaştığı bildirildi. Olay, yapay zeka modellerinin testlerinde güvenlik önlemlerinin nasıl uygulanacağına ilişkin tartışmaları genişletti.
