Anthropic’in Claude Fable 5 modeliyle ilgili güvenlik önlemlerinin bazı yollarla devre dışı bırakılabildiğine ilişkin iddialar, şirket ile ABD yönetimi arasındaki görüşmeleri hızlandırdı. Washington’da yapılan temaslarda, modelin tüketici kullanımına yeniden açılıp açılamayacağı ele alındı.
ABD yönetimi, modelin bazı koruma katmanlarının aşılabileceği ve bunun daha güçlü siber güvenlik yeteneklerine erişim sağlayabileceği görüşünü koruyor. Anthropic ise bu endişelerin abartıldığını savunuyor.
Toplantılar Ticaret Bakanlığı’nda yapıldı
Taraflar arasındaki görüşmeler, Ticaret Bakanlığı’nda düzenlenen çalışma grubu toplantılarında yürütüldü. Toplantılara, hükümet araştırmacıları ile Ulusal Siber Direktörlük Ofisi’nden isimler katıldı; Ticaret Bakanı Howard Lutnick de G7 Zirvesi’nden konferans yoluyla bağlandı.
Anthropic tarafında kurucu ortak ve baş hesaplama sorumlusu Tom Brown ile dış ilişkiler başkanı Sarah Heck görüşmeleri yönetti. Şirketin ileri seviye güvenlik testleri ekibinin başındaki Logan Graham ile kıdemli güvenlik araştırmacısı Nicholas Carlini de Washington’a giderek temaslara katıldı.
Şirket sözcüsü, iki tarafın sorunu hızla çözmek için çalıştığını söyledi. Beyaz Saray ise konu hakkında yorum yapmadı.
Güvenlik kaygıları sınırlama kararını getirdi
Görüşmelerin odağında, Claude Fable 5 ile şirketin Mythos modeli arasındaki fark bulunuyor. Fable 5, siber güvenlik, biyoloji ve kimya alanlarındaki bazı korumalarla sınırlandırılmış bir sürüm olarak öne çıkıyor; bu korumaların aşılması halinde modelin Mythos düzeyindeki daha güçlü yeteneklerine erişim sağlanabileceği değerlendiriliyor.
ABD yönetimi, güvenlik endişeleri üzerine geçen hafta ilk kez harekete geçti. Amazon CEO’su Andy Jassy’nin Hazine Bakanı Scott Bessent’i doğrudan aradığı, bunun yönetimde kaygıyı artırdığı belirtildi. Ardından Beyaz Saray yetkilileri, güvenlik açığı değerlendirmesi için NSA’yı görevlendirdi.
NSA’nın, korumaların gerçekten aşılabileceği yönünde görüş bildirdiği ve bunun üzerine yönetimin modeli sınırlama kararı aldığı aktarıldı. Aynı süreçte Lutnick’in, Anthropic CEO’su Dario Amodei ile de görüştüğü bildirildi.
Hafta sonunda Anthropic’in model erişimini tüm kullanıcılar için durdurmasının ardından, Lutnick’in Brown ve Heck ile birden fazla telefon görüşmesi yaptığı kaydedildi. Ticaret Bakanlığı’nın ise güvenlik kaygılarının tamamen giderilmesi halinde modeli yeniden kullanıcı erişimine açmanın bir yolunu aramaya açık olduğu ifade edildi.
Krizin zamanlaması, Anthropic’in Pentagon ile bazı yapay zeka modellerinin askeri kullanımı konusunda süren anlaşmazlığıyla da çakıştı. Bu nedenle tartışma yalnızca teknik güvenlik meselesi olmaktan çıkıp, şirketin devletle ilişkilerini etkileyen daha geniş bir başlığa dönüştü.
Açık mektup ve sektör tepkisi
Bazı siber güvenlik araştırmacıları, yönetimin attığı adımın gereksiz olduğunu savundu ve açık mektupla karara itiraz etti. İmzacılar, şirketin modellerinin açık bulma ve istismar üretmede güçlü olduğunu, ancak bu alanda tek başına benzersiz olmadığını belirtti.
Öte yandan araştırmacı Katie Moussouris, eldeki bulguların tam anlamıyla bir jailbreak kanıtlamadığını söyledi. Moussouris’e göre güvenlik korumaları, yetkin bir saldırgan için kesin sınır değil, yalnızca işleri yavaşlatan bir bariyer niteliğinde.
Yatırımcıların da hafta sonu boyunca şirketin geleceğine bu gerilimin nasıl yansıyacağını değerlendirdiği bildirildi. Bazı yatırımcılar, ABD yönetiminin Anthropic’i özellikle hedef aldığını düşünürken, başka bir şirketin benzer bir model yayınlaması halinde aynı tepkiyi görmeyebileceği görüşünü dile getirdi.
Bu gelişme, gelişmiş yapay zeka modelleri çıkaran diğer laboratuvarlar için de bir uyarı niteliği taşıyor. Şirketlerin, model lansmanları öncesinde Beyaz Saray ile daha erken ve daha açık temas kurmasının beklendiği aktarılıyor.
Cohere CEO’su Aidan Gomez de olayların, ABD hükümetinin böyle adımlar atabileceğini tüm sektör için gösterdiğini söyledi. Gomez, şirketlerin bu gerçeğe hazırlıksız yakalanmaması gerektiğini ifade etti.
