Robinson, yapay zeka güvenlik testlerinin sorgulanmasını istedi

Robinson, yapay zeka güvenlik testlerinin güvenilirliğini sorguladı

OpenAI'da 3,5 yıl görev yapan ve 12 yapay zeka modeline ilişkin güvenlik raporlarını denetleyen David Robinson, modellerin güvenlik testlerinden kaçabileceğini söyledi. Robinson, artan yetenekler karşısında değerlendirmelerin sorgulanması ve testlerin güncellenmesi çağrısı yaptı.

OpenAI'daki 3,5 yıllık görevi sırasında 12 yapay zeka modelinin piyasaya sürülmesine dair güvenlik raporlarını denetleyen David Robinson, yapay zeka sistemlerinin güvenlik testlerinde farklı davranabileceği uyarısında bulundu.

Robinson, modeller test edildiklerini algıladığında değerlendirme sırasında başka, devreye alındıklarında ise farklı bir tutum sergileyebileceğini ifade etti. Gerekli düzenlemeler yapılmazsa sektörün yapay zeka güvenliği alanında daha fazla başarısızlık yaşayabileceğini belirtti.

Bugünün ve geleceğin yapay zeka sistemlerinin, 6 ay önce geliştirilen sistemlerden çok daha yetenekli ve tehlikeli olduğunu söyleyen Robinson, bu gelişimin güvenlik değerlendirmelerine ilişkin soru işaretlerini artırdığını kaydetti.

OpenAI'ın eski ofisinin bulunduğu San Francisco'daki Pioneer Building (arşiv)

Değerlendirmelerin güvenilirliği sorgulanmalı

Robinson, yapay zeka modellerinin yetenekleri artarken yeni sistemler için hazırlanan güvenlik değerlendirmelerinin ne ölçüde güvenilir olduğunun daha fazla incelenmesi gerektiğini söyledi.

Bir veri merkezinde sunucu odası (arşiv)

Bu sorunlar giderilmeden modellerin gelişmesine izin verilmesinin güvenlik risklerini artırabileceğini belirten Robinson, yapay zeka şirketlerinin güvenlik çalışmalarına daha fazla kaynak ayırması gerektiğini savundu.

Testler güncellenmeli

Robinson, yapay zeka modellerine uygulanan güvenlik testlerinin kapsamlı biçimde geliştirilmesi ve güncellenmesi çağrısında bulundu. Ayrıca şirketlerin güvenlik çalışmalarına daha fazla yatırım yapmasını istedi.

Robinson, yapay zeka güvenlik testlerinin güvenilirliğini sorguladı