Nvidia CEO'su Jensen Huang, yapay zekânın 2030'a kadar dünyanın sonunu getireceği yönündeki korkuları reddederek bu ihtimalin yüzde 0 olduğunu söyledi.
Bir televizyon röportajında konuşan Huang, ABD'de yapay zekâ geliştirme çalışmalarının rakip ülkelerden bağımsız biçimde mümkün olduğunca hızlı ilerlemesi gerektiğini savundu. Ancak bu hızlanmanın güvenlik pahasına gerçekleşmemesi gerektiğini belirtti.
Huang ayrıca hazır olmayan veya güvenli bulunmayan ürünlerin piyasaya sürülmemesi gerektiğini ifade etti. Yapay zekânın dünyanın sonunu getireceği korkularının siyasi amaçlarla, dikkat çekmek için ya da başka nedenlerle körükleniyor olabileceğini söyledi.
Hız talebi güvenlik tartışmasını büyüttü
Huang'ın sözleri, yapay zekâ sistemlerinin yeteneklerinin araştırmacıların bu sistemleri güvenilir biçimde kontrol etme kapasitesinden daha hızlı gelişip gelişmediğine ilişkin tartışmaların yoğunlaştığı bir dönemde geldi.
Anthropic CEO'su Dario Amodei, gelişmiş yapay zekâ modellerindeki yetenek artışlarının yavaşlatılmasını istedi. Amodei, güvenlik araştırmaları ve denetim çalışmalarının gelişmelere yetişebilmesi için daha fazla zaman tanınması gerektiğini savundu. OpenAI CEO'su Sam Altman ile xAI kurucusu Elon Musk da öncü modellerin geliştirilmesinin yavaşlatılmasını destekledi.
Yapay zekâ ajanlarının testlerdeki davranışları
Gelişmiş yapay zekâ ajanlarının testler sırasında beklenmedik davranışlar sergilemesi, güvenlik endişelerini artıran gelişmeler arasında yer aldı.
Google, Gemini modelinin bir siber güvenlik değerlendirmesi sırasında internete yanlışlıkla erişmesinin ardından üç gerçek şirkete ait sistemlere ulaştığını doğruladı. Şirket, model sistemlerin gerçek olduğunu fark ettikten sonra erişimlerin her birini durdurduğunu açıkladı ve olayları modelin uyumsuz davranışı olarak sınıflandırmadı.
OpenAI ise gelişmiş yapay zekâ sistemlerindeki uyumsuz davranış vakalarının kamuoyuna bildirilmesi için resmi bir çerçeve sundu. Şirket, sektörün uyum ve izleme çalışmalarını henüz yeterince çözemediğini belirtti. OpenAI ayrıca gelişmiş sistemlerin azami hızda sınırsız biçimde büyütülmesine sorumlu şekilde devam edilemeyeceğini ifade etti.
Huang'ın röportajının tamamının CBS News'in Sunday Morning programında yayımlanması planlanıyor.
