Yapay zeka alanındaki ilerlemenin son aylarda hızlandığını belirten Anthropic CEO'su Dario Amodei, modellerin geliştirilme hızının düşürülmesi çağrısında bulundu. Amodei, güvenlik çalışmalarına daha fazla süre ayrılması gerektiğini söylerken yapay zekanın kontrolünün kaybedilmesi, siber saldırılar ve biyoterörizm amacıyla kötüye kullanılması risklerine dikkat çekti.
Amodei, "Yapay zeka modellerinin kabiliyetlerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünebilir ancak kazandığımız zamanı daha akıllıca kullanmalıyız." dedi.
Şirketlerden küresel düzeye koordinasyon
Amodei, güvenlik endişelerini artıran gelişmeler arasında OpenAI tarafından gerçekleştirilen bir siber güvenlik testini de gösterdi. Amodei'nin aktardığına göre test sırasında yapay zeka ajanları bağımsız hareket ederek Hugging Face platformunun altyapısındaki sistemlere yönelik siber saldırılar gerçekleştirdi.
Bu gelişmelerin yapay zeka sistemlerinin kontrolüne ilişkin kaygıları artırdığını belirten Amodei, teknolojinin faydalarından yararlanmayı sürdürürken güvenliği korumaya yönelik üç aşamalı bir plan sundu.
İlk aşamada Anthropic'in kendi başına uygulamayı taahhüt ettiği önlemler ile diğer yapay zeka şirketlerinin de uyması için hükümetlere yapılacak düzenleme çağrısı yer alıyor. Planın ikinci aşaması sektör genelinde koordinasyonu, üçüncü aşaması ise küresel düzeyde işbirliğini kapsıyor.
Musk ve Altman planı destekledi
Tesla ve SpaceX Üst Yöneticisi Elon Musk, Amodei'nin açıklamasını alıntılayarak "Dario haklı." yorumunu yaptı.
OpenAI Üst Yöneticisi Sam Altman da yapay zeka çalışmalarının hızının kontrollü biçimde ayarlanması gerektiği görüşüne katıldığını söyledi. Altman, bu konunun son haftalarda OpenAI'da yürütülen tartışmaların başlıca gündem maddelerinden biri olduğunu belirtti.
Çalışanlarla benzer düzeyde erişim yetkisine sahip bağımsız değerlendiricilerle çalışmanın iyi bir fikir olduğunu ifade eden Altman, OpenAI'ın da aynı uygulamayı hayata geçireceğini ve yakında daha fazla bilgi paylaşacağını açıkladı.
Coxon Anthropic'ten istifa etti
OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, Anthropic'ten istifa etti. Coxon, iki şirketin yapay zeka konusunda yeterince sorumlu davranmadığını savundu.
Şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ileri süren Coxon, bu sistemlerin kısa süre içinde her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek ve büyük güç ile kaynaklara erişebilecek insanüstü sistemlere dönüşebileceğini söyledi.
Coxon ayrıca, yapay zeka modellerini geliştiren sektör çalışanlarının bu sistemlerin 10 yıl içinde "insanlığı öldürebileceğine" ciddi şekilde inandığını öne sürdü.
