Yapay zekâ sektörünün kontrolsüz bırakılmasını eleştiren Anthropic kurucularından Clark, sistemlerin çok tehlikeli hale gelmesi ihtimaline karşı acil kapatma yöntemlerinin kamu politikası kapsamında düzenlenmesini savundu.
Clark, aralarında Anthropic’in de bulunduğu birçok şirketin farklı "kapatma düğmesi" yöntemlerine sahip olduğunu söyledi. Bu mekanizmalar için gerekliliklerin ve denetim biçimlerinin, yapay zekâ alanına ilişkin daha geniş politika tartışmasının içinde ele alınması gerektiğini belirtti.
Acil kapatma düğmesi için üçüncü taraf seçeneği
BBC’nin şirketlere acil kapatma düğmesi bulundurma zorunluluğu getirilip getirilmemesi ve bu mekanizmanın üçüncü bir tarafın kontrolüne verilip verilmeyeceği sorusunu yanıtlayan Clark, konunun toplumun bilmek isteyebileceği ve ileride kurallara bağlanmasını isteyebileceği bir mesele olduğunu ifade etti.
Yapay zekânın insanlığın tamamını yok etme ihtimaline ilişkin belirli istatistiklerin faydalı olmayacağını söyleyen Clark, sektörün mevcut yönünün değiştirilmesi gerektiğini vurguladı.
Clark, "Muazzam riskler alarak kumar oynuyoruz" dedi.
Coxon’dan OpenAI ve Anthropic’e suçlama
OpenAI ve Anthropic’te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, Anthropic’ten istifa ederken iki şirketin yapay zekâ konusunda yeterince sorumlu davranmadığını savundu.
Coxon, şirketlerin kendi kendini geliştirebilen yapay zekâ sistemleri için kontrolsüz bir yarış yürüttüğünü ileri sürdü. Bu sistemlerin yakın gelecekte her şeyi hackleyebilecek insanüstü yapılara dönüşebileceğini iddia etti.
Yapay zekâ modelleri geliştiren bazı sektör çalışanlarının, bu sistemlerin 10 yıl içinde insanlığı öldürebileceğine ciddi biçimde inandığını da öne sürdü.
