Yapay zekanın hızla ilerlemesi, Anthropic, OpenAI ve DeepMind ile bağlantılı uzmanların güvenlik ve kontrol konusundaki endişelerini yeniden gündeme taşıdı. Uzmanlar, sistemlerin daha güvenli geliştirilmesi ve izlenmesi için kapsamlı önlemler alınması gerektiğini söyledi.
Geliştirme yarışına ilişkin kaygılar
Anthropic çalışanı Samuel Marks, yapay zeka geliştiricileri arasında bu teknolojinin insanlığın yok olmasına yol açabilecek riskler taşıdığını düşünenlerin bulunduğunu belirtti. Marks, bazı kişilerin böyle bir ihtimalin gelecek birkaç yıl içinde gerçekleşebileceğine inandığını söyledi.
Marks, bu risklere rağmen çalışmaların devam etmesini ticari teşviklerin yanı sıra, teknolojiyi daha sorumsuz kullanabilecek geliştiricilerle rekabet edilmesine bağladı. Geleneksel yazılımlardan farklı olarak yapay zekanın her zaman beklenen biçimde davranmadığını ifade eden Marks, sistemlerin sık sık uygunsuz davranışlar sergilediğini kaydetti.
Birçok sektör çalışanının daha güvenli geliştirme yöntemleri bulunana kadar çalışmaların yavaşlatılmasını istediğini aktaran Marks, yapay zekayı daha uygun davranışlara yönlendirebilecek yöntemlerin bulunduğunu söyledi. Ancak sistemleri tamamen uyumlu hale getirecek bir çözümün henüz ortaya çıkmadığını belirtti.
OpenAI daha geniş güvenlik önlemleri istiyor
OpenAI Başbilimcisi Jakub Pachocki, makine zekasındaki hızlı artışın sürmesinin sonuçlarına kimsenin hazırlıklı olmadığı bir dönemden geçildiğini söyledi.
Pachocki, yapay zekanın uyumlanması ve izlenmesine yönelik çözüm arayışlarının sürdüğünü belirterek daha kapsamlı güvenlik önlemlerine ihtiyaç duyulduğunu ifade etti.
Eski çalışanlardan yapay zeka uyarıları
Google'ın yapay zeka birimi DeepMind'ın eski çalışanı Alex Turner, çok sayıda araştırmacının tüm insanları öldürebilecek bir sistem kurduklarına inandığını söyledi. Turner, böyle bir sürecin nasıl durdurulacağını düşünmenin görevinin bir parçası olduğunu belirtti.
OpenAI araştırmacısı Jason Wolfe ise insanlığın yok olma ihtimalinin ne kadar yüksek olduğunu bilmediğini ifade etti. Wolfe, yapay zekanın insanlık açısından kötü sonuçlar doğurabileceği birçok yol bulunduğunu ve teknolojinin kapasitesindeki artışın tek bir şirketin ya da ülkenin çözemeyeceği ölçekte koordinasyon gerektirdiğini söyledi.
DeepMind'ın eski kıdemli araştırmacısı Jonathan Richard Schwarz, laboratuvarlarda biriken güç konusunda ciddi endişeler taşıdığı için yedi yıl önce şirketten ayrıldığını belirtti. Schwarz, o tarihten sonra gelen teklifleri reddettiğini ve yapay zeka alanındaki mevcut gelişmelerin toplum açısından sağlıksız olduğunu söyledi.
Coxon'un istifası tartışmayı yeniden başlattı
Jacob Coxon, son üç yılda OpenAI ve Anthropic'te araştırmacı olarak görev yaptığını belirterek Anthropic'ten istifa ettiğini duyurdu. Coxon, iki şirketin de yeterince sorumlu davranmadığını ve kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz bir yarış yürütüldüğünü savundu.
Coxon, yapay zekanın yakında her şeyi hackleyebilecek, herhangi bir alanı kısa sürede dönüştürebilecek ve önemli güç ile kaynaklara erişebilecek insanüstü sistemlere dönüşeceğini ileri sürdü. Yapay zeka modelleri üzerinde çalışan kişilerin, bu sistemlerin 10 yıl içinde insanlığı öldürebileceğine ciddi biçimde inandığını da iddia etti.
