Anthropic'te yapay zekânın insan değerleriyle uyumu üzerine çalışan Evan Hubinger, yapay zekânın 10 yıl içinde tüm insanları öldürme ihtimalinin yüzde 10'dan fazla olduğunu düşündüğünü açıkladı.
Hubinger, Anthropic'ten istifa eden Jacob Coxon'un yapay zekâ geliştirenlerin bu teknolojinin 10 yılın sonuna kadar herkesi öldürebileceğine inandığı yönündeki paylaşımına yanıt verdi. Coxon'un değerlendirmesine katıldığını belirten Hubinger, bu ihtimale gerçekten inandıklarını ifade etti.
Süper zekânın uyumu için plan bulunmuyor
Anthropic'in elinden geleni yaptığını düşündüğünü söyleyen Hubinger, süper zekânın uyumu sorununu çözecek net bir planlarının olmadığını belirtti. Hubinger ayrıca bu alanda izlenen açık bir yol haritası bulunmadığını değerlendirdi.
Coxon, Anthropic'ten ayrıldığını duyurdu
Jacob Coxon, son üç yılda OpenAI ve Anthropic'te araştırmacı olarak görev yaptığını belirterek Anthropic'ten istifa ettiğini açıkladı. Coxon, her iki şirketin de yeterince sorumlu davranmadığını savundu.
Şirketlerin kendi kendini geliştirebilen süper zekâya ulaşmak için kontrolsüz bir yarış yürüttüğünü öne süren Coxon, bu sistemlerin kısa sürede her şeyi hackleyebilen, çeşitli alanları bir gecede dönüştürebilen ve gerçek güç ile kaynaklara erişebilen insanüstü yapılara dönüşebileceğini söyledi.
Coxon ayrıca yapay zekâ sektöründeki çalışanların bu sistemlerin 10 yıl içinde insanlığı öldürebileceğine ciddi biçimde inandığını iddia etti. Yöneticilerin kamuoyu önünde daha ılımlı bir dil kullandığını, ancak kapalı kapılar ardında büyük korku yaşadıklarını savundu.