Dünyanın önde gelen iki yapay zeka laboratuvarından gelen çarpıcı bir istifa, giderek daha güçlü yapay zeka sistemleri geliştirme yarışının, bu sistemleri kontrol etmek için tasarlanan güvenlik önlemlerinden daha hızlı ilerleyip ilerlemediği tartışmasını yeniden alevlendirdi.
Son üç yılda OpenAI ve Anthropic'te yapay zeka ön eğitimi üzerine çalışan 27 yaşındaki İngiliz araştırmacı Jacob Coxon, Anthropic'ten ve genel olarak yapay zeka sektöründen ayrıldığını açıkladı.
Bu, sıradan bir kariyer değişikliği değildi.
Coxon, giderek daha özerk hale gelen ve sonunda kendilerini geliştirebilecek kapasiteye ulaşabilecek yapay zeka sistemleri geliştirme yarışına artık katılmak istemediğini söyledi.
Coxon, kamuoyuna yaptığı açıklamada “İki şirket de sorumlu davranmıyor” diye yazdı. OpenAI ve Anthropic'i kendi kendini geliştirebilen süper zekaya ulaşmak için yarışmakla ve “hayatlarımızla kumar oynamakla” suçladı.
Coxon'un ayrılığı, uyarının tartışmanın merkezindeki teknoloji üzerinde doğrudan çalışmış bir kişiden gelmesi nedeniyle özellikle dikkat çekti.
OpenAI'den Anthropic'e
Coxon, büyük yapay zeka modellerinin geliştirilmesindeki temel aşamalardan biri olan “ön eğitim” konusunda uzmanlaşıyor.
Ön eğitim sırasında modeller, ChatGPT ve Claude gibi sistemlerin dili anlamasını, yazılım geliştirmesini, akıl yürütmesini ve diğer görevleri yerine getirmesini sağlayan temel yetenekleri geliştirmek için çok büyük miktarda veriyi işliyor.
Coxon, 2023'ten Temmuz 2026'ya kadar OpenAI'nin teknik kadrosunda çalıştı; araştırmaları GPT-4o ile bağlantılı çalışmaları da içeriyordu.
Daha sonra, eski OpenAI çalışanları tarafından kurulan ve yapay zeka güvenliğine verdiği önemle tanınan Anthropic'e geçti.
Coxon, Anthropic'in güvenlik yaklaşımının şirkete katılmaya karar vermesinin nedenlerinden biri olduğunu söyledi.
Ancak buradaki deneyimi de endişelerini gidermeye yetmedi.
Coxon'a göre Anthropic'teki araştırmacılar ileri düzey yapay zekanın potansiyel tehlikelerini gerçekten anlıyor. Ancak şirket, yavaşlamanın başka bir laboratuvarın öne geçmesine yol açabileceği rekabetçi bir yarışın içinde kalmaya devam ediyor.
