Anthropic’in Claude modeliyle yeni bir enzim sisteminin bulunduğunu 24 Eylül’de duyurması, Kopenhag Üniversitesinde aynı sistem üzerinde ekibiyle yıllardır çalışan biyolog Mario Rodriguez Mestre’nin itirazına yol açtı. ABD merkezli yapay zekâ şirketinin "otonom yapay zekâ keşfi" tanımını kullandığı gelişme için Mestre, insan emeğinin ve önceden belirlenmiş araştırma çerçevesinin rolüne dikkat çekti.
Claude’un tespit ettiği sistem
Anthropic, yaklaşık 950 Claude ajanını DNA dizilimlerinden oluşan geniş bir veri tabanında yeni ters transkriptaz örnekleri aramakla görevlendirdi. Bu enzimler RNA’dan DNA sentezliyor.
Ajanlardan biri, yaklaşık 21 saatlik çalışmanın ardından kendine özgü DNA yazılımı bulunan ve işlevi bilinmeyen ek bir yardımcı protein içeren bir enzim sistemi tespit etti. Anthropic, sistemin tanımlayıcı özelliklerinin ilk kez Claude tarafından fark edildiğini açıkladı.
Mestre bulgunun bağımsızlığını sorguladı
Mestre, Claude’un ulaştığı sonucun kendisi ve ekibinin çalışmalarıyla çok yakından örtüştüğünü belirtti. Biyolog, araştırmaları sırasında Claude’u yoğun biçimde kullandığını, bilimsel analizler ve henüz yayımlanmamış çalışmalar hakkında modelle görüşmeler yaptığını söyledi. Ayrıca modelin araştırma ortamının bazı bölümlerine erişebildiğini ifade etti.
Mestre’nin açıklamasına göre Anthropic’in ARTs adını verdiği sistem, dev virüslerde bulunan ve "jumbotrons" olarak tanımlanan özel bir genetik sistemle örtüşüyor. Mestre, benzerliğin yalnızca protein aileleriyle sınırlı olmadığını, aynı virüslerde bulunan aynı genlerin söz konusu olduğunu belirtti.
Biyolog, Claude’un sonuca kendi yayımlanmamış araştırmalarından elde edilen bilgilerle ulaşıp ulaşmadığı konusunda kesin konuşamayacağını vurguladı. Buna rağmen keşfin "otonom bir yapay zekâ keşfi" olarak nitelendirilmesini ciddi biçimde sorguladığını söyledi.
Uzmanların belirlediği çerçevenin rolü
Mestre, Claude’a RNA’dan DNA sentezleyen ters transkriptazlar üzerine oldukça sınırlı bir biyolojik problem verildiğini aktardı. Modelin analiz ettiği veri setinin de daha önce uzmanlar tarafından hesaplandığını belirtti.
Bu nedenle Claude’un kendi araştırma alanını oluşturmadığını, uzmanların önceden belirlediği bir çerçevede çalıştığını söyleyen Mestre, sonucu bağımsız bir keşif olarak değerlendirmeye endişeyle yaklaştı. Biyolog, modelin sonuca kendi çalışmalarından tamamen bağımsız ulaştığı varsayılsa bile bunun "tamamen otonom bir bilimsel keşif" değil, yapay zekâ destekli bilimsel çalışma olarak adlandırılması gerektiğini ifade etti.
Yayımlanmamış veriler için daha sıkı kontrol talebi
Mestre, yapay zekâ şirketlerinin yayımlanmamış makalelerle araştırma verilerinin model eğitiminde kullanılmasını önlemek için daha güçlü önlemler alması gerektiğini söyledi. Araştırmacılara verileri üzerinde açık ve ayrıntılı kontrol imkânı tanınmasını, şeffaf veri saklama politikaları uygulanmasını ve belirsiz varsayılan seçenekler yerine açık rıza alınmasını istedi.
Modelin çıkarım sürecinde elde ettiği verilerle eğitim verilerinin birbirinden ayrılması gerektiğini belirten Mestre, yapay zekâ aracılarının bağlantılı hizmetlere erişiminin de denetlenebilmesini savundu.
Mestre, hassas bilimsel araştırmalarda verilerin dışarıya aktarılmadığı özel yapay zekâ sistemleriyle kurumların kendi kontrolünde çalıştırdığı açık kaynaklı modellerin öneminin artacağını ifade etti.
Yapay zekânın bilimsel araştırmaların kalıcı bir parçası hâline geldiğini söyleyen biyolog, temel sorunun bilim insanlarının yayımlanmamış çalışmalar, gizli veriler ve fikirlerinin kaynağı üzerindeki kontrolü kaybetmeden bu araçlardan yararlanmasını sağlayacak altyapıyı kurmak olduğunu belirtti.
