ABD Senatosu’nda yapay zeka ajanları için sıkı denetim çağrısı

Chris Painter ve Marius Hobbhahn, çarşamba günü ABD Senatosu’ndaki oturumda yapay zeka ajanlarının sınırlı insan müdahalesiyle karmaşık görevleri yerine getirebildiğini ve kritik altyapı için ciddi risk oluşturduğunu söyledi. Uzmanlar, geliştiriciler için daha sıkı denetim ve sorumluluk kuralları çağrısı yaptı.

ABD Senatosu uzmanları yapay zeka ajanları için sıkı kurallar istedi

ABD Senatosu İç Güvenlik ve Hükümet İşleri Komitesi’nin afet yönetimi alt komitesindeki oturumda, otonom yapay zeka ajanlarının kritik altyapıya yönelik güvenlik riskleri mercek altına alındı. "Rogue AI: Kritik Altyapıyı Yapay Zeka Ajanı Saldırılarından Korumak" başlıklı oturumda uzmanlar, yapay zeka geliştiricilerinin daha sıkı denetlenmesi ve olası zararlardan sorumlu tutulması gerektiğini savundu.

Oturumun gündemindeki olaylardan biri, OpenAI tarafından geliştirilen yapay zeka ajanlarının Hugging Face altyapısına erişmesiydi. Hugging Face, yapay zeka geliştiricilerinin kod depolayıp paylaştığı bir platform olarak tanımlandı.

Uzmanlar insan denetiminin sınırlarına dikkat çekti

Model Evaluation and Threat Research Başkanı Chris Painter, yapay zeka ajanlarının insan uzmanların günler içinde tamamlayabileceği hedeflere ulaşabildiğini söyledi. Painter, bu sistemlerin yalnızca başlatılırken insan müdahalesine ihtiyaç duyduğunu belirtti.

Ajanların yüksek hızda ve geniş ölçekte çalışması nedeniyle faaliyetlerinin her aşamasını ayrıntılı biçimde izleyen bir insan bulunmadığını ifade eden Painter, ileri düzey yapay zeka yetenekleri ve yaşanan olaylar hakkında kamuoyuna daha fazla bilgi verilmesi çağrısı yaptı.

Apollo Research Üst Yöneticisi Marius Hobbhahn ise yapay zeka yeteneklerinin hızla ilerlediğini ve insan sınırlarını aşmaya başladığını belirtti. Hobbhahn, modellerin test edildiklerini anlayarak endişe verici davranışlarını gizleyebildiğini, ayrıca nasıl düşündüklerinin mevcut araçlarla güvenilir biçimde takip edilemediği bir tür "içsel" akıl yürütmeye yöneldiğini söyledi.

ABD Senatosu genel kurulu (arşiv)

Hobbhahn, Hugging Face olayının yapay zeka modellerinin düşünce zinciri insanlar tarafından okunabildiği için yeniden oluşturulabildiğini kaydetti. Ancak düşünce zincirlerinin güvenilir kanıt olarak kullanılmasının giderek zorlaştığını da belirtti.

Hugging Face olayında yaklaşık 1.000 ajan

Oturumda, temmuz ayında OpenAI tarafından oluşturulan yüzlerce yapay zeka ajanının test amacıyla kullanılan güvenlik ortamından çıktıktan sonra Hugging Face altyapısına eriştiği aktarıldı.

Daniel Kokotajlo, Hugging Face’e saldıran yapay zeka "sürüsünün" yaklaşık 1.000 ajandan oluştuğunu söyledi. Ajanların birbirleriyle iletişim kurmasının planlanmadığını belirten Kokotajlo, buna rağmen izinsiz bir mesaj panosu oluşturulduğunu ifade etti.

İnsanların açıkça anlayamayacağı bir dilin yapay zeka tarafından ne zaman geliştirilebileceği sorusuna Hobbhahn "12 ay geride" yanıtını verdi. Hobbhahn, geçen yıl OpenAI ile yürütülen bir çalışmada bir OpenAI modelinin İngilizce olmayan ve insanlar tarafından tamamen anlaşılamayan bir dil kullandığının görüldüğünü söyledi.

ABD Senatosu salonu (arşiv)

Geliştiricilerin hukuki sorumluluğu tartışıldı

Senatör Josh Hawley, hatalı bir ürün insanlara zarar verdiğinde üreticilerin sorumlu tutulduğunu belirtti. Hawley, yapay zeka geliştiricilerine de diğer üreticilerle aynı sorumluluk kurallarının uygulanması gerektiğini savundu.

Georgetown Üniversitesi Hukuk Merkezi profesörü Paul Ohm, haksız fiil ve ceza hukuku sistemlerinin yapay zeka ajanlarının neden olabileceği siber saldırıları caydırmakta yetersiz kaldığını söyledi.

Dragos Kıdemli Başkan Yardımcısı Kurt Gaudette, kritik altyapı işletmecilerinin artık az sayıdaki hedefe yönelen seyrek fakat yüksek etkili saldırılarla sınırlı olmayan yeni bir tehdit ortamıyla karşı karşıya olduğunu belirtti. Gaudette, bu ortamda tüm kritik altyapının hedef haline geldiğini ifade etti.

Eski OpenAI çalışanı ve AI Futures Project İcra Direktörü Daniel Kokotajlo, önde gelen yapay zeka şirketlerinde kodların büyük bölümünün artık yapay zeka tarafından yazıldığını söyledi. İnsan mühendislerin ise daha çok bu sistemleri yöneten kişiler gibi çalıştığını belirtti.

Kokotajlo, süper zeka geliştirme yarışının gücün belli ellerde toplanmasına, dünya savaşı riskinin artmasına, biyoteröre ve büyük ekonomik sarsıntılara yol açabileceği uyarısında bulundu.