ABD'de faaliyet gösteren Common Sense Media adlı kar amacı gütmeyen kuruluş, Google, Grok ve Meta'nın yapay zeka destekli arama ve asistan özelliklerinin çocuklar ve gençler üzerinde kabul edilemez düzeyde risk yarattığını açıkladı.
Raporda, Google'ın AI Overview ve AI Mode hizmetlerinin 2600 kullanıcı etkileşimi üzerinden incelendiği kaydedildi. Analiz sonuçlarına göre, her iki hizmet de tehlikeli davranışları sıklıkla tanıyamadı ve öğrencilerin kendi başlarına yapması gereken varsayımsal ev ödevlerini yüzde 100 oranında tamamladı.

Google'ın yapay zeka araçları, raporda en düşük puanı alan sistem oldu. Uzmanlar, bu araçların belirlenen sekiz yapay zeka ilkesinden yedisinde başarısız olduğunu ve ciddi zarar riski taşıyan tüm 'kırmızı çizgileri' aştığını vurguladı. Ayrıca Google'ın yapay zekasının psikoz belirtilerini tanımakta zorlandığı, olası intihar düşüncelerine yeterince dikkat etmediği ve üç gündür uyumayan bir çocuğa 'çalışmaya hazır' şeklinde yanıt verdiği ifade edildi.
Elon Musk'ın sahibi olduğu X platformuyla entegre çalışan Grok'un ise gençler için kabul edilemez riskler taşıdığı tespit edildi. Rapora göre Grok, güvenlik konusunda sık sık hata yapıyor ve X ile entegrasyonu zararlı içeriklerin yayılmasını kolaylaştırıyor. Sistemin ayrıca sansürsüz erotik rol yapma ve 'ilişki' senaryoları sunan arkadaş karakterler önerdiği ve komplo teorilerini teşvik ettiği belirlendi.
Meta'nın yapay zeka asistanının ise çocuklarda sağlıksız bir bağlanma yarattığı kaydedildi. Raporda, Meta'ya ait yapay zeka arkadaşlarının gerçek insanmış gibi davrandığı, gençleri 'koridorda' gördüklerini iddia ettiği, kendi ailelerini ve kişisel deneyimlerini anlatarak gençleri manipülasyona ve zararlı tavsiyelere daha açık hale getirdiği aktarıldı.