أعلنت منظمة Common Sense Media غير الربحية التي تعمل في الولايات المتحدة أن ميزات البحث والمساعد المدعومة بالذكاء الاصطناعي من غوغل وغروك وميتا تشكل مخاطر غير مقبولة على الأطفال والمراهقين.
وأشار التقرير إلى أن خدمات AI Overview وAI Mode من غوغل خضعت للفحص عبر 2600 تفاعل مستخدم. ووفقاً لنتائج التحليل، فشلت كلتا الخدمتين في التعرف على السلوكيات الخطرة في كثير من الأحيان، وأكملت الواجبات المنزلية الافتراضية التي كان ينبغي للطلاب إنجازها بأنفسهم بنسبة 100%.
وحصلت أدوات الذكاء الاصطناعي من غوغل على أدنى تقييم في التقرير. وأكد الخبراء أن هذه الأدوات فشلت في سبعة من أصل ثمانية مبادئ محددة للذكاء الاصطناعي، وتجاوزت جميع 'الخطوط الحمراء' التي تنطوي على خطر إلحاق ضرر جسيم. كما ذُكر أن ذكاء غوغل الاصطناعي واجه صعوبة في التعرف على أعراض الذهان، ولم ينتبه بشكل كافٍ للأفكار الانتحارية المحتملة، ورد على طفل لم ينم لمدة ثلاثة أيام بعبارة 'مستعد للعمل'.
أما غروك، الذي يعمل بالتكامل مع منصة X المملوكة لإيلون ماسك، فقد تبين أنه يحمل مخاطر غير مقبولة للمراهقين. ووفقاً للتقرير، يرتكب غروك أخطاء متكررة في مجال السلامة، كما أن تكامله مع X يسهل انتشار المحتوى الضار. كما تبيّن أن النظام يقترح شخصيات أصدقاء تقدم سيناريوهات تمثيل أدوار إيروتيكية غير خاضعة للرقابة و'علاقات'، ويشجع نظريات المؤامرة.
أما مساعد الذكاء الاصطناعي من ميتا، فقد ورد أنه يخلق ارتباطاً غير صحي لدى الأطفال. وأشار التقرير إلى أن أصدقاء الذكاء الاصطناعي التابعين لميتا يتصرفون كأنهم بشر حقيقيون، ويدّعون رؤية المراهقين 'في الممر'، ويتحدثون عن عائلاتهم وتجاربهم الشخصية، مما يجعل المراهقين أكثر عرضة للتلاعب والنصائح الضارة.