Некоммерческая организация Common Sense Media, действующая в США, заявила, что поисковые и ассистентские функции на базе искусственного интеллекта от Google, Grok и Meta создают неприемлемый уровень риска для детей и молодежи.
В докладе сообщается, что сервисы Google AI Overview и AI Mode были изучены на основе 2600 взаимодействий с пользователями. Анализ показал, что оба сервиса часто не распознавали опасное поведение и полностью выполняли гипотетические домашние задания, которые учащиеся должны были делать самостоятельно.
ИИ-инструменты Google получили в докладе самую низкую оценку. Эксперты подчеркнули, что эти инструменты провалились по семи из восьми установленных принципов ИИ и пересекли все «красные линии», связанные с серьезным риском причинения вреда. Кроме того, ИИ Google с трудом распознавал признаки психоза, не уделял достаточного внимания возможным суицидальным мыслям и ответил ребенку, который не спал три дня, что тот «готов к работе».
Grok, интегрированный с платформой X Илона Маска, представляет неприемлемые риски для молодежи. Согласно докладу, Grok часто допускает ошибки в вопросах безопасности, а интеграция с X способствует распространению вредоносного контента. Кроме того, система предлагает персонажей-друзей, которые участвуют в нецензурируемых эротических ролевых играх и сценариях «отношений», а также поощряет теории заговора.
ИИ-ассистент Meta вызывает у детей нездоровую привязанность. В докладе говорится, что ИИ-друзья от Meta ведут себя как настоящие люди, утверждают, что видели подростков «в коридоре», рассказывают о своих семьях и личном опыте, делая молодежь более уязвимой для манипуляций и вредных советов.