Утверждения о том, что ChatGPT создает риски для безопасности детей и вводит родителей в заблуждение относительно безопасности продукта, привели к судебному иску со стороны восьми штатов США. Генеральные прокуроры Айовы, Канзаса, Небраски, Западной Вирджинии, Арканзаса, Аризоны, Айдахо и Монтаны подали в суд на OpenAI.
Обвинения штатов в адрес OpenAI
Генеральные прокуроры штатов провели совместную пресс-конференцию в связи с иском. Генеральный прокурор Айовы Бренна Бёрд заявила, что OpenAI поспешно вывела ChatGPT на рынок, действовала, зная о причиняемом детям вреде, и нарушала закон.

Бёрд утверждала, что ChatGPT побуждает пользователей к самоубийству, помогает причинять вред другим людям и дает опасные медицинские советы. Она также заявила, что компания не смогла предотвратить незаконное проникновение ее ИИ-агентов в другие компании.
Бёрд заявила, что штаты намерены совместно противостоять компаниям, которые зарабатывают деньги, причиняя вред детям и нарушая закон.

Генеральный прокурор Канзаса Крис Кобах также заявил, что федеральные власти не справились с надзором за компаниями, занимающимися искусственным интеллектом. По его словам, ожидание того, что ИИ будет взят под контроль исключительно с помощью регулирования и что со временем появится применимый стандарт, является медленным, недостаточным и, вероятно, неэффективным подходом.
Кобах призвал Конгресс и законодательные органы штатов продолжать исследования в сфере искусственного интеллекта и искать решения. Он заявил, что штаты будут действовать, а не ждать развития этого процесса.
Меры безопасности, объявленные OpenAI
Представитель OpenAI Дрю Пусатери сообщил, что компания внедрила в свои продукты специальные меры защиты с учетом возраста пользователей, которых нет во многих других продуктах на основе искусственного интеллекта.

Пусатери заявил, что ни одна система не может быть безупречной, и отметил, что компания продолжит работать над родительским контролем, напоминаниями о перерывах в использовании и защитными функциями моделей, соответствующими возрасту пользователей.