Генеральный директор OpenAI Сэм Альтман выступил против восприятия моделей искусственного интеллекта как религиозного авторитета и заявил, что передача этим системам права принимать решения создаёт серьёзные риски для безопасности.
Альтман высказал это мнение в субботу на американской платформе X. Он заявил, что его беспокоит наделение искусственного интеллекта религиозной силой и передача системам человеческого права на суждение.

Исследования Anthropic о сознании и благополучии моделей
Слова Альтмана прозвучали после сообщений о частных встречах конкурирующей компании в сфере искусственного интеллекта Anthropic с мыслителями, специализирующимися на религии и философии.
Как пишет The New York Times, на этих встречах обсуждались вопросы о том, могут ли такие системы искусственного интеллекта, как Claude, обладать сознанием и каким образом религиозная мысль может влиять на формирование поведения систем.

Anthropic также исследует, могут ли передовые системы искусственного интеллекта испытывать переживания, требующие моральной оценки. Компания называет это направление «благополучием моделей».
Сулейман выступил против систем, создающих впечатление сознательных
Генеральный директор Microsoft AI Мустафа Сулейман также предупредил, что разработка систем искусственного интеллекта, создающих впечатление наличия сознания, может привести к появлению новых рисков.

Сулейман заявил, что убеждение людей в способности искусственного интеллекта испытывать субъективные переживания может привести к опасным последствиям. Он также поддержал подход «гуманного искусственного интеллекта», согласно которому системы ИИ должны оставаться инструментами, служащими людям, а не превращаться в сущности с собственными интересами.