Microsoft подготовила проект под названием «Гуманистические правила поведения для искусственного интеллекта», призванный не допустить выхода моделей ИИ из-под контроля человека.
Документ предусматривает работу систем под существенным надзором человека и подчинение приложений искусственного интеллекта человеческому контролю.
Ограничения на помощь в создании оружия и работе с опасными веществами
Проект призван не допустить, чтобы модели помогали выполнять запросы, связанные с производством оружия. В число правил также входит запрет на содействие получению опасных веществ.
Предложенные Microsoft принципы также предусматривают отказ от создания контента, содержащего насилие или сексуально откровенные материалы.
Шесть недель для обсуждения проекта
Microsoft будет в течение шести недель собирать мнения по опубликованному для общественного обсуждения документу. После пересмотра проекта в конце года он, как ожидается, станет ориентиром для процессов разработки моделей искусственного интеллекта компании с 2027 года.
Этот шаг последовал за призывами генерального директора Anthropic Дарио Амодеи и генерального директора OpenAI Сэма Альтмана контролируемо замедлить темпы разработки моделей, чтобы сохранить безопасность искусственного интеллекта.