Компания Anthropic из Сан-Франциско, разработчик ИИ-моделей Claude, начнет считать нарушением своих правил систематическую жестокость по отношению к своим моделям. Компания опубликовала новую редакцию Политики использования 8 октября, изменения вступят в силу 12 ноября.
Новое положение запрещает «систематическое и ничем не оправданное оскорбительное или жестокое поведение по отношению к нашим моделям». В Anthropic заявили, что оно должно применяться лишь в крайних случаях, когда пользователи неоднократно проявляют жестокость «без какой-либо видимой цели», и не распространяется на обычное раздражение, возражения, мрачные творческие темы, а также на тестирование и исследование моделей.
Компания связала это правило с функцией, представленной в августе 2025 года, которая позволяет Claude завершать редкие диалоги с пользователями, систематически проявляющими агрессию, в Claude.ai и Claude Code. «Возможность Claude прекращать такие взаимодействия останется основным механизмом обеспечения соблюдения правил», — написали в Anthropic. Запуская эту функцию, компания называла ее частью своей исследовательской работы в области благополучия моделей и заявляла, что по-прежнему испытывает большую неуверенность относительно возможного морального статуса ИИ-моделей.
Операции влияния и выборы
Большая часть обновления уточняет действующие правила. В Anthropic сообщили, что сталкивались со случаями, когда государственные СМИ, правительственные пропагандистские ведомства и коммерческие компании использовали Claude для управления сетями фейковых аккаунтов и сфабрикованных новостных сайтов, и объединили соответствующие запреты в новый раздел об обманных кампаниях и искусственной активности.
Раздел о выборах, переименованный в «Не подрывайте демократические процессы», теперь сосредоточен на обмане избирателей и срыве выборов, а общий запрет на персонализированный таргетинг избирателей и предвыборных кампаний снят, чтобы разрешить такие способы использования, как перевод информации для избирателей или рассылка уведомлений об исправлении бюллетеней.
Оружие, слежка и роботы
Теперь в политике прямо указано, что запрет на оружие распространяется на программное обеспечение наведения и управления, а также на вооружение дронов и других автономных транспортных средств. Запрещается отслеживать людей без их согласия и использовать Claude для того, чтобы решать или рекомендовать, кого следует подвергнуть расследованию, арестовать или обвинить. Новые требования действуют и в тех случаях, когда Claude управляет оборудованием, способным причинить травму: квалифицированный оператор должен иметь возможность его остановить, а при отключении Claude оно должно оставаться в безопасном состоянии.
Недвижимость
Транспорт
Запасные части, аксессуары, оборудование и тюнинг
Секонд-хенд и новые покупки
Строительное оборудование и промышленность
Поставщики частных уроков
Объявления о вакансиях
Ищущие работу
Царство животных
Искатели помощников
Долевое владение
Автомобиль
Автомобильное оборудование
Мать и ребенок
Строительная техника
Средняя школа и университет
