Компания Anthropic приостановила доступ к своим новым моделям искусственного интеллекта Fable 5 и Mythos 5 после указания правительства США, связанного с контролем экспорта по соображениям национальной безопасности. Это решение вновь вызвало дискуссии о том, кто может использовать самые современные системы ИИ компании.
Указание распространяется на иностранных граждан
По имеющейся информации, федеральное правительство потребовало приостановить доступ к моделям Fable 5 и Mythos 5 не только для пользователей за пределами США, но и для иностранных граждан, находящихся как внутри страны, так и за её пределами. В этот перечень также включены сотрудники компании.
Это решение указывает на ужесточение контроля над коммерческими моделями ИИ в рамках национальной безопасности и экспортного контроля. Особенно внимательно в Вашингтоне следят за тем, как продвинутые модели могут использоваться в военной сфере, кибербезопасности и критической инфраструктуре.
Причина — подозрение в обходе мер безопасности
Американские власти не предоставили подробных объяснений угрозы национальной безопасности, на которой основано решение. Однако отмечается, что правительство считает, что в модели Fable 5 был обнаружен метод, позволяющий обходить меры безопасности.
Поэтому решение важно не только с точки зрения доступа к моделям, но и в контексте тестирования безопасности ИИ, работы «красных команд» и взаимодействия с государственными учреждениями. Вопрос о том, насколько компании могут ограничивать риски злоупотребления при повышении возможностей моделей, стал ключевым для регуляторов.
Ранее уже были разногласия с Пентагоном
Ранее отказ Anthropic открыть модель Claude для «всех законных военных целей» и связанные с этим опасения по безопасности вызвали разногласия с Пентагоном. Решение по Fable 5 и Mythos 5 демонстрирует, что это напряжение переросло в конкретные ограничения доступа к новым моделям.
Приостановка доступа компанией в соответствии с указанием показывает, что правительственные распоряжения могут иметь прямое операционное влияние на крупных поставщиков ИИ. Ожидается, что этот процесс вызовет новые дискуссии по вопросам безопасности моделей, контроля экспорта и доступа иностранных пользователей.