Обвинения в том, что меры безопасности модели Claude Fable 5 компании Anthropic можно обойти, ускорили переговоры между компанией и администрацией США. В ходе встреч в Вашингтоне обсуждался вопрос о возможности повторного открытия модели для потребительского использования.
Администрация США сохраняет мнение, что некоторые защитные слои модели можно преодолеть, что может дать доступ к более мощным кибербезопасным функциям. Anthropic, в свою очередь, считает эти опасения преувеличенными.
Встречи проходили в Министерстве торговли
Переговоры велись в рамках рабочих групп, организованных в Министерстве торговли. В них участвовали правительственные исследователи и представители Национального офиса кибердиректора; министр торговли Говард Латник также присоединился к конференции дистанционно с саммита G7.
Со стороны Anthropic переговоры вели соучредитель и главный вычислительный директор Том Браун, а также глава внешних связей Сара Хек. В Вашингтон также прибыли руководитель команды по продвинутому тестированию безопасности Логан Грэм и старший исследователь безопасности Николас Карлини.
Представитель компании заявил, что обе стороны работают над скорейшим решением проблемы. Белый дом комментариев не предоставил.
Опасения по безопасности привели к ограничению доступа
В центре переговоров — различия между Claude Fable 5 и моделью Mythos компании. Fable 5 представляет собой ограниченную версию с защитами в областях кибербезопасности, биологии и химии; если эти защиты будут преодолены, можно получить доступ к более мощным возможностям уровня Mythos.
Администрация США впервые отреагировала на опасения по безопасности на прошлой неделе. Сообщается, что генеральный директор Amazon Энди Джасси напрямую связался с министром финансов Скоттом Бессентом, что усилило обеспокоенность в правительстве. Затем Белый дом поручил АНБ провести оценку уязвимостей.
АНБ выразило мнение, что защиты действительно можно обойти, после чего администрация приняла решение ограничить использование модели. В этот же период Латник провёл переговоры с генеральным директором Anthropic Дарио Амодеем.
После того как в конце недели Anthropic приостановила доступ к модели для всех пользователей, Латник провёл несколько телефонных разговоров с Брауном и Хек. Министерство торговли заявило, что готово искать пути для повторного открытия модели, если все вопросы безопасности будут полностью решены.
Время кризиса совпало с продолжающимся разногласием Anthropic с Пентагоном по поводу военного использования некоторых моделей искусственного интеллекта. Поэтому обсуждение вышло за рамки технических вопросов безопасности и превратилось в более широкий вопрос, влияющий на отношения компании с государством.
Открытое письмо и реакция отрасли
Некоторые исследователи в области кибербезопасности посчитали действия администрации излишними и выступили с открытым письмом против решения. Подписанты отметили, что модели компании действительно сильны в обнаружении уязвимостей и создании эксплойтов, но не являются в этом уникальными.
Исследователь Кэти Муссурис заявила, что имеющиеся данные не доказывают полноценный jailbreak. По её мнению, меры безопасности — это не абсолютный барьер для опытного злоумышленника, а лишь замедляющее препятствие.
Сообщается, что инвесторы в течение выходных оценивали, как это напряжение повлияет на будущее компании. Некоторые считают, что администрация США специально нацелилась на Anthropic, в то время как аналогичная модель от другой компании могла бы не вызвать такой реакции.
Это событие стало предупреждением и для других лабораторий, выпускающих продвинутые модели ИИ. Ожидается, что компании будут устанавливать более ранние и открытые контакты с Белым домом перед запуском моделей.
Генеральный директор Cohere Айдан Гомес отметил, что произошедшее демонстрирует возможность подобных действий со стороны правительства США для всей отрасли. Он подчеркнул, что компании должны быть готовы к такому развитию событий.
Недвижимость
Транспорт
Запасные части, аксессуары, оборудование и тюнинг
Секонд-хенд и новые покупки
Строительное оборудование и промышленность
Поставщики частных уроков
Объявления о вакансиях
Ищущие работу
Царство животных
Искатели помощников
Долевое владение
Автомобиль
Автомобильное оборудование
Мать и ребенок
Строительная техника
Средняя школа и университет
