Отчет компании Anthropic о злоупотреблении ее ИИ-моделью Claude со стороны оружейной ячейки на севере Йемена снова оказался в центре внимания после того, как 12 октября к нему вернулась Daily Mail. Сам отчет был опубликован в сентябре.
В нем Anthropic сообщила, что «выявила ячейку злоумышленников на севере Йемена, которая вела три программы разработки оружия». Компания не назвала группу, однако север Йемена контролируют близкие к Ирану хуситы.
Три программы и неудачное испытание

Согласно отчету, программы включали управляемую ракету с бортовым компьютером уровня смартфона и самонаведением на конечном участке, многоступенчатую баллистическую ракету с заявленной целевой дальностью более 2000 километров и семейство ракет, в том числе с гиперзвуковым планирующим блоком. Группа, по данным отчета, использовала Claude для написания программного обеспечения, для которого иначе потребовалась бы команда инженеров.
«У нас нет доказательств того, что злоумышленникам удалось создать работающее устройство, но они провели испытательный пуск управляемой ракеты», — говорится в отчете. Испытание, судя по всему, провалилось, и в течение нескольких часов группа вернулась к Claude, чтобы понять причину. Anthropic заблокировала аккаунты сразу после обнаружения активности.
В последние дни отчету приписывали целевую дальность 2400 км и удары по Саудовской Аравии, но в выводах Anthropic таких деталей нет. Эксперт по вооружениям, процитированный AP, счел маловероятным, что у группы есть мощности для производства гиперзвуковых ракет.