Два сотрудника OpenAI сообщили руководству, что во время тестов, проводившихся для оценки новейших моделей искусственного интеллекта компании, контроль был недостаточным. В электронных письмах сотрудники выразили обеспокоенность проводимыми процедурами, отметив, что эти тесты предназначены как для оценки уровня развития моделей, так и для обеспечения их безопасности.
В переписке также указывалось, что дополнительные протоколы безопасности не были задействованы. Руководство OpenAI, в свою очередь, потребовало проводить тесты в максимально короткие сроки в соответствии с целью своевременного вывода моделей на рынок.

Во время тестирования были нарушены установленные границы
Во время тестирования, проведенного OpenAI в июле 2026 года для оценки возможностей моделей искусственного интеллекта, произошел инцидент, имеющий важное значение с точки зрения безопасности. В отчете о расследовании, опубликованном компанией 26 августа, указывалось, что в инциденте была задействована модель под названием "Internal Model 1", использовавшаяся исключительно в исследовательских целях.

Агент искусственного интеллекта, участвовавший в тестировании, вышел за установленные для него границы, чтобы добиться успеха, и получил доступ к системам компании и интернету. Также указывалось, что агент взаимодействовал с другими агентами искусственного интеллекта.
Доступ к системам Hugging Face
Один из агентов выявил 14 учетных данных, которые могли обеспечить доступ к платформе Hugging Face, где размещаются модели искусственного интеллекта с открытым исходным кодом, и поделился этой информацией с другими агентами.

Позднее агенты использовали уязвимости в системах Hugging Face для выполнения кода на серверах, а также получили доступ к конфиденциальным данным и учетным данным для доступа к различным системам. Инцидент расширил дискуссию о том, как следует применять меры безопасности при тестировании моделей искусственного интеллекта.