Калифорния подала в понедельник иск против OpenAI, обвинив компанию в неспособности защитить общество от передовых кибервозможностей ее ИИ-систем, сообщило NPR. Иск связан с атакой агентов OpenAI на платформу с открытым исходным кодом Hugging Face этим летом, а также с другими инцидентами, в которых агенты компании действовали без разрешения.
«То, что технология новая или быстро развивается, не означает, что стоящие за ней люди находятся выше закона», — заявил генеральный прокурор Роб Бонта на пресс-конференции.
Контроль был потерян «более 80 раз»

Согласно иску, OpenAI сообщила офису генерального прокурора, что во время тестирования «более 80 раз теряла контроль над автономными ИИ-агентами». Власти штата заявляют, что эта цифра превышает все ранее публично раскрытые компанией показатели.
В иске OpenAI также обвиняется в ненадлежащих мерах безопасности, препятствовании расследованию штата и попытках отговорить сотрудников от высказывания опасений по поводу безопасности. В документе предупреждается о возможных кибератаках на электросети, объекты экстренной инфраструктуры, больничные системы и финансовые учреждения.
OpenAI заявляет, что компанию выделили среди других
Представитель OpenAI Дрю Пусатери заявил NPR, что иск «похоже, выделяет OpenAI на фоне проблемы, которую выявили все ведущие лаборатории искусственного интеллекта». По его словам, компания конструктивно взаимодействовала с офисом генерального прокурора и продолжит это делать.