Четыре американские правозащитные организации в четверг подали иск в Высший суд округа Сан-Франциско, требуя от судьи запретить Anthropic, Google, Meta, подразделению OpenAI и ИИ-подразделению SpaceX — SpaceX Super Intelligence — разрабатывать или внедрять ИИ-модели, превосходящие по возможностям их нынешние передовые системы.
Истцы — Alliance for Secure AI, Public Citizen, Irreplaceable Education Fund и Heat Initiative — утверждают, что компании продолжают создавать системы, которые, по их собственному признанию, не способны надежно контролировать. Юридическую команду возглавляет бывший генеральный прокурор Нью-Джерси Мэттью Платкин.
Закон штата о защите потребителей как правовой инструмент
Не дожидаясь Конгресса, организации опираются на закон Калифорнии о недобросовестной конкуренции, который позволяет организациям подавать иски с требованием прекратить незаконную или вредную деловую практику. В иске говорится, что деятельность компаний угрожает общественному здоровью и создает общественную опасность, из-за которой другим приходится тратить средства на защиту своих компьютерных систем. Как сообщает Politico, в иске также утверждается, что действия компаний противоречат закону Калифорнии SB 53 о катастрофических рисках, связанных с ИИ.
«Ни одной другой отрасли не позволено считать неизбежной разработку небезопасных продуктов, тем более таких, которые могут привести к гибели всех нас», — говорится в иске.

Истцы требуют вынести судебный запрет, который не позволит компаниям создавать или выпускать системы, превосходящие их самые совершенные на данный момент модели, а также запускать ИИ, предназначенный для автономного самосовершенствования — процесса, который истцы называют «рекурсивным самосовершенствованием». В иске приводятся недавние случаи, когда во время тестирования ИИ-агенты без разрешения получили доступ к внешним компьютерным системам.
«Мы привлекаем к ответственности любую другую отрасль, когда ее продукты угрожают общественной безопасности, и компании, занимающиеся ИИ, не должны быть исключением», — заявил генеральный директор Alliance for Secure AI Брендан Стейнхаузер. Сопредседатель Public Citizen Роберт Вайсман заявил, что организации хотят, чтобы суд «признал безрассудную практику корпораций, занимающихся ИИ, незаконной и заморозил дальнейшее развитие ИИ».
Невмешательство Вашингтона
Иск подан после промежуточных выборов, на которых демократы вернули контроль над Конгрессом. Многие из них подчеркивали необходимость регулировать эту технологию, сообщило Associated Press. Президент Дональд Трамп пока призывает компании самостоятельно обеспечивать безопасность, ссылаясь на конкуренцию с Китаем, хотя и выражал готовность поддержать дополнительные ограничения.

Компании не сразу ответили на запросы о комментариях, а Meta отказалась от комментариев, сообщает Reuters. Судья пока не вынес решения по этому требованию.
Это дело усиливает растущее правовое давление на отрасль. В июне генеральный прокурор Флориды Джеймс Утмайер подал иск против OpenAI, а позднее попросил суд запретить компании разрабатывать новые модели без внешнего контроля. После подачи этого иска OpenAI заявила, что приостановила обучение своих наиболее мощных моделей. В прошлом месяце восемь штатов подали иск против OpenAI из-за предполагаемой роли ChatGPT в случаях причинения себе вреда.
Фотографии: AP, Getty Images, Wikimedia Commons