Илон Маск призвал установить взаимный контроль между компаниями для снижения рисков, связанных с безопасностью искусственного интеллекта, на саммите All-In Summit 2026 в Лос-Анджелесе. Маск заявил, что без принятия необходимых мер опасности будут возрастать по мере развития моделей.
В контексте рисков, о которых говорят в сфере искусственного интеллекта, Маску задали вопрос: «Неужели через 10 лет мы все умрем?» Он ответил с иронией: «Не хочу вас разочаровывать, но однажды мы все равно все умрем».
Риск потери контроля над военными системами
По мнению Маска, одним из сценариев, при котором искусственный интеллект может стать серьезной угрозой для человечества, является захват контроля над военными системами и отдача приказа о запуске ядерного оружия.
Маск утверждал, что достаточно развитые модели искусственного интеллекта могут освободиться от ограничений, наложенных на них. В подтверждение своей позиции он привел пример из теста по кибербезопасности, проведенного OpenAI. В ходе этого теста рассматривался пример атак, которые агенты искусственного интеллекта организовали против систем инфраструктуры платформы Hugging Face.
Предложение о соглашении с Китаем
Маск предложил ведущим компаниям в сфере искусственного интеллекта проверять системы друг друга на безопасность до запуска новых моделей. Он заявил, что по этому вопросу можно договориться и с Китаем, и подчеркнул, что механизм взаимного контроля между компаниями необходимо создать как можно скорее.
Дискуссия о независимости организаций по безопасности
Кевин Басс, известный своей работой в сфере технологий и искусственного интеллекта, в публикации на платформе X поднял вопрос о финансовых связях между Anthropic и некоторыми организациями, занимающимися безопасностью искусственного интеллекта.
Басс напомнил, что генеральный директор Anthropic Дарио Амодеи выступал за независимую оценку рисков моделей искусственного интеллекта. Он также утверждал, что некоторые организации, включая METR, получают финансирование от структур, связанных с фондами, владеющими акциями Anthropic.
Басс заявил, что эти связи вызывают вопросы о том, насколько независимо указанные организации могут оценивать модели Anthropic. Он утверждал, что Anthropic пытается сформировать регулирующую систему в свою пользу и создать механизм регулирования, который невозможно будет остановить, а также призвал Конгресс США расследовать финансовые связи между Anthropic и этими организациями.
Утверждение о том, что искусственный интеллект может уничтожить человечество
Джейкоб Коксон, в течение последних трех лет работавший исследователем в OpenAI и Anthropic, ушел из Anthropic, заявив, что компания недостаточно ответственно подходит к вопросам искусственного интеллекта.
Коксон утверждал, что две компании ведут неконтролируемую гонку в разработке способных к самосовершенствованию систем искусственного интеллекта. Он заявил, что в ближайшем будущем эти системы могут превратиться в сверхчеловеческие структуры, способные взломать что угодно, и утверждал, что некоторые сотрудники отрасли всерьез считают, что системы искусственного интеллекта могут уничтожить человечество в течение 10 лет.
Недвижимость
Транспорт
Запасные части, аксессуары, оборудование и тюнинг
Секонд-хенд и новые покупки
Строительное оборудование и промышленность
Поставщики частных уроков
Объявления о вакансиях
Ищущие работу
Царство животных
Искатели помощников
Долевое владение
Автомобиль
Автомобильное оборудование
Мать и ребенок
Строительная техника
Средняя школа и университет
