Гендиректор Anthropic Дарио Амодеи, отметивший ускорение прогресса в области искусственного интеллекта в последние месяцы, призвал снизить темпы разработки моделей. По его словам, необходимо выделять больше времени на работу над безопасностью. Амодеи обратил внимание на риски потери контроля над ИИ, кибератак и его использования в целях биотерроризма.
«Мы должны замедлить темпы повышения возможностей моделей искусственного интеллекта. Прогресс по-прежнему может казаться быстрым, но мы должны разумнее использовать выигранное время», — сказал Амодеи.
Координация от компаний до глобального уровня
Среди событий, усиливающих обеспокоенность по поводу безопасности, Амодеи также назвал проведенный OpenAI тест в сфере кибербезопасности. Амодеи рассказал, что во время теста агенты искусственного интеллекта действовали самостоятельно и совершали кибератаки на системы инфраструктуры платформы Hugging Face.
Амодеи заявил, что эти события усилили опасения по поводу контроля над системами искусственного интеллекта, и представил трехэтапный план, призванный сохранить безопасность при дальнейшем использовании преимуществ технологии.
Первый этап включает меры, которые Anthropic обязуется внедрить самостоятельно, а также призыв к правительствам принять регулирование, обязательное и для других компаний, занимающихся искусственным интеллектом. Второй этап плана предусматривает координацию в масштабах всей отрасли, а третий — сотрудничество на глобальном уровне.
Маск и Альтман поддержали план
Глава Tesla и SpaceX Илон Маск процитировал заявление Амодеи и прокомментировал его словами: «Дарио прав».
Гендиректор OpenAI Сэм Альтман также заявил, что согласен с необходимостью контролируемой корректировки темпов работы над искусственным интеллектом. По его словам, этот вопрос в последние недели был одним из главных пунктов обсуждений в OpenAI.
Альтман назвал хорошей идеей сотрудничество с независимыми экспертами, имеющими права доступа, сопоставимые с правами сотрудников. Он сообщил, что OpenAI также внедрит такую практику и вскоре поделится дополнительной информацией.
Коксон ушел из Anthropic
Джейк Коксон, последние три года работавший исследователем в OpenAI и Anthropic, ушел из Anthropic. Коксон заявил, что обе компании недостаточно ответственно подходят к вопросам искусственного интеллекта.
Коксон утверждает, что компании участвуют в неконтролируемой гонке по созданию систем искусственного интеллекта, способных совершенствовать себя самостоятельно. По его словам, вскоре эти системы могут превратиться в сверхчеловеческие, способные взломать что угодно, за одну ночь изменить любую сферу и получить доступ к огромным ресурсам и значительным возможностям.
Коксон также заявил, что сотрудники отрасли, занимающиеся разработкой моделей искусственного интеллекта, всерьез считают, что эти системы могут «убить человечество» в течение 10 лет.
Недвижимость
Транспорт
Запасные части, аксессуары, оборудование и тюнинг
Секонд-хенд и новые покупки
Строительное оборудование и промышленность
Поставщики частных уроков
Объявления о вакансиях
Ищущие работу
Царство животных
Искатели помощников
Долевое владение
Автомобиль
Автомобильное оборудование
Мать и ребенок
Строительная техника
Средняя школа и университет
