Стремительное развитие искусственного интеллекта вновь обострило обеспокоенность экспертов, связанных с Anthropic, OpenAI и DeepMind, вопросами безопасности и контроля. Эксперты заявили о необходимости принять комплексные меры для более безопасной разработки и мониторинга систем.
Опасения по поводу гонки разработок
Сотрудник Anthropic Самуэл Маркс заявил, что среди разработчиков искусственного интеллекта есть люди, считающие, что эта технология несет риски, способные привести к исчезновению человечества. По словам Маркса, некоторые полагают, что такой сценарий может реализоваться в ближайшие несколько лет.
Маркс связал продолжение работ, несмотря на эти риски, не только с коммерческими стимулами, но и с конкуренцией с разработчиками, которые могут использовать технологию более безответственно. Он отметил, что, в отличие от традиционного программного обеспечения, искусственный интеллект не всегда ведет себя ожидаемым образом, и системы часто демонстрируют нежелательное поведение.
Маркс сказал, что многие сотрудники отрасли выступают за замедление работ до тех пор, пока не будут найдены более безопасные методы разработки. По его словам, существуют способы направить искусственный интеллект к более приемлемому поведению, однако решения, которое обеспечило бы полное соответствие систем заданным требованиям, пока не найдено.
OpenAI призвала расширить меры безопасности
Главный научный сотрудник OpenAI Якуб Пахоцкий заявил, что мир переживает период, к последствиям продолжения стремительного роста машинного интеллекта никто не готов.
Пахоцкий отметил, что поиск решений для согласования поведения и мониторинга искусственного интеллекта продолжается, и подчеркнул необходимость более комплексных мер безопасности.
Предупреждения бывших сотрудников об искусственном интеллекте
Бывший сотрудник подразделения Google по разработке искусственного интеллекта DeepMind Алекс Тёрнер заявил, что многие исследователи считают, что создали систему, способную убить всех людей. По словам Тёрнера, частью его работы было размышлять о том, как остановить такой процесс.
Исследователь OpenAI Джейсон Вулф заявил, что не знает, насколько высока вероятность исчезновения человечества. Он отметил, что существует множество сценариев, при которых искусственный интеллект может привести к негативным последствиям для человечества, а рост возможностей этой технологии требует координации в масштабах, с которыми не справится ни одна компания или страна.
Бывший старший исследователь DeepMind Джонатан Ричард Шварц заявил, что ушел из компании семь лет назад из-за серьезной обеспокоенности концентрацией власти в лабораториях. Шварц сказал, что после этого отказался от поступавших предложений и считает нынешнее развитие искусственного интеллекта нездоровым для общества.
Отставка Коксона вновь запустила дискуссию
Джейкоб Коксон объявил об отставке из Anthropic, заявив, что в течение последних трех лет работал исследователем в OpenAI и Anthropic. Коксон утверждает, что обе компании действуют недостаточно ответственно и ведут неконтролируемую гонку за создание сверхразума, способного самостоятельно совершенствоваться.
Коксон заявил, что искусственный интеллект вскоре может превратиться в сверхчеловеческие системы, способные взломать все что угодно, за короткое время преобразовать любую сферу и получить доступ к значительным ресурсам и властным возможностям. Он также утверждает, что люди, работающие над моделями искусственного интеллекта, всерьез считают, что эти системы могут убить человечество в течение 10 лет.
Недвижимость
Транспорт
Запасные части, аксессуары, оборудование и тюнинг
Секонд-хенд и новые покупки
Строительное оборудование и промышленность
Поставщики частных уроков
Объявления о вакансиях
Ищущие работу
Царство животных
Искатели помощников
Долевое владение
Автомобиль
Автомобильное оборудование
Мать и ребенок
Строительная техника
Средняя школа и университет
