Эван Хубингер, занимающийся в Anthropic вопросами соответствия искусственного интеллекта человеческим ценностям, заявил, что считает вероятность того, что искусственный интеллект убьет всех людей в течение 10 лет, превышающей 10%.
Хубингер ответил на публикацию Джейкоба Коксона, ушедшего из Anthropic, о том, что разработчики искусственного интеллекта верят в возможность того, что эта технология убьет всех до конца 10-летнего периода. Хубингер заявил, что согласен с оценкой Коксона и действительно верит в такую вероятность.
Плана по обеспечению безопасности сверхразума нет
Хубингер заявил, что считает, что Anthropic делает все возможное, однако у компании нет четкого плана решения проблемы безопасности сверхразума. Он также отметил, что в этой сфере отсутствует ясная дорожная карта.
Коксон объявил об уходе из Anthropic
Джейкоб Коксон заявил, что в течение последних трех лет работал исследователем в OpenAI и Anthropic, и объявил об уходе из Anthropic. Коксон утверждает, что обе компании действуют недостаточно ответственно.
Коксон заявил, что компании ведут неконтролируемую гонку за созданием самоулучшающегося сверхразума. По его словам, эти системы вскоре могут превратиться в сверхчеловеческие структуры, способные взламывать что угодно, за одну ночь преобразовывать различные сферы и получать доступ к реальной власти и ресурсам.
Коксон также утверждает, что сотрудники сектора искусственного интеллекта всерьез верят в то, что эти системы могут уничтожить человечество в течение 10 лет. Он заявил, что руководители используют на публике более умеренные формулировки, но за закрытыми дверями испытывают сильный страх.