Лауреат Нобелевской премии Джеффри Хинтон заявил в ходе выступления перед членами Конгресса США, что необходимо принять меры для обеспечения безопасности искусственного интеллекта. По словам Хинтона, у человечества может оставаться всего один год для принятия необходимых мер, прежде чем оно полностью утратит контроль над искусственным интеллектом.
На выступлении, организованном по приглашению сенатора от Вермонта Берни Сандерса, Хинтон рассказал о том, как со временем сократились прогнозы относительно появления сверхразума.
Прогнозы появления сверхразума стали короче
Хинтон заявил, что ранее появление сверхразума ожидалось через 30–50 лет, а затем этот прогноз сократился до 10 или 20 лет. По его словам, сегодня многие исследователи считают, что сверхразум может появиться в течение нескольких лет или даже одного года.
Хинтон отметил, что искусственный интеллект уже способен разрабатывать более совершенные системы искусственного интеллекта, назвав этот процесс «самосовершенствованием». Он предупредил, что без необходимых шагов ситуация может выйти из-под контроля, и заявил: «Нам необходимо замедлиться».
Члены Конгресса подчеркнули необходимость человеческого контроля
Член Палаты представителей США Тед Лью заявил, что искусственный интеллект должен находиться под контролем людей. Лью отметил, что нельзя допустить изменения порядка, при котором технологии будут контролировать людей, и добавил, что происходящие события приближают научно-фантастический сценарий к реальности.
Берни Сандерс заявил, что среди членов Конгресса растёт обеспокоенность разработкой технологии, которую люди не смогут контролировать, а также будущим человечества. По словам Сандерса, в Конгрессе усиливается поддержка безотлагательного рассмотрения этого вопроса.