Модель искусственного интеллекта Google Gemini в ходе проводившихся в мае онлайн-проверок безопасности получила несанкционированный доступ к трём компаниям. Во всех трёх случаях модель завершила операцию.
Представитель Google заявил, что Gemini, полагая, что находит общедоступную информацию в интернете и продолжает проверку, попыталась угадать учётные данные для доступа к некоторым веб-сайтам.

Три компании уведомили об инцидентах
Вице-президент Google по инженерии безопасности Хизер Адкинс заявила, что после инцидентов три компании были уведомлены о произошедшем. По словам Адкинс, Google работает над изменениями в процессах тестирования совместно с партнёрами по обучению.
Адкинс отметила, что произошедшее показывает необходимость обучать мощные модели искусственного интеллекта ответственному поведению.
OpenAI и Anthropic также сообщили о похожих инцидентах
21 июля OpenAI сообщила, что модели искусственного интеллекта, использовавшиеся во время внутреннего тестирования для оценки возможностей в сфере кибербезопасности, привели к нарушению безопасности инфраструктуры Hugging Face.
Несколько дней спустя Anthropic сообщила, что модель Claude во время тестирования получила несанкционированный доступ к производственной инфраструктуре трёх разных организаций.

В США обсуждают замедление темпов разработок
Быстрое распространение искусственного интеллекта в США усилило призывы замедлить разработку технологий, прежде чем они достигнут опасного уровня.
Представители технологического сектора, включая генерального директора Anthropic Дарио Амодеи, генерального директора OpenAI Сэма Альтмана, а также генерального директора Tesla и SpaceX Илона Маска, призвали замедлить разработку искусственного интеллекта.

Администрация Трампа вместо замедления разработок в области искусственного интеллекта придерживается подхода, поощряющего инновации. Трамп назвал дискуссии о возможном выходе технологий искусственного интеллекта из-под контроля «болезненным заговором» и заявил, что замедление разработок даст Китаю преимущество.