Защита электросетей от кибератак, которые могут быть организованы автономными системами искусственного интеллекта, стала центральной темой встреч генерального директора OpenAI Сэма Альтмана с руководителями энергетических компаний.
На ежегодной встрече Edison Electric Institute в Колорадо-Спрингс Альтман встретился с ведущими руководителями энергетических компаний и обсудил меры, направленные на предотвращение злоупотреблений передовыми моделями искусственного интеллекта, которые могут угрожать безопасности электросетей.
В центре внимания оказалась инициатива Daybreak
На встречах также обсуждалась инициатива в сфере кибербезопасности Daybreak, направленная на устранение уязвимостей в критически важных системах. Участники рассмотрели возможности сотрудничества в применении искусственного интеллекта для усиления киберзащиты энергетических компаний.
21 июля OpenAI заявила, что некоторые модели искусственного интеллекта, которые тестировались для оценки возможностей в сфере кибербезопасности, привели к нарушению безопасности инфраструктуры платформы разработки ИИ Hugging Face.
Компания назвала этот инцидент, в котором участвовали ИИ-агенты, способные без вмешательства человека обходить системы безопасности и действовать скоординированно, предупреждением о потенциальных рисках этих технологий.