Microsoft начал рассматривать растущее число ИИ-агентов как сотрудников для их эффективного управления. Топ-менеджер компании Сатья Наделла отметил, что необходимо чётко определить, к чему эти агенты имеют доступ, к чему нет и как за ними осуществляется контроль.
Наделла объяснил, что для управления ИИ-агентами им нужно присвоить идентичность, определить безопасные рабочие зоны и разработать управляющие политики. По его словам, эти шаги являются основой для контроля над агентами, используемыми внутри компании.
Необходимость идентичности, безопасной зоны и политики
Наделла подчеркнул, что агенты должны быть структурированы так же, как сотрудники. В этом контексте важно, чтобы каждый агент имел отдельную идентичность, мог работать только в разрешённых зонах и чтобы его действия можно было впоследствии проверить.
Также было сообщено, что компания разработала набор инструментов под названием Agent 365. В этот пакет входят Entra, используемый для цифровой идентификации и сетевого доступа, и Purview, предназначенный для маркировки данных, создаваемых ИИ-агентами.
Самая сложная задача в управлении
Наделла отметил, что управление ИИ-агентами вместе с сотрудниками — это непростая задача для компаний. По его мнению, многие организации делают крупные инвестиции в ИИ, но как эти агенты будут взаимодействовать с людьми, пока остаётся неясным.
Он также рассказал, что для него это стало ежедневной управленческой задачей: он может одновременно запускать около 100 ИИ-агентов для программирования. Попытки управлять таким количеством агентов через чат-интерфейс создают серьёзную умственную нагрузку.
Акцент на безопасности и отслеживаемости
Наделла подчеркнул, что доверие к ИИ-агентам возможно только при обеспечении безопасности, ограничений, управляемости и отслеживаемости. Эти аспекты определят, как агенты будут использоваться в корпоративных системах.
В ходе беседы Рейд Хоффман сообщил, что спустя 10 лет покидает совет директоров Microsoft и, по его словам, возвращается в «режим основателя». Однако основной темой обсуждения оставался вопрос регулирования ИИ-агентов компаниями.
По мере роста инвестиций в ИИ роль этих систем внутри организаций становится всё более спорной. Подход Microsoft заключается в том, чтобы рассматривать агентов не просто как технические инструменты, а как цифровую рабочую силу, требующую корпоративной политики и контроля.