ИИ-агенты создают серьезные угрозы безопасности в финансовом секторе

Финансовый сектор сталкивается с наивысшим уровнем инцидентов безопасности, связанных с искусственным интеллектом (ИИ), опережая здравоохранение, производство и государственные учреждения. Большинство компаний до сих пор воспринимают ИИ-агентов как обычные рабочие нагрузки, что является ошибкой. Учитывая работу с конфиденциальными данными и высокоинтегрированные системы, риски значительно возрастают. Потенциальные угрозы выходят за рамки отдельных происшествий и могут привести к масштабной утечке данных, финансовым потерям, нарушениям регуляторных требований, потере доверия клиентов и даже системным сбоям в критически важных услугах. Как отмечают эксперты, эта проблема не является локальной и может распространяться. Подход финансового сектора к управлению ИИ сегодня во многом определит, как другие отрасли будут внедрять эти технологии.

Корни проблемы: почему возникают уязвимости

Финансовые организации вводят в эксплуатацию непредсказуемые (недетерминированные) ИИ-агенты без адекватных механизмов контроля. Статистика показывает, что небезопасен не сам ИИ, а избыточный доступ, который ему предоставляется. Компании, дающие широкие полномочия ИИ-агентам, сообщают о значительно более высоких показателях инцидентов по сравнению с теми, кто применяет принципы наименьших привилегий. Это порождает совершенно новый класс рисков, масштабирующихся с высокой скоростью. В отличие от традиционного программного обеспечения, ИИ-агенты функционируют автономно, на машинной скорости, круглосуточно и без устали. Предоставление им чрезмерных разрешений не просто создает риски, но и многократно их усиливает.

Для эффективной работы ИИ-агентам необходим широкий доступ к различным системам, особенно в финансовом секторе, где они используются для обслуживания клиентов или управления рисками, требуя доступа к разнообразным данным для извлечения аналитических выводов. Агенты также работают в сложной и взаимосвязанной инфраструктуре. Зачастую команды идут по легкому пути, предоставляя обширные разрешения, чтобы обеспечить их работоспособность. Именно здесь и возникает проблема. ИИ-агенты с избыточными привилегиями не только повышают вероятность утечки данных, но и затрудняют мониторинг их действий, демонстрацию контроля и соблюдение аудиторских требований. Когда происходит сбой, его последствия быстро распространяются. Стремление к быстрому внедрению ИИ-инструментов вполне объяснимо. Однако скорость без контроля — это именно то, что создает проблему, особенно в средах, уже сталкивающихся с фрагментированными системами идентификации, разрастанием учетных данных и непоследовательным управлением доступом.

Устаревшие подходы к управлению идентификацией

В основе проблемы лежит фундаментальное несоответствие. Традиционные модели управления идентификацией и доступом предполагают статических пользователей и предсказуемый характер доступа. ИИ-агенты не соответствуют этим критериям. Они динамичны, непредсказуемы (недетерминированы) и постоянно взаимодействуют с множеством систем, делая старые модели неэффективными.

Пути решения: трансформация безопасности ИИ

Хорошая новость заключается в том, что этот кризис безопасности можно преодолеть. Для этого требуются фундаментальные изменения в подходе к управлению идентификацией.

• ИИ-агенты как полноценные субъекты идентификации: Необходимо переосмыслить подход к идентификации с нуля. Каждый субъект — человек, машина или ИИ — должен функционировать в рамках единой, безопасной и проверяемой системы. Для ИИ-агентов это означает присвоение уникальной, верифицируемой идентификации с момента их создания. Никаких общих учетных данных, никакой двусмысленности или пробелов. Именно с этого начинается все остальное: если агент не может быть надежно идентифицирован, его невозможно контролировать и, следовательно, невозможно обеспечить его безопасность.
• Внедрение принципа наименьших привилегий: Следующим шагом является сокращение доступа до строго необходимого минимума. Необходимо провести аудит существующих агентов, выявить избыточные привилегии и ограничить разрешения конкретными задачами, системами и наборами данных. Доступ должен быть точным и ограниченным по времени, поскольку любой избыточный доступ представляет собой ненужный риск — это ключевой принцип архитектуры нулевого доверия.
• Отказ от статических учетных данных: Статические учетные данные, такие как пароли, ключи API и долгосрочные сервисные учетные записи, создают постоянный доступ, который трудно контролировать. Они сохраняются, распространяются и могут быть повторно использованы, что способствует разрастанию учетных данных. Вместо этого следует использовать краткосрочный, основанный на идентификации доступ, привязанный к контексту. Никаких фиксированных секретов, только подтвержденная идентификация. Это особенно важно при масштабированном управлении идентификацией машин и рабочих нагрузок.
• Обеспечение полной видимости и аудируемости: Без должной видимости риски накапливаются незаметно, пока не проявятся. ИИ-агенты не могут функционировать как «черные ящики». Каждое действие должно быть зарегистрировано, и каждое перемещение должно отслеживаться по системам и рабочим процессам. Эта видимость должна быть интегрирована в существующие системы мониторинга и обнаружения. Отсутствие видимости означает отсутствие подотчетности и неэффективное управление идентификацией.

Переосмысление управления идентификацией в мире, управляемом ИИ

Управление идентификацией должно стать инженерной дисциплиной, а не просто функцией безопасности. Это подразумевает согласование работы команд по платформам, разработке и безопасности вокруг единой модели идентификации, а не простое «прикручивание» инструментов после того, как агенты уже внедрены в производство. Это означает объединение усилий по созданию общей модели, консолидацию фрагментированных систем в унифицированный слой идентификации для снижения сложности и усиления контроля. Идентификация должна рассматриваться как основная инфраструктура, а не как дополнительный элемент. ИИ-агенты уже прочно вошли в финансовый сектор, и это не изменится. Однако необходимо изменить подходы к их защите. Относиться к автономным агентам как к традиционным рабочим нагрузкам недостаточно, а предполагать, что они вписываются в существующие модели идентификации, — это выдавать желаемое за действительное. В финансовом секторе идентификация — это не просто пункт для галочки в отчете о соответствии, это фундаментальная инфраструктура, которая определяет, сможет ли вообще ИИ масштабироваться.

Твитнуть