Компания «РТ-Информационная безопасность» (РТ-ИБ, входит в госкорпорацию «Ростех») сформировала пакеты экспертизы для выявления «теневого ИИ» – ИИ-агентов, которые используются на рабочих компьютерах без контроля службы информационной безопасности. Продукт определяет не только наличие такого ПО, но и его активность: запуск команд, работу с файлами и другие действия на устройстве, сообщила пресс-служба госкорпорации.
«Использование ИИ-инструментов само по себе не является признаком нарушения информационной безопасности. Вместе с тем ИИ-агент действует от имени пользователя и наследует его полномочия, а значит, потенциально может обращаться к репозиториям, ключам доступа, конфигурационным файлам и другим данным, доступным учетной записи. В связи с этим при оценке активности агента мы считаем необходимым учитывать, от имени какого пользователя он работает, к каким данным обращается и какие действия выполняет. Обращения ИИ-процессов к таким объектам требуют особого внимания при расследовании. Наша задача – дать заказчикам инструмент, который позволяет видеть реальную активность ИИ-агентов и оценивать связанные с ней риски», – отметил генеральный директор РТ-ИБ Дмитрий Прендецкий, которого цитирует пресс-служба.
Поясняется, что специалисты РТ-ИБ проанализировали распространенные ИИ-инструменты, а также локальную среду запуска моделей. Эксперты изучили особенности их работы на компьютере: запускаемые процессы, используемые файлы и каталоги, способы установки и сетевые обращения. На основе этих данных удалось определить признаки, по которым система может выявлять активность разных ИИ-агентов. Исследование показало, что обнаружить такую активность только по сетевому трафику или наличию установленной программы невозможно. Локальные модели могут работать непосредственно на компьютере без обращения к внешним сервисам, а сами ИИ-инструменты – запускаться разными способами и не всегда отображаться в перечне корпоративного ПО.
Согласно материалу, на основе результатов исследования эксперты РТ-ИБ сформировали два пакета экспертизы обнаружения и последовательности расследования. Пакет «Контроль ИИ-агентов» фиксирует запуск и поведение агента на хосте, связывает его с учетной записью пользователя и показывает, к каким данным и командам он обращается. Пакет «Теневой ИИ» – несанкционированные клиенты, локальные модели и каналы обращения к внешним сервисам.