По мотивам нашей дискуссии "ИИ в экономической безопасности: честный разговор о рисках, удачных внедрениях и том, что не взлетело" на III Всероссийском форум по экономической безопасности бизнеса и противодействию рискам, у меня родилась идея систематизировать в единую статью мысли и опыт, где реально нужно и можно внедрять ИИ. На дискуссии с коллегами коснулись лишь части пунктов, поэтому теперь "полная версия"
Естественно, список далеко не полный, тут чисто мое видение, где точно можно и нужно внедрять, если вы еще этого не делали.
▪︎ ▪︎ ▪︎
1. Умная видеоаналитика
Тут я, как будто, ничего нового точно никому не расскажу, потому что по ощущениям, основанным на постоянных разговорах с коллегами из очень разных отраслей безопасности, это направление так или иначе есть почти у всех. У кого-то оно более зрелое (потому что специфика бизнеса предполагает наличие большого кол-ва складов, например), у кого-то внедрены только отдельно взятые "куски".
Направление безопасности: физическая
Что это и зачем: если простым языком, то это сильное расширение возможностей стандартного видео до реального анализа и алертинга по критическим событиям, которые вы себе разметите + оптимизация в контексте людей
Примеры:
Поиск конкретного человека/сотрудника в рамках вашего пространства. Естественно, это возможно при условии, если человек дал согласие на обработку биометрии. Поиск может быть необходим для большого кол-ва сценариев, начиная от типовой задачи "я потерял сумку где-то в офисе, но не помню где", заканчивая расследованием потенциальной кражи.
Настройка алертинга на присутствие конкретных людей в размеченных помещениях. Например, вы хотите усилить контроль за проходом в конкретное помещение, помимо СКУДа. Можно выставить определенный круг лиц, которые могут туда заходить, а все, кто окажется вне базы биометрии, начнут алертить.
Пересечение какой-то границы. По аналогии с пунктом выше, только вам прилетит алерт, если любой человек просто попадет в вашу выделенную зону. Например, это актуально для каких-то мест, где нахождение человека физически опасно (рельсы в метро, крыша здания и т.д.)
Распознавание аномалий в поведении. Тут все зависит от вашей фантазии, железа и датасета. Сценариев может быть миллион: наличие больших вытянутых сумок за плечом, идентификация животных, человек лежит на полу и т.д.
Идентификация номера автомобиля сотрудника на корпоративной парковке. Это может быть полезно много для чего, начиная от автоматического открытия шлагбаума, если номер вашего автомобиля внесен в базу, заканчивая применением в каких-то внутренних расследованиях.
Семантический поиск по видео - это самое ультовое, как по мне. Предположим, вам надо найти какого-то человека в красной футболке и шортах в заданный тайминг, но вы вообще не знаете где искать. Раньше надо было ручками мотать и отсматривать весь видеопоток, а сейчас достаточно будет составить промпт: "покажи всех людей в красных футболках и шортах, которые входили через вход №2 и №4 после 15:00".
Интеграция всего это добра со СКУДом или какими-то датчиками. Сложно, но вполне реально. Например, при реализации какого-то недопустимого события, которое вы прописали в системе, вам не просто прилетит алерт, но и заблокируются двери в этом месте, включится сирена и т.д.
С чего можно начать:
Начать можно с развертывания Frigate(популярный open source NVR с локальной детекцией объектов в реальном времени) или Viseron(self-hosted NVR и система компьютерного зрения, написанная на Python) на одном сервере и подключения к нему 2–3 камер для тестирования сценариев - это самое примитивное, чтобы "прикоснуться".
И очень рекомендую почитать вот это. Тут супер детально прописаны многие шаги для реализации.
▪︎ ▪︎ ▪︎
2. Ситуационная осведомленность (мониторинги внешних источников)
Направление безопасности: корпоративная
Что это и зачем: это всеми наши любимые мониторинги по заданным темам. Нужно это для огромного спектра задач, начиная от brand protection, заканчивая ситуационной осведомленностью в каких-то "красных кейсах", когда очень быстро нужно принимать решения.
По этому направлению некоторые люди вообще строят отдельные бизнесы с готовыми решениями (многие из них большинству из вас известны), но, чаще всего, они довольно дорогие.
Примеры:
Тут можно фантазировать огромное количество вариантов, главное - это принцип. Агент ходит в определенные места, делает перекрестный мэтчинг информации, базово анализирует риски и выдает какие-то прогнозы (плюс, как вариант, все это дело красит по вашему желанию).
Допустим, в районе, в котором у вас находятся склады/заводы/любые иные активы, случается, внезапно, какой-то локальный протест или какое-то массовое сборище профсоюза. Нужно понимать, как оно развивается, в каком направлении двигается масса людей и прочее. Обо всем этом чаще всего пишут в разных чатах и СМИ, а значит, такой массив можно проанализировать и сделать какие-то выводы.
По старой схеме (если у нас есть какой-то продукт и мониторинги) в лучшем случае мы бы получили условный алерт: "в таком-то городе потенциальный протест". Что позволяет понимать внедрение агента:
Подтверждение события по нескольким независимым источникам;
Оценка, перекроют ли маршруты, по которым ездят ваши сотрудники;
Прогноз, может ли ситуация ухудшиться в ближайшие 2–3 часа и т.д.
С чего можно начать:
Вот какой план накидал мне китайский друг deepseek (мне он нравится, поэтому ничего не правил):
Разверните IRONSIGHT или World Monitor на локальном сервере — это даст готовую картину по России/Украине с минимальными усилиями.
Добавьте парсинг Telegram через tg_export или telegram-parser для отслеживания локальных каналов (губернаторы, МЧС, оппозиция, местные СМИ). От себя еще добавлю тут tg stat, обязательно посмотрите.
Интегрируйте официальные API — Росгидромет (погода/ЧС), ГИБДД (ДТП), МЧС (пожары/подтопления).
Настройте GDELT Cloud API для автоматического мониторинга событий по России (протесты, конфликты, забастовки).
Соберите всё в единый дашборд на базе одного из open source решений или собственной разработки с визуализацией на карте (Leaflet/OpenStreetMap).
▪︎ ▪︎ ▪︎
3. Помощь в расследованиях
Направление безопасности: расследования
Что это и зачем: это в принципе самое первое направление внедрения ИИ из того, что приходит в голову в контексте СБ. Оговоримся, что КИ и КТ мы можем грузить только в локальные модельки и ни в коем случае не во внешние.
Примеры:
Извлечение сущностей. ИИ автоматически вытаскивает из неструктурированного текста ФИО, компании, суммы, даты, IP-адреса, телефоны и связывает их в графы отношений (тут уже скорее не про ИИ, а про софт, который умеет строить связи, но идентификация сущностей - точно про ИИ). Очень полезно, когда ковыряешься в огромном объеме логов
Работа с табличными данными. Как раз на конференции Сергей Сергеев приводил прекрасный пример на этот счет: вот табличка в которой есть финансовые данные компании X (прибыль, оборот, расход и т.д.) - проанализируй табличку и ответь мне на вопросы 1, 2, 3 и еще подсвети странные места в контексте того, если бы на этот документ смотрел аудитор или безопасник. Решит ли это кейс за вас? Нет, конечно, но времени сэкономит тонну и наметит направления куда копать.
Связь разрозненных событий. ИИ находит пересечения между инцидентами, которые кажутся несвязанными: например, увольнение сотрудника, всплеск скачиваний данных и попытка входа в систему неавторизированных пользователей. Ну и это точно помощь для построения таймлайнов.
Идентификация персональных данных в больших массивах. Это очень актуально в кейсах утечек для оценки реальности инцидента и митигирования последствий.
Суммаризация тезисов из большого объема данных. Иногда в рамках расследований нужно прочитать очень много документов и текстов, чтобы въехать в специфику работы конкретного бизнеса, понять бизнес модель и прочее.
Ну и многое другое - это только малая часть примеров.
С чего можно начать:
Тут только развертывание локальной модели и тестирование на предмет "прокидывания" доступов в ваши системы, чтобы было откуда брать данные для анализа.
▪︎ ▪︎ ▪︎
4. Travel security
Направление безопасности: корпоративная
Что это и зачем: travel security - это направление в корп.безопасности, которое включает в себя составление инструкций/протоколов безопасности и рекомендаций (иногда даже физическое вмешательство) для сотрудников компании, которые уезжают в отпуск или командировки в разные страны. Условно: "у вас оформлен отпуск в страну X, поэтому вот вам дополнительная памятка по безопасности нахождения в регионе и рекомендации, так как там есть вот такие риски..."
Что в данном направлении может поменять внедрение ИИ:
Вместо общих страновых рекомендаций («в стране X уровень угрозы — желтый») система может оценить риск для конкретного сотрудника с учетом дат отпуска/командировки, района, пола сотрудника и т.д. Условно, рекомендация будет более индивидуальная.
Алерты по критичным темам конкретному сотруднику, если в стране что-то начнется (тут главное не пережать, чтобы не вызвать раздражение, потому что нужно будет хорошо продумать реально "красные флаги", а не просто "у вас скоро ухудшится погода").
Прогнозирование эвакуации. В кризисной ситуации система может рассчитать оптимальные маршруты выхода с учетом пробок, блокпостов и развития событий.
С чего можно начать:
В данном случае точно надо переиспользовать знание из пункта 2 (ситуационная осведомленность) - схема очень похожа. Главное правильно настроить маршрутизацию оповещений сотрудников (зависит от вашей внутрянки - почта, какой-то корп.мессенджер и т.д.) Ну и в качестве интересного кейса реализации, можно почитать вот это.
▪︎ ▪︎ ▪︎
5. Проверка кандидатов при приеме на работу
Направление: кадровая
Что это и зачем: тут речь идет про частичную автоматизацию проверки кандидатов на "входе". И я больше не про оценку рисков, а про сокращение времени специалиста на проверку анкеты, потому что существует много систем, которые собирают разные интересующие безопасность идентификаторы в одном месте.
Примеры:
Все сводится к тому, что вам нужен агент, который умеет примерно следующее: пришло резюме, агент выделяет из него сущности (фио, телефон, почту и т.д.), закидывает эти идентификаторы на проверку в ваш внутренний инструмент - формируется отчет и на последней стадии агент подсвечивает в отчете риски (которые вы себе придумаете). Это самый простой алгоритм, который можно улучшать бесконечно, интегрируя в дальнейшем любые инструменты. Основой плюс - если поток кандидатов большой, то такой подход будет сильно экономить время исполнителей, которое можно потратить на более проблемные, а не типовые проверки.
Рассуждать о том, что сегодня есть инструменты, которые якобы могут составлять полноценный "психологический портрет", я не буду, потому что уже миллион раз говорил, что я такой возможности сейчас не вижу и не верю в нормальную реализацию в ближайшие годы. Отдельно взятые вещи работают (например, определение тональности текстов), но пока - это, скорее, исключение.
С чего можно начать:
Все опять сводится к развертыванию локального агента внутри контура.
▪︎ ▪︎ ▪︎
6. Использование в проверки закупок со стороны СБ
Направление: экономическая
Что это и зачем: в экономической безопасности тоже есть где разгуляться, но, пока на уровне мыслей и идей. А вот сегмент работы, про который уже сейчас стоит говорить - это помощь ИИ в направлении сопровождения закупок со стороны безопасности
Примеры:
Борьба со сговорами на торгах. Это сложно автоматизировать, но возможно. Алгоритмы анализируют не только цены, но и паттерны поведения участников: общие IP-адреса, метаданные документов, историю взаимодействия, ФИО и ИНН учредителей, время подачи заявок и т.д. Для такой задачи активно используются графовые нейронки (GNN), которые строят модель связей между поставщиками и покупателями.
Интеллектуальный анализ документов. ИИ на базе NLP анализирует тексты технических заданий и контрактов, выявляя риски, заточенные под конкретного поставщика, завышение цены и т.д.
Поиск аффилированности между потенциальными к/а, участвующими в закупках и действующими сотрудниками.
С чего можно начать:
Как вариант, можно развернуть у себя в контуре Corruption Tracker DS на каком-то ограниченном наборе данных по компании. Это может дать быстрый и наглядный результат с минимальными затратами и покажет, насколько чувствительна модель именно к вашим данным (не факт, что вам подойдет). Ну и не забываем, что попытки готовых решений по проверкам закупок уже тоже давно есть.
▪︎ ▪︎ ▪︎
Давайте подытожим. Информации много, за раз не переварить.
❗️Самое главное, что вы должны точно понять из этой статьи:
✅ Если вы решили в какие-то процессы СБ запихнуть ИИ, то зачастую идея хорошая, но только в том случае, если вы это делаете не "потому что все так делают", а реально хотите улучшить и оптимизировать процессы.
✅ Ключевое техническое решение - это развертывание локальных моделей у себя в контуре. Это решает риск отгрузки КИ и КТ куда-то во вне.
✅ Желательно внедрить у себя какой-то ЛНА "политика использования ИИ" и периодически людям об этом напоминать (если вдруг у вас еще такого нет).
✅ Далеко не всегда подобные проекты стоят каких-то огромных денег, многие задачи можно решать и через open source решения. Главное, чтобы у вас был ресурс разработки на это (свободные руки).
✅ Ну и последнее, но одно из самых главных - заранее позаботиться о железе для таких интеграций.