Баланс возможностей и вызовов искусственного интеллекта в области безопасности: «Формат кода» на выставке Sfitex 2025
В Санкт-Петербурге завершилась 33-я Международная выставка Sfitex 2025. В этом году мероприятие объединило 47 компаний из различных регионов России и ближнего зарубежья. В деловой программе первого дня выставки директор по развитию бизнеса компании «Формат кода» Александр Жуков принял участие в тематической сессии по искусственному интеллекту (ИИ), где он выступил с докладом на тему: «Баланс возможностей и вызовов искусственного интеллекта в области безопасности».
В своем выступлении ведущий специалист компании в области ИИ рассказал о вызовах, с которыми сталкивается рынок систем безопасности, и о способах их преодоления.
«ИИ одновременно усиливает возможности защиты и создаёт новые, качественно иного рода угрозы. Задача профессионалов по безопасности — не отвергать технологию, а управлять ею: внедрять механизмы контроля качества данных, тестирования и жёсткой защиты моделей, проводить регулярный редтайминг, обеспечивать прозрачность и распределять ответственность», — рассказал эксперт. «Только балансируя и оценивая потенциал и риски, мы сможем превратить ИИ в инструмент устойчивой безопасности, а не в фактор системного риска», — продолжил Александр».
Сегодня ИИ трансформирует практики обеспечения безопасности: от мониторинга физических пространств до автоматизации киберзащиты. Тематика выступления Александра Жукова находится на передовой ИИ, поэтому мы собрали основные тезисы из его выступления:
ИИ как защита
- Современная видеоаналитика в реальном времени позволяет обнаруживать аномалии поведения, фиксировать скопления, оставленные предметы и быстро идентифицировать транспорт или лица — это сокращает время реакции охраны и уменьшает число человеческих ошибок.
- В сфере документооборота ИИ автоматически проверяет контракты, регламенты и внутренние инструкции на соответствие правовым и корпоративным требованиям, что снижает юридические риски и ускоряет комплаенс-аудит.
- Объединяя данные с сенсоров, сетевых журналов и открытых источников, модели предсказывают зарождающиеся угрозы и помогают моделировать сценарии кризисов — от аварий до координированных кибератак.
- Наконец, ИИ способен выполнять первичные меры реагирования (изоляция узла, блокировка трафика), освобождая людей для стратегических решений, а также предоставлять понятные объяснения и варианты действий, усиливая человеческий контроль над ситуацией.
ИИ как уязвимость
Вместе с выгодами приходят структурированные новые риски.
Во-первых, централизованные массивы данных и обученные модели становятся лакомой целью для атак: утечка чувствительной информации или непреднамеренное «воспроизведение» приватных данных моделью может иметь серьёзные последствия.
Во-вторых, сами модели уязвимы — от «отравления» тренировочных данных до adversarial-атак, заставляющих систему ошибочно интерпретировать входящие сигналы; это может привести как к пропуску реальной угрозы, так и к ложным срабатываниям, парализующим процессы. Зависимость от инфраструктуры и периферийных устройств увеличивает эффект «единой точки отказа»: успешный взлом центра данных или IoT-узла может нарушить сразу множество сервисов.
Наконец, правовые и этические рамки ещё формируются — вопросы ответственности за ошибочные или предвзятые решения ИИ остаются открытыми и создают дополнительные риски для организаций.
ИИ как оружие
Генеративные технологии выводят и угрозы на новый уровень: реалистичные фейки (видео, аудио, тексты) делают социальную инженерию более убедительной и масштабной — поддельное обращение руководителя или сфабрикованное медиа-сообщение могут разрушить внутрикорпоративные процессы за считанные часы. Более того, злоумышленники массово автоматизируют свои инструменты: ИИ ускоряет поиск уязвимостей, генерацию эксплойтов, создание целенаправленных фишинговых кампаний и автоматизацию вредоносного ПО. В результате барьер для проведения сложных атак падает: атаки становятся быстрее, дешевле и более персонализированными.
Эксперты тематической сессии по ИИ сошлись во мнении, что в обозримом будущем для большинства предприятий и организаций вопросы, связанные с технологической независимостью, цифровизацией и ИИ-решениями в сфере безопасности, останутся одними из ключевых на повестке дня. Убедитесь, что вы придерживаетесь самых последних практик.