В Москве, в рамках предстоящей Российской недели кибербезопасности, которая пройдет с 26 по 30 октября, внимание экспертов будет приковано к 12-му SOC Forum. Эта ключевая площадка для дискуссий об угрозах станет местом обсуждения двойственной роли искусственного интеллекта — как инструмента для хакеров, так и мощного щита для защитников. В этом контексте крайне актуален опыт компании «Циан», которая сумела создать единый внутренний контур на базе GenAI, обеспечивающий фильтрацию персональной информации и автоматизированную модерацию контента с помощью LLM-моделей. Подробнее об этих технологиях рассказал Евгений Радько, занимающий пост директора по информационной безопасности компании.
Основой стратегии «Циана» в сфере кибербезопасности является стремление сохранить доверие аудитории, ведь сделки с недвижимостью — это всегда критически важный процесс. Для обеспечения безопасности компания системно инвестирует в защиту, рассматривая её не как сторонний надзорный орган, а как сквозной слой, проницающий все пять уровней платформы: от инфраструктуры и аналитики до продуктового слоя и AI-платформы. В компании ИБ-процессы интегрированы непосредственно в бизнес-логику и являются значимой бизнес-метрикой. Защитные механизмы сопровождают каждый сервис на всех стадиях — от зарождения идеи до запуска в промышленную эксплуатацию. При этом вопросы безопасности обсуждаются повсеместно: от разработчиков до членов совета директоров, а команда безопасности позиционирует себя как полноценный бизнес-партнер.
Технологический арсенал компании сочетает в себе проверенные временем классические методы и инновационные решения на базе искусственного интеллекта. AI-модели применяются для поиска уязвимостей в программном коде, проверки конфигураций и анализа зависимостей, а также для проведения автоматизированного security review на различных этапах разработки. По словам Евгения Радько, использование AI-платформы позволяет компании достигать необходимого масштаба и качества покрытия, что было бы невозможно без внедрения подобных технологий.
Одной из наиболее острых проблем на крупных площадках с пользовательским контентом остается мошенничество, и «Циан» решает эту задачу с помощью непрерывно совершенствуемых ML- и AI-алгоритмов. Системы в режиме реального времени выявляют аномалии, анализируют поведенческие факторы и ценовые отклонения, проверяют подлинность объектов и находят дубликаты. Результаты работы впечатляют: 95% всего контента проходит через автоматическую модерацию, а 99% фейковых объявлений блокируются еще на этапе проверки. Доля спама и мошеннических звонков удерживается на уровне менее 1%. Несмотря на то, что полностью искоренить мошенничество на глобальных платформах невозможно, «Циан» стремится к абсолютному минимуму таких случаев, опираясь на жалобы пользователей и оперативное удаление подозрительных аккаунтов с последующим дообучением моделей.
Важным достижением компании стала борьба с явлением «теневого ИИ». Ранее сотрудники могли использовать сторонние нейросети для рабочих задач втайне от службы безопасности, что создавало риски утечки конфиденциальных данных и компрометации IT-систем. Вместо введения жестких запретов, которые, по мнению Евгения Радько, являются ошибочной практикой, компания разработала собственную внутреннюю AI-платформу. Она предоставляет безопасный доступ к различным LLM-моделям, включая внешние, при этом самостоятельно маршрутизирует запросы, маскирует персональные данные «на лету» и проверяет безопасность операций. Такая архитектура не только помогает соблюдать требования комплаенса, но и позволяет значительно ускорять запуск новых AI-инициатив, одновременно контролируя экономическую эффективность использования ИИ.
Помимо системной защиты, компания развивает и клиентские сервисы, такие как «Циан-помощник». Этот интеллектуальный сервис, которым уже воспользовались более 7 миллионов человек, выполняет две ключевые функции. Во-первых, он осуществляет персональный поиск: пользователь может описать свои предпочтения обычным языком, а алгоритм выделит параметры бюджета, района и типа жилья, мгновенно предложив варианты из новостроек, вторичного рынка или аренды. Во-вторых, сервис выступает в роли консультанта, оперативно предоставляя подробную информацию по ипотечным программам, юридическим тонкостям и нюансам проведения сделок. Такой подход позволяет автоматизировать рутинные запросы в службе поддержки и существенно упростить процесс подбора недвижимости для клиентов.
