Решения для безопасного использования ИИ 2026

Инструменты на базе ИИ используются во все большем количестве рабочих задач, например для обработки почтовых сообщений, анализа предложений подрядчиков, поиска информации о коммерческих проектах и др. Однако внедрение новых технологий привело к формированию новых угроз или, как принято говорить в ИБ, формированию новых поверхностей атак. Классические средства кибербезопасности не способны противостоять таким угрозам, как prompt injection — эксплуатация вредоносных инструкций в больших языковых моделях (LLM), или взлом ИИ-агентов (jailbreak) для обхода ограничений. Для предотвращения утечек конфиденциальных корпоративных данных и другими вредоносными воздействиями, неизбежно возникающими при работе с ИИ-агентами, необходимы специализированные ИИ-файрволлы (AI Firewall/AI-Gateway).

Аналитики CNewsMarket приступают к подготовке первого рейтинга российских решений для обеспечения безопасности использования ИИ в корпоративной среде. Оцениваются механизмы обнаружения прямых prompt injection, политики обнаружения попыток обхода ограничений модели, качество системы контроля за действиями пользователей (журналирование запросов и аудит блокировки). Сравнивается производительность, т.к. каждое решение влияет на время генерации ответа LLM, масштабируемость, отказоустойчивость и другие параметры.