Кибербезопасность AI Security Решения в области безопасности искусственного интеллекта Защита систем искусственного интеллекта Доверенный ИИ Trusted AI Доверенные и безопасные интеллектуальные системы prompt injection инъекция в запрос

области применения искусственного интеллекта в компаниях, а также роста общего числа предприятий, внедривших подобные системы в свою инфраструктуру. HR-департаменты – одна из главных целей атак типа prompt injection, по оценкам специалистов «Кросстеха», до 30% таких инцидентов приходится именно на подразделения, работающие с сотрудниками. Эксперты указывают, что популярность HR, как цели д

Swordfish Security представила обновленный фреймворк оценки AI Security. Методология по оценке зрелости компаний, применяющих искусственный интеллект, доступна для ИБ-команд компаний бесплатно. В этом году в нее добавили несколько важных изменений, отра

SIEM. Среди ключевых изменений – модуль «Маяк» с автоматическим поиском первопричин сбоев, а также интеграция искусственного интеллекта: ИИ-агентов для визуализаций, семантического ИИ-поиска и модуля AI Security, который мониторит ИИ, работающий в корпоративном контуре клиентов. За последний год производительность интерфейса системы выросла на 30–50%, а скорость работы поискового движка – д

боевую» работу, он оказывается в зоне пересечения трех критических рисков. Киберугрозы нового типа: prompt injection, data poisoning, кража персональных и коммерческих данных из контекста LLM —

ГК Swordfish Security и ассоциация «ФинТех» (АФТ) представили совместное исследование "AI Security", посвященное анализу текущего состояния и перспектив развития безопасности искусственного интеллекта в российских финтех-компаниях. 81% компаний российского финтеха определяют маши

в признались, что уже неоднократно столкнулись с инцидентами, связанными с языковыми моделями. Исследование показывает, что участники финтех-рынка в 2026 г. планируют уделять больше внедрению практик AI Security. Так, 88% респондентов сообщили, что в 2026 г. намерены работать над повышение осведомленности и обучением сотрудников в этой области, 75% займутся разработкой внутренней политики п

Swordfish Security разработала собственный AI Security фреймворк, который включает возможные риски и дорожную карту безопасной разработки в области ИИ. Это первая система рекомендаций, которая опирается на международные карты угроз и ст

внутри компании, и, если неправильно настроена система безопасности, последствия могут быть плачевными. Именно поэтому мы развиваем экспертное сообщество и обучаем, скажем так, амбассадоров в области AI Security», — сказал Юрий Шабалин. «Глобальная задача для всех разработчиков безопасных цифровых решений –создавать и внедрять удобные и безопасные инструменты. Уверен, что назначение Юрия Ша

Внедрение сертификации Доверенный ИИ будут популяризировать за рубежом, следует из одной из рабочих версий презентации мероприятий готовящегося федерального проекта «Искусственный интеллект» национального проекта «Эк