Поделиться
Рабочую группу по тестированию технологий искусственного интеллекта возглавил эксперт по кибербезопасности
Лидером рабочей группы № 2 по тестированию технологий искусственного интеллекта Консорциума исследований безопасности технологий искусственного интеллекта стал старший управляющий директор ГК Swordfish Security Антон Башарин. Задача команды экспертов – ответить на ключевые вопросы, касающиеся безопасности применения ИИ в государственных информационных системах. Об этом CNews сообщили представители ГК Swordfish Security.
В числе приоритетных направлений рабочей группы на ближайшие месяцы – создание методики аудита систем с участием ИИ для определения уровня их безопасности. Полученную методику будут использовать для ранжирования моделей ИИ по степени защищенности и оценки доверия к ним. Первые результаты рабочая группа рассчитывает получить уже осенью.
«Большие языковые модели уже активно внедряют в бизнес, и «дивный новый мир» с участием искусственного интеллекта уже наступил, мы учимся в нем эффективно работать. Один из ключевых вопросов, на который нам предстоит ответить - можно или нельзя использовать модели вроде ChatGPT, DeepSeek или GigaChat в различных государственных информационных системах, и какие меры предосторожности необходимо неукоснительно соблюдать. Так, мы организуем своего рода испытательный полигон и разработаем специальное ПО для проведения испытаний технологий ИИ в различных сферах», – сказал Антон Башарин, лидер РГ-2 Консорциума исследований безопасности технологий искусственного интеллекта.
ГК Swordfish Security стала участником Консорциума исследований безопасности технологий искусственного интеллекта при Минцифры в январе 2025 г. В него вошли несколько десятков компаний в сфере информационной безопасности, объединив свои ресурсы и интеллектуальный потенциал, чтобы выработать общероссийские «правила игры» в области больших языковых моделей. Основная цель – синергия усилий ИТ-бизнеса и науки в обеспечении безопасности российских разработок и защите критической инфраструктуры от киберугроз.
«Участие в Консорциуме представителей вендоров и интеграторов в области кибербезопасности позволяет подойти к защищенности процессов, в которых применяют ИИ, комплексно. Практический опыт здесь особенно важен. Сообща мы вырабатываем общие требования к языковым моделям, методики их аудита на протяжении всего их жизненного цикла, основные метрики безопасности, чтобы на основе этого разработать единую национальную стратегию по искусственному интеллекту», – сказал генеральный директор АНО «НТЦ ЦК» Игорь Качалин.
Короткая ссылка
