Поделиться
Замглавы Минцифры Александр Шойтов на CNews FORUM Кейсы — о том, когда в России появятся биржи данных
Существующие технологии обезличивания данных, необходимые для развития ИИ-решений в России, пока недостаточно зрелые. Минцифры пока находится лишь на первом этапе работы с большими данными, однако собирается с 1 сентября дать к ним доступ госорганам и разработчикам ИИ. Об этом на CNews FORUM Кейсы 24 июня 2025 г. рассказал замглавы Минцифры Александр Шойтов.
«Зрелая работа с большими данными начнется позже»
В России сейчас идет масштабное внедрение технологий работы с большими данными и искусственным интеллектом, однако технологии по обезличиванию данных все еще недостаточно зрелые. Об этом на CNews FORUM Кейсы 24 июня 2025 г. рассказал замглавы Минцифры Александр Шойтов, уточнив, что ведомство пока находится «лишь на первом этапе» работы с большими данными.
«Критика была, но после того, как этот этап будет пройден, начнется более зрелая работа с данными — обмен ими или продажа, после проверки обезличивания, — отметил Александр Шойтов. — А дальше — биржи данных, посредники по обезличиванию, это следующий этап».
Замглавы ведомства назвал компромиссным новый закон, по которому с 1 сентября 2025 г. госорганы и разработчики ИИ смогут через специальную государственную информационную систему Минцифры получать доступ к обезличенным данным. По его словам, он предъявляет жесткие требования в плане информационной безопасности, так как «big data нужно собирать в большом объеме», и она будет включать в себя в том числе персональные данные, банковскую, коммерческую и другие тайны.
Несколько подходов к охране больших данных
Александр Шойтов также озвучил несколько подходов, которые Минцифры планирует применять при тестировании ИИ-технологий на безопасность, чтобы затем включить их в Реестр доверенных решений ИИ.
«Мы должны максимально использовать разработки в области информационной безопасности, но при этом не тормозить развитие ИИ», — сказал Александр Шойтов.
Первый подход заключается в том, что регулятор ИИ (отраслевые регуляторы, Минцифры), выбирает общедоступные модели ИИ и датасеты для их обучения. Руководствуются на этом этапе следующими критериями: по виду обучения (контролируемое, без учителя, с подкреплением, глубокого обучения, переноса обучения), по специализации (машинное зрение, генеративные, поддержка принятия решений, автономное управление и пр.), по требованиям (тип задач, характеристики данных, инфраструктура, объяснимость, мониторинг дрейфа и пр.)
Далее модели обучаются, дорабатываются и передаются регуляторам ИБ — это ФСТЭК, ФСБ, Минцифры на «полигон» для тестирования качества информационной безопасности. Применяются такие методики, как создании матрицы угроз для модели, настройка тестовой среды под модель ИИ и модель угроз, симуляция атак, тестирование на уязвимости.
Только затем ИИ-инструмент может попасть в Реестр доверенных решений ИИ — но в «критических» сферах — на объектах критической информационной инфраструктуры (КИИ), их использовать все же не будут.
Существует и второй подход, к которому Минцифры будет стремиться — он как раз таки характеризуется высокой степенью доверия технологий ИИ, что позволит в дальнейшем использовать их на объектах КИИ.
Сначала берутся общедоступные модель и датасеты, она предварительно обучается. Далее данные отделяют от модели и тестируются отдельно, чтобы в итоге получить доверенные и эталонные датасеты. Параллельно с этим разрабатываются доверенные фреймворки TrustTorch и TrustFlow. Затем происходит обучение безопасно разработанной модели, которая отправляется на полигон тестирования. После прохождения всех испытаний — отправляется в Реестр.
«Полигон планируем построить в ближайшее время», — уточнил Александр Шойтов и пригласил участников форума присоединяться к Консорциуму исследования безопасности технологий ИИ, который был создан год назад.
Напомним, ранее стало известно, что Минцифры собирается начать эксперимент по внедрению доверенного искусственного интеллекта в региональные государственные информационные системы. Для начала будет формироваться перечень рисков связанных с ИИ и рекомендаций по защите периметра информсистем.
Для этих целей Правительство РФ расширило полномочия Минцифры в сфере ИИ, дав ему право координировать разработку ИИ-решений для госуправления, поддерживать научные центры и следить за формированием датасетов. Все это предусмотрена в федеральном проекте «Искусственный интеллект».
Короткая ссылка
