Поделиться
МТС и ВШЭ будут вместе бороться с дипфейками и научат искусственный интеллект создавать новое видео под запросы пользователей
НИУ ВШЭ и компания МТС Web Services (MWS) объявили о запуске серии совместных исследовательских работ в области технологий искусственного интеллекта, направленных на развитие инновационных решений в сфере кибербезопасности, мультимодальной генерации контента и анализа больших данных. Основным исполнителем проекта является Московский институт электроники и математики им. А.Н. Тихонова НИУ ВШЭ при общей координации Центра искусственного интеллекта ВШЭ. Об этом CNews сообщили представители НИУ ВШЭ.
Партнерство нацелено на расширение возможностей искусственного интеллекта в задачах улучшения взаимодействия с клиентами и повышения качества предоставляемых услуг, что в целом приведет к укреплению позиции MWS на рынке цифровых технологий.
Проект нацелен на проведение исследований и разработок в области мультимодальных моделей ИИ для генерации пользовательского контента, а также формирования расширяемого набора данных для тестирования моделей биометрической идентификации на устойчивость к дипфейкам.
Оба направления входят в топ-10 технологических трендов 2025 г. мировой консалтинговой компании Gartner. В частности, одной из ключевых тенденций в развитии сервисов и систем на базе генеративного ИИ являются платформы для контроля этичности, прозрачности и безопасности ИИ-решений (например, для предотвращения дипфейков).
«Мы рады приветствовать МТС Web Services среди индустриальных партнеров МИЭМ ВШЭ, тем более по такой перспективной теме, как искусственный интеллект. Для нас очень ценно, что МТС как признанный лидер в области связи, биометрии, создания видеоконтента и клиентских сервисов для развития перспективных ИИ-технологий выбрал именно наш институт. Я уверен, что совместные исследования и разработки значительно обогатят обе стороны. Мы готовы совместно развивать экспертизу в области ИИ, что, в свою очередь, продвинет технологии и сервисы МТС», – сказал Дмитрий Коваленко, директор МИЭМ НИУ ВШЭ.
Первым направлением проекта является генерация мультимодального контента методами ИИ под потребности конкретных пользователей. В первую очередь речь идет о видеоконтенте. На просмотр видео среднестатистический россиянин тратит более 1,5 часа в день. И большая часть видео потребляется именно с мобильного телефона, что для МТС как крупнейшего оператора связи во многом определяет стратегию развития бизнеса. Потребности пользователей требуют все больше креативных решений, способных эффективно привлекать внимание целевой аудитории и формировать доверительное отношение к цифровым сервисам. Именно поэтому Центр ИИ НИУ ВШЭ и компания МТС Web Services решили сосредоточиться на исследованиях и внедрении новейших технологий для производства качественных визуальных материалов, основанных на индивидуальных предпочтениях и интересах пользователей.
Главные приоритеты этого направления связаны с тремя ключевыми задачами. Во-первых, будут проведены исследования способов синтеза визуально привлекательного материала. В результате отобранные модели будут подбирать подходящие именно данному клиенту медиафайлы, будь то видео, графика или аудиозаписи. Затем специалисты проведут тщательную проверку имеющихся моделей генерации контента, чтобы выбрать оптимальное сочетание скорости и качества результата. И далее для максимального удовлетворения потребностей пользователей предстоит разработать собственные механизмы автоматической обработки мультимедийных данных, позволяющие получать идеальный результат в каждой конкретной ситуации.
«В рамках исследований будет сделан существенный шаг в части применения технологий генеративного ИИ к прикладным задачам, востребованным в МТС Web Services в области редактирования мультимодального контента и создания продвинутой аналитики данных. Мы уверены, что в конечном итоге это приведет к созданию новых сервисов и услуг в сфере B2B и B2C», – сказал Сергей Сластников, начальник отдела прикладного искусственного интеллекта МИЭМ НИУ ВШЭ.
Важнейшее направление проекта — моделирование угроз для алгоритмов и систем биометрической идентификации, борьба с т.н. дипфейками. Биометрия активно проникает в нашу жизнь, уже сегодня используется в различных прикладных сервисах — от платежных систем и банкоматов до персонализированных маркетинговых сервисов. Рынок решений биометрической идентификации стремительно растет не менее чем на 15–27% в год и к 2032 г. (а возможно, и раньше) превысит $110 млрд.
Сфера финансовых услуг внедряет биометрическую аутентификацию беспрецедентными темпами. По данным Juniper Research, по состоянию на 2023 г. 83% банковских учреждений по всему миру внедрили хотя бы одну форму биометрической аутентификации, что значительно больше, чем 35% в 2018 г.
Очевидно, что растет и количество атак на такие системы. Современные модели ИИ уже сегодня позволяют эффективно генерировать дипфейки для атак на биометрию. Распознавание лиц при удаленной аутентификации по фотографии или видео — ключевая модальность во многих системах безопасности. Генерация дипфейков становится все доступнее и дешевле, не требуя от злоумышленников специальных навыков, глубоких знаний или серьезной квалификации. Следовательно, увеличиваются возможности по реализации атак даже начинающими хакерами. Уже сейчас понятно, что следующие поколения мошеннических атак будут включать в себя в том числе атаки на биометрическую аутентификацию. Число атак на биометрию растет экспоненциально. Все это расширяет круг рисков для таких систем. Моделированием подобного рода угроз и оценкой моделей ИИ на устойчивость к атакам на биометрическую идентификацию и займется проект.
«Повсеместное внедрение систем биометрической идентификации — это последовательная позиция бизнеса и власти и у нас в стране, и за рубежом. И конечно, мы должны поставить надежный барьер от атак на эти системы. Сейчас с этим серьезные проблемы, т.к. биометрическая идентификация уже есть, а условного биометрического файервола еще нет. Напомню, совсем недавно был принят Федеральный закон 41-ФЗ по защите граждан от кибермошенников, который в очередной раз расширил области использования систем биометрии в банковской сфере. Наше исследование делится на два последовательных этапа. В этом году команда проекта проведет глубокий анализ существующих проблем в области атак на биометрические системы и выберет лучшие подходы для их преодоления. Конечная цель — создание технической основы для последующего практического воплощения задуманных идей. Затем мы перейдем к практической фазе, предусматривающей непосредственную апробацию разработанных решений в экосистеме партнера», – сказал Антон Сергеев, руководитель проекта, директор центра программных разработок и цифровых сервисов МИЭМ НИУ ВШЭ.
«Объединение технологического потенциала МТС и научной базы ВШЭ — стратегический шаг для укрепления цифрового суверенитета России. Создание надежных систем защиты от дипфейков и разработка передовых решений в сфере генеративного контента позволят нам не только обеспечить высокий уровень безопасности пользовательских данных, но и повысить качество цифрового взаимодействия с клиентами. Мы формируем технологический фундамент, который выведет отечественные решения на новый уровень конкурентоспособности», – сказала Брита Ильягуева, советник генерального директора МТС Web Services.
Сотрудничество ведется в рамках реализации программы Центра искусственного интеллекта НИУ ВШЭ.
Короткая ссылка
