Поделиться
«Яндекс» стал первым в России обладателем международного сертификата ISO за ответственное развитие ИИ
Команда разработчиков «Яндекс» получила сертификат ISO/IEC 42001 — первой среди российских ИТ-компаний. Сертификат подтверждает соответствие «Яндекса» лучшим мировым ИТ-практикам в управлении технологиями искусственного интеллекта. Эксперты считают, что такой шаг может усилить доверие пользователей и интерес со стороны инвесторов.
Получение сертификата
Российская компания «Яндекс» стала первой ИТ-компанией в России, получившей сертификат ISO/IEC 42001, подтверждающий ответственный подход к разработке ИИ-технологий, об этом CNews сообщили представители ИТ-компании. Независимый аудит установил, что процессы создания и предоставления YandexGPT полностью соответствуют международным стандартам, включая аспекты этики и безопасности.
ISO/IEC 42001:2023 — это международный стандарт, оценивающий систему управления компаний, разрабатывающих или использующих ИИ-решения. Он фокусируется не на самих продуктах, а на прозрачности, безопасности и эффективности процессов их создания.
YandexGPT — это семейство больших языковых моделей «Яндекса», применяемых в более чем 20 ИТ-сервисах, включая «Поиск», «Алису», «Нейроэксперт», «Рекламу», «Шедеврум» и другие. ИИ-модели также доступны клиентам Yandex Cloud через платформу Yandex Cloud AI Studio.
Аудит выявил, что разработчики в российской компании «Яндекс» эффективно защищают данные пользователей, автоматически выявляет ошибки и аномалии в работе ИИ-моделей, следят за качеством и этичностью ответов, анализирует обратную связь и поддерживает детальную документацию. Также подтверждено, что в ИТ-компания учитывают этические и социальные ИИ-риски и обучают сотрудников принципам ответственной разработки.
«Яндекс всегда очень бережно подходил ко всему, что связано с искусственным интеллектом. Мы начали выстраивать процессы, которые обеспечивали бы этичность и безопасность ИИ, задолго до публичного анонса YandexGPT. Получение сертификата — еще одно подтверждение, что мы все делаем правильно. «Яндекс» выступает за ответственное применение ИИ и готов делиться своим опытом с другими российскими компаниями», — сказала руководитель службы комплаенса и обучения информационной безопасности (ИБ) «Яндекса» Анна Зинчук.
Безопасность при разработке ИИ
«Яндекс» публично раскрывает принципы разработки и применения ИИ-технологий. В марте 2024 г. ИТ-компания в составе Альянса в ИИ-сфере разработала и подписала декларацию об ответственном создании и использовании ИТ-сервисов на базе генеративного ИИ.
Программисты «Яндекса» регулярно внедряет новые меры для повышения безопасности своих ИИ-продуктов. С весны 2025 г. ИТ-компания привлекает белых хакеров для тестирования генеративных нейронных сетей, выплачивая до 1 млн руб. за обнаруженные уязвимости.
Развитие ИИ-технологий
По прогнозам Smart Ranking, выручка российского рынка ИИ-проектов в 2024 г. достигнет 305 млрд руб., что в 1,5 раза больше по сравнению с 2023 г. (204,5 млрд руб.). Российский ИТ-рынок переходит от внедрения отдельных цифровых сервисов к комплексной интеграции решений на базе ИИ-решений. Ранее компании ограничивались точечной цифровизацией без кардинальных изменений бизнес-процессов, а в 2025 г. все больше организаций используют ИИ-технологии для анализа данных и повышения эффективности.
В таких условиях требуется принципиально новый подход к формированию ИТ-ландшафта. Только так внедренные ИИ-технологии смогут не только демонстрировать свои возможности, но и приносить стабильную пользу бизнесу. С одной стороны, можно оперативно протестировать готовые ИИ-модели и оценить их потенциал — начальные эксперименты обходятся относительно недорого. С другой стороны, ошибки в выборе данных, некорректная настройка ИИ-моделей или пренебрежение вопросами в ИБ-сфере могут привести к значительным убыткам.
ИБ-сфера требует тщательного контроля за высокорисковыми системами, включая ИИ-технологии, поэтому их размещение внутри защищенного контура критически важно. Это отвечает текущим потребностям заказчиков в защите данных и повышении эффективности бизнес-процессов через модернизацию ИТ-инфраструктуры на базе программно-аппаратных комплексов (ПАК). Такие решения обеспечивают быстрое масштабирование ресурсов и управление жизненным циклом ИИ.
Ответственная разработка ИТ-систем
Шифрование данных при передаче и хранении — шифрование данных является ключевым элементом обеспечения безопасности при использовании нейронных сетей. Современные криптографические методы защищают как входные данные, так и результаты работы нейронных сетей от несанкционированного доступа и вмешательства. Применение протоколов, таких как гомоморфное шифрование, позволяет выполнять вычисления с зашифрованными данными, сохраняя их конфиденциальность даже в процессе обработки.
Контроль доступа и аутентификация пользователей — контроль пользователей играют ключевую роль в обеспечении безопасности при использовании ИИ-моделей в бизнесе. Внедрение строгих политик доступа помогает компаниям защитить интеллектуальные активы и конфиденциальные данные от несанкционированного использования. Многофакторная аутентификация, сложные пароли и регулярное обновление учетных данных становятся неотъемлемой частью корпоративной культуры безопасности. Кроме того, использование биометрических технологий, таких как распознавание лиц или отпечатков пальцев, значительно повышает уровень защиты при работе с чувствительными данными и ИИ-моделями.
Анонимизация и псевдонимизация персональных данных — являются важнейшими инструментами обеспечения кибербезопасности при использовании ИИ-технологий в бизнесе. Анонимизация полностью устраняет или изменяет идентифицирующую информацию, исключая возможность восстановления личности субъекта. Псевдонимизация заменяет идентификаторы псевдонимами, сохраняя возможность обратного преобразования при необходимости. Эти подходы позволяют компаниям безопасно использовать большие объемы данных для обучения ИИ, соблюдая российские законодательные требования по защите персональных данных и снижая риски утечки конфиденциальной информации.
Аудит и мониторинг использования данных в ИИ — эти меры играют ключевую роль в обеспечении безопасности и соблюдении нормативных требований в бизнесе. Регулярный аудит помогает выявлять ИТ-уязвимости и нарушения в обработке данных, а также оценивать эффективность мер защиты. Это особенно критично при работе с ИИ-моделями, которые обрабатывают большие объемы чувствительной информации.
Короткая ссылка
