Поделиться
«Яндекс» подтвердил соответствие международному стандарту ответственной разработки ИИ
«Яндекс» получил сертификат ISO/IEC 42001. Он подтверждает, что компания ответственно подходит к созданию искусственного интеллекта. Независимый аудит установил, что процессы разработки и предоставления YandexGPT соответствуют всем требованиям стандарта, в том числе в области этики и безопасности. Об этом CNews сообщили представители «Яндекса».
ISO/IEC 42001:2023 — это международный стандарт для систем менеджмента в организациях, которые разрабатывают или используют решения на основе искусственного интеллекта. Он оценивает не сами ИИ-продукты, а подход к их созданию и внедрению: насколько прозрачно и безопасно действует компания, насколько эффективны ее процессы.
YandexGPT — семейство больших языковых моделей (LLM, Large Language Model) «Яндекса». Они применяются более чем в 20 сервисах и продуктах компании — среди них «Поиск», ИИ-ассистент «Алиса», «Нейроэксперт», «Реклама», «Шедеврум», «Умная камера», ИИ-ассистенты в «Маркете», «Лавке» и «Еде». Их используют и клиенты Yandex Cloud — на платформе Yandex Cloud AI Studio.
В ходе проверки эксперты удостоверились, что «Яндекс» должным образом обеспечивает безопасность данных пользователей YandexGPT, автоматически мониторит ошибки и аномалии в работе моделей, следит за качеством и этичностью ответов, анализирует обратную связь от пользователей и ведет подробную документацию. Аудит также подтвердил, что «Яндекс» учитывает этические и социальные риски, связанные с развитием ИИ, и обучает сотрудников правилам ответственной разработки.
«Яндекс всегда очень бережно подходил ко всему, что связано с искусственным интеллектом. Мы начали выстраивать процессы, которые обеспечивали бы этичность и безопасность ИИ, задолго до публичного анонса YandexGPT. Получение сертификата — еще одно подтверждение, что мы все делаем правильно. «Яндекс» выступает за ответственное применение ИИ и готов делиться своим опытом с другими российскими компаниями», — сказала Анна Зинчук, руководитель службы комплаенса и обучения информационной безопасности в «Яндексе».
Принципы, которых «Яндекс» придерживается при разработке и использовании ИИ, опубликованы в общем доступе. В марте 2024 г. «Яндекс» в составе Альянса в сфере ИИ разработал и подписал декларацию об ответственной разработке и использовании сервисов на основе генеративного ИИ. Компания регулярно вводит новые меры для повышения безопасности своих ИИ-продуктов. Так, с весны 2025 г. «Яндекс» привлекает к проверке своих генеративных нейросетей «белых хакеров» и выплачивает за найденные уязвимости до 1 млн руб.
Короткая ссылка
