Разделы

ПО Софт Цифровизация Бизнес-приложения Внедрения

Microsoft удалила из Сети новую модель ИИ. Они забыли ее протестировать «на токсичность»

Microsoft выпустила WizardLM-2, новую версию искусственного интеллекта WizardLM, и в тот же день удалила ее из сети из-за отсутствия тестов на токсичность. Разработчики, по их же собственному признанию, просто «забыли» провести тестирование. 

Тестирование на токсичность не пройдено

Microsoft выпустила WizardLM-2, преемника модели искусственного интеллекта WizardLM, 15 апреля 2024 г., но в тот же день удалила его из сети, пишет журнал PCMag.

«Мы сожалеем об этом, — написали разработчики ИИ в соцсети X рано утром 16 апреля, — Мы случайно пропустили элемент, необходимый в процессе выпуска модели — тестирование на токсичность».

В ответ на вопрос одного из пользователей X они написали, что просто забыли о «необходимом тестировании». «В настоящее время мы быстро завершаем это испытание, а затем перевыпустим нашу модель как можно скорее», — говорилось в сообщении.

Microsoft в очередной раз отличилась пренебрежением к безопасности

WizardLM-2 состоит из трех разных версий, получивших названия 8x22B, 70B и 7B. Создатели WizardLM-2 сравнили версию 8x22B с версией OpenAI GPT-4 и пришли к выводу, что их модель лишь «немного отстает» в одном тесте производительности.

Пострадавшие пока не обнаружены

«Мы ценим прозрачность WizardLM в отношении причин удаления модели и с нетерпением ждем ее повторной загрузки на благо сообщества», — заявил изданию представитель платформы данных ИИ Hugging Face, где собраны open source-решения.

Файлы WizardLM-2 были удалены на GitHub и Hugging Face. Теперь оба репозитория содержат ссылки с ошибками 404.

Возможно, это произошло слишком поздно, пишет издание. По информации Алона Бохмана (Alon Bochman), который ранее работал главным менеджером программы в команде машинного обучения Azure (облачная платформа Microsoft), «десятки разработчиков с открытым исходным кодом» успели загрузить удаленную модель WizardLM-2. Представляют ли исходные или модифицированные версии какой-либо риск для пользователей, пока неясно.

Проблемы с безопасностью

В апреле 2024 г. CNews писал, что Совет по оценке кибербезопасности США опубликовал разгромный отчет об оплошностях и ошибках Microsoft, из-за которых в 2023 г. стал возможен взлом электронной почты американских чиновников и кража десятков тысяч их писем.

Известно, что атака затронула электронную почту министра торговли Джины Раймондо (Gina Raimondo) и других чиновников Министерства торговли, а также члена палаты представителей США Дона Бэкона (Don Bacon) и посла США в Китае Николаса Бернса (Nicholas Burns). В общей сложности 60 тыс. электронных писем было украдено из 10 учетных записей Госдепартамента США.

«Культура безопасности Microsoft неадекватна и требует капитального ремонта», — говорилось в 34-страничном документе, перечислявшем целый ряд ошибок Microsoft, которых можно было избежать, и которые позволили этому вторжению увенчаться успехом.

Георгий Джабиев, T1 Cloud: «Отчуждаемое» облако — новая модель аренды ИТ-инфраструктуры для крупного бизнеса и государства
Маркет

Через неделю после выхода отчета в TechCrunch появилось сообщение о новой проблеме безопасности Microsoft.

На сервере хранения Azure размещался код, сценарии и файлы конфигурации, содержащие пароли, ключи и учетные данные, используемые сотрудниками Microsoft для доступа к другим внутренним базам данных и системам.

Сам сервер хранения не был защищен паролем, и к нему мог получить доступ любой человек в интернете.

Анна Любавина