Поделиться
Российские учёные предложили способ избежать ошибок нейросетей
Эксперт отдела перспективных исследований ИТ-компании «Криптонит» (входит в «ИКС Холдинг») Никита Габдуллин предложил способ повысить надёжность искусственного интеллекта. С помощью данного метода можно точнее прогнозировать поведение нейросетей, что понизит частоту ошибок ИИ при смене данных.
Нейросети — основа искусственного интеллекта, но они не наделены разумом. Зачастую ИИ, обученный на одних данных, может некорректно работать с новыми. Такие ошибки подрывают доверие к технологиям и могут привести к серьёзным последствиям. Например, неоднократно сообщалось о проблемах автопилотов Tesla в распознавании объектов: они не видели велосипедистов со спины, ошибочно принимали красные круги на рекламных щитах за запрещающие сигналы светофора и включали экстренное торможение. Другой показательный пример — история пользователя Reddit, который попытался приготовить оливковое масло с чесноком по методу ИИ от Google, что могло вызвать образование культуры Clostridium botulinum — возбудителя ботулизма, опасного для жизни заболевания. Ошибки искусственного интеллекта могут напрямую привести и к юридически значимым последствиям. Так, в 2024 г. адвокаты в США столкнулись с риском использования ИИ для поиска прецедентов, так как иногда модели «выдумывали» несуществующие судебные дела.
Разработанная в «Криптоните» методика помогает точнее прогнозировать поведение ИИ при смене данных. Это особенно важно для традиционно обученных систем, которые составляют большинство современных ИИ. Предложенная методика базируется на исследовании того, как «мягко» нейросети реагируют на изменения данных или параметров. Исследование обнаружило схожие тенденции в поведении различных нейросетей, что позволило эксперту предложить критерии оценки обобщающей способности, базирующиеся на анализе гессианов нейросетей. Исследование показало, что такие критерии позволяют выполнить корректную оценку широко используемых нейросетей и могут использоваться при создании новых ИИ для минимизации потенциальных ошибок. Научная работа опубликована в открытом доступе и открывает путь к созданию более надёжных технологий с использованием искусственного интеллекта.
«Проявления ошибок ИИ могут быть самым разными, но причины их часто одинаковы и кроются в слабой предсказуемости поведения нейросетей при смене данных. Например, обученные модели могут демонстрировать впечатляющие метрики в лабораторных условиях, но резко снижать качество вывода при переходе к реальным данным», — сказал Никита Габдуллин, к. т. н., эксперт отдела перспективных исследований компании «Криптонит».
Для реализации предложенной методики в «Криптоните» написали библиотеку с открытым исходным кодом Loss Landscape Analysis (LLA), которая предоставляет возможность более гибкого подхода как к построению, так и к последующему анализу обобщающей способности нейросетей.
Ранее в отделе перспективных исследований компании «Криптонит» (входит в «ИКС Холдинг») разработали новый метод измерения пульса по видеозаписи в общественных местах.
Короткая ссылка
