Поделиться
Tomoru и стартап ManagerAI из ИТМО создали ИИ-решение для голосовых роботов, которое снизило затраты в пять раз
Международный разработчик голосовых решений Tomoru и ИИ-стартап ManagerAI из ИТМО AI Talent Hub запустили новую ML-модель для классификации голосовых запросов, снизив расходы на 80% по сравнению с LLM. Об этом CNews сообщили представители ИТМО.
Tomoru — международный разработчик интеллектуальных голосовых решений, чьи клиенты включают «Яндекс», Skillbox, «СберМаркет», CDEK и более 700 компаний в 22 странах, включая Бразилию, Индонезию и Филиппины. Компания столкнулась с типичной проблемой: тяжелые и дорогие LLM-модели не обеспечивали нужной точности и скорости распознавания клиентских запросов.
ManagerAI предложил легковесную ML-модель на основе семантических эмбедингов, которая позволяет сократить затраты в пять раз и повысить скорость обработки звонков. Новая система уже масштабируется в инфраструктуре Tomoru.
Результаты внедрения
Снижение затрат на 80% — в пять раз дешевле, чем при использовании LLM. Сейчас, в большинстве случаев, используются решения от «Яндекса». Ранее компания Tomoru пользовались этими инструментами. Решение ManagerAI оказалось быстрее и дешевле. У «Яндекса» использовалась тяжелая и дорогая LLM модель. ManagerAI построили свое решение на легковесной модели эмбедингов, которая снижает затраты в пять раз.
Мгновенное реагирование — выше скорость распознавания. Система обрабатывает в среднем 3000 звонков за час. Голосовые роботы уже совершили 62,4 млн бизнес-звонков.
Готовность к международному рынку — LLM адаптируется под разные языки без переобучения.
ML-решение для компании Tomoru было реализовано при поддержке гранта Фонда содействия инновациям, предоставленного в рамках программы «Студенческий стартап» федерального проекта «Платформа университетского технологического предпринимательства».
«Решение от ManagerAI помогло нам существенно улучшить клиентский сервис. Мы рады такому партнерству и уверены в дальнейшем росте благодаря технологии», — отметил Денис Балюра, основатель и генеральный директор Tomoru.
«Мы перевели текст в числа. Похожее по смыслу расположено ближе. Это помогает быстрее и точнее понимать клиента — даже если он говорит иначе, чем ожидалось», — сказал Георгий Савин, технический директор ManagerAI.
Короткая ссылка
