Поделиться
МТС запускает LLM-агрегатор на базе облачных сервисов MWS
ПАО «МТС» объявляет о запуске MWS GPT – облачной B2B-платформы, объединяющей большие языковые модели компании. С помощью сервиса малый, средний и крупный бизнес смогут единовременно использовать разные LLM, а также работать с любыми Open Source моделями, дообучать их, применять функционал function calling, а затем внедрять и использовать готовые решения на инфраструктуре экосистемы. Об этом CNews сообщили представители МТС.
Внутри платформы есть собственный чат-интерфейс, который позволяет сохранять промпты и обмениваться ими, а также No-Code конструктор для проектирования и создания приложений без привлечения разработчиков. На первом этапе можно подключить облачную версию MWS GPT, в дальнейшем появится возможность развертывания сервиса на инфраструктуре заказчика. На следующих этап планируется увеличить число доступных моделей, в том числе с помощью популярных на рынке продуктов других компаний.
«Чтобы добиться хороших результатов, важно постоянно экспериментировать. Именно с этой целью мы запускали LLM-агрегатор внутри МТС. Сегодня мы фиксируем свыше 1,2 млн обращений к платформе в сутки. Убедившись в эффективности и надежности сервиса, мы приняли решение выходить на внешний рынок. Работая с разными моделями, наши клиенты смогут подобрать наиболее подходящую, не оформляя многочисленные подписки и оптимизируя расходы на техподдержку. На мой взгляд, чтобы получить наилучший результат в решении задач с помощью LLM, не нужно зацикливаться на какой-то одной. В основе MWS GPT лежит агентская архитектура, которая позволяет любой модели быть ИИ-Агентом. Помимо обычного текстового ответа, MWS GPT принимает решение использовать тот или иной навык в зависимости от задачи. К примеру, в случае математических расчетов модель обращается напрямую к интерпретатору, вместо попытки продолжить текст, основываясь на корпусе обучения, а если данных обучения не хватает для полного ответа - делает запрос в поисковую систему», – сказал первый вице-президент по технологиям МТС Павел Воронин.
Оплата за использование сервиса будет взиматься в зависимости от количества обработанных токенов, что снижает порог входа для малого бизнеса. Оставить заявку на подключение к MWS GPT или получить консультацию по использованию платформы можно на сайте MWS.
Короткая ссылка
