Поделиться
«Платформикс» спроектировала физический кластер для работы с генеративным ИИ в компании «Северсталь»
Системный интегратор «Платформикс» разработал архитектуру и создал высокопроизводительный вычислительный кластер для работы с большими языковыми моделями в компании «Северсталь».
Кластер предназначен для развертывания генеративного искусственного интеллекта на базе больших языковых моделей, чтобы в дальнейшем использовать его для встраивания в бизнес-процессы компании и решения практических задач. Об этом CNews сообщил представитель «Платформикс».
Эксперты компании разработали масштабируемую архитектуру вычислительного кластера, обеспечивающего работу ИИ, в соответствии с лучшими практиками ведущих зарубежных компаний.
Спроектированная архитектура обеспечила полную совместимость компонентов, возможность дальнейшего масштабирования и высокую скорость инференса — применения обученных моделей искусственного интеллекта для решения практических задач бизнеса.
Виктория Ефимова, владелец платформы генеративного ИИ «Северстали», сказала: «Для нас данный проект был первым, где потребовалось решить задачу создания крупного физического вычислительного кластера для инференса LLM. Благодаря “Платформикс” мы не только в короткие сроки смогли сделать закупку и настройку оборудования, но и заложили фундамент для будущего масштабирования, которое также реализовываем с этим подрядчиком».
Евгений Илюшин, системный архитектор отдела комплексных решений «Платформикс», отметил: «Проект потребовал применения нестандартных подходов к поиску решения, обеспечивающего достижение целей заказчика. По итогам анализа всех возможных вариантов реализации в кратчайшие сроки было выбрано оптимальное решение».
Короткая ссылка
