Поделиться
Уход Nvidia открыл новые возможности для российского рынка серверов ИИ
Сервер искусственного интеллекта — обязательный компонент современной ИТ-инфраструктуры. С тех пор, как американские вендоры покинули российский рынок, возникла нехватка подобного оборудования в России.
Как было раньше
До недавнего времени рынок этого сегмента был широко открыт для иностранных производителей, среди которых особенно выделялась компания Nvidia, известная своими универсальными решениями в области графических процессоров.
Новые возможности
Уход Nvidia с российского рынка, хотя и привел к начальным трудностям в секторе серверов искусственного интеллекта, в конечном итоге стимулировал значительные положительные изменения. Диверсификация поставщиков вызвала повышенный интерес российских компаний к ASIC-архитектуре (Application-Specific Integrated Circuit) серверов, созданных специально для задач искусственного интеллекта.
Подобные чипы имеют ряд ключевых преимуществ в отличии от стандартных универсальных GPU-решений:
- Высокая оптимизация — ASIC-чипы разработаны специально для выполнения конкретных задач. Это обеспечивает более высокую производительность и эффективность по сравнению с общего назначения процессорами, такими как CPU и GPU
- Энергоэффективность — обеспечивается потребление значительно меньшего количества энергии по сравнению с традиционными процессорами, что снижает эксплуатационные расходы.
- Меньшая стоимость на единицу производительности — ввиду отказа от универсальности и специализации на конкретных задачах, ASIC-решения предлагают более низкую стоимость в перерасчете на единицу обработки данных.
- Отсутствие дефицита — это оборудование поставляется без ограничений и в любом объеме вне зависимости от санкционной политики США.
Специализированные ASIC-чипы, созданные для ускорения выполнения задач искусственного интеллекта, получили название TPU (Tensor Processing Unit), NPU (Neural Processing Unit) или ИИ-ускорители.
На российском рынке представлены устройства от компании Softlogic на тензорных чипах BM1684.
Нейронные сети
Искусственная нейронная сеть — это математическая модель. Внутри нее происходит огромное количество однотипных операций: перемножений и сложений данных и параметров. Универсальные чипы GPU и CPU хоть и могут справиться с такими задачами, но требуют намного больше ресурсов для их выполнения.
Давайте использовать простой и понятный пример для объяснения разницы между TPU, GPU и CPU, делая его настолько простым, чтобы его мог понять даже ребенок.
Представим, что у нас есть большая картинка, которую нужно нарисовать. Каждый художник в этом примере представляет собой либо CPU, либо GPU, либо TPU.
CPU — один универсальный художник.
У нас есть один очень талантливый художник (CPU). Он может рисовать что угодно, но рисует одну часть картины за раз.
Что получается: художник может сделать всю картину сам, но ему потребуется много времени, так как он рисует каждый элемент по очереди.
GPU — много художников, рисующих одинаковые детали.
Теперь у нас есть группа художников (GPU). Они специализируются на рисовании однотипных деталей, например, всех деревьев или всех облаков на картине.
Что получается: эта группа художников работает одновременно и закончит картину быстрее, но она будет состоять из однотипных элементов.
TPU — специализированная команда художников.
Наконец, у нас есть команда специализированных художников (TPU), каждый из которых отлично рисует определенную часть картины, и они все работают вместе одновременно.
Что получается: эта команда художников заканчивает картину очень быстро и качественно, потому что каждый из них занимается своей частью и все они отлично знают, что делать.
Какие бывают форм-факторы?
Компания Softlogic предлагает различные виды ИИ-ускорителей. Самый популярный из них — это PCI-E карта IVS-SC5. В современных серверных решениях устанавливается несколько таких карт, а серверы объединяются в стэк.
Интересными могут быть также решения в форм-факторе мини и микро-серверов. Такие устройства в промышленном корпусе способны работать в широких температурных диапазонах, имеют компактный размер и позволяют проводить ИИ-вычисления в самых различных проектах.
ИИ-минисерверы линейки Softlogic SE6 и SE8 размещаются в стандартной 19″ стойке, при этом существенно сокращая используемое место в высокопроизводительных системах в сравнении с классическими Rackmount решениями. Стэк из трех таких серверов способен решить большинство задач, связанных с ИИ-вычислениями на крупном предприятии.
Какие поддерживаются технологии?
Все устройства, представленные в линейке Softlogic, поддерживают широкий спектр самых современных фреймворков: Caffe, Tensorflow, Pytorch, MXNet, Darknet, ONNX, Paddle. Это позволяет компаниям безболезненно перейти на новую архитектуру, не переписывая при этом большое количество программного кода.
Вывод
Таким образом, уход Nvidia открыл двери для новых технологических возможностей и стимулировал рост и инновации в сфере серверов ИИ в России, создавая основу для более автономной и технологически развитой будущей индустрии.
Евгений Чепусов, коммерческий директор Softlogic
«Предлагая рынку графические серверы собственной линейки, мы помогаем российским компаниям постепенно провести полную замену комплектующих и перейти на оптимизированную элементную базу, нивелируя риски, связанные с быстро меняющейся рыночной конъюнктурой. Обеспечение стабильных цен и бескомпромиссного качества — наши неизменные приоритеты».
Короткая ссылка
