GPU-серверы под видеокарты

Нет, цена платформы это шасси, питание, охлаждение, процессоры, память, диски и сеть, готовые принять видеокарты. Сами карты мы подбираем и считаем отдельно под вашу задачу и бюджет, потому что их выбор и цена сильно зависят от типа нагрузки. Такой подход честнее и выгоднее: платформа служит несколько поколений карт, а карты вы обновляете по мере роста задач без замены всего сервера. В итоговое КП включаем и платформу, и подобранные карты, чтобы вы видели полную стоимость решения.

Обычный сервер рассчитан на работу процессоров и дисков, в него можно поставить одну карту, но не несколько мощных. GPU-сервер изначально спроектирован под группу видеокарт: блоки питания с большим запасом мощности, усиленное сквозное охлаждение и достаточное число слотов PCIe x16 с разводкой линий на процессоры. Если поставить много карт в обычное шасси, они будут перегреваться, сбрасывать частоты и потреблять больше, чем тянет питание. Поэтому под несколько карт берут именно специализированную платформу.

Зависит от формата шасси и числа линий PCIe. В компактный 2U обычно встают 2-4 карты при плотной компоновке, в 4U помещается от 4 до 8 полноразмерных карт с нормальным охлаждением. Под максимум карт ставят два процессора, чтобы хватило линий PCIe, или применяют PCIe-свитчи. Важно учитывать не только число слотов, но и питание с охлаждением: восемь мощных карт потребляют киловатты мощности и требуют серьёзного продува. Скажите, сколько карт планируете и какого типа, и мы подберём платформу под это число с запасом.

Каждая мощная видеокарта потребляет от 250 до 700 Вт, поэтому платформу комплектуют блоками питания суммарно от 2000 Вт для 2-4 карт и до 4000-6000 Вт для восьми карт. Питание делают резервированным по схеме 2+2 или 3+1, чтобы выход одного блока не останавливал сервер. Под такую нагрузку важна и подводка электричества в серверной: на сервер с восемью картами нужна выделенная линия с запасом. Мы рассчитываем питание под конкретный набор карт с резервом и при необходимости подскажем требования к электропитанию стойки.

Охлаждение в GPU-платформах построено на сквозном продувании корпуса высокооборотными вентиляторами и разделении воздушных потоков, чтобы карты не нагревали друг друга. В плотных серверных шасси чаще применяют пассивные видеокарты, которые продуваются потоком корпуса, а не имеют собственных вентиляторов. Под максимально плотные конфигурации используют жидкостное охлаждение. Под полную постоянную загрузку охлаждение рассчитывают с запасом, иначе карты будут сбрасывать частоты от перегрева. Мы подбираем шасси и схему продува под ваше число карт и условия серверной.

Собираем GPU-серверы на оригинальных серверных платформах Supermicro и ASUS, спроектированных под несколько видеокарт: с усиленным питанием, продуманным охлаждением и достаточным числом слотов PCIe. Эти платформы проверены на совместимость с серверными процессорами, ECC-памятью и видеокартами разных типов. Под задачу подбираем формат 2U или 4U, число слотов и схему охлаждения. Каждую собранную платформу прогоняем под нагрузкой на стенде перед отгрузкой и даём гарантию на платформу и сборку, без серого и ремаркированного оборудования.

Да, для обучения моделей платформу подбирают с разводкой PCIe x16 на каждую карту, двумя процессорами под достаточное число линий и большим объёмом ECC-памяти. Под обучение важна полная скорость карт и быстрый обмен данными, поэтому здесь не экономят на линиях PCIe и питании. Для инференса и рендера требования мягче: допустима скорость x8 и меньше памяти, что снижает стоимость платформы. Опишите задачу, фреймворки и желаемое число карт, и мы подберём платформу под обучение, инференс или рендер с расчётом под нагрузку.

Да, если платформу выбрать с запасом по слотам, питанию и охлаждению, в неё можно дозаполнить свободные слоты PCIe дополнительными картами. Поэтому при подборе мы закладываем запас под рост: например, берём 4U под 8 карт, а ставим сначала 4, чтобы потом нарастить без замены сервера. Важно, чтобы блоки питания и охлаждение были рассчитаны на полное число карт заранее. Когда придёт время расширения, поможем подобрать совместимые карты и проведём установку. Это заметно дешевле, чем менять платформу целиком под новые карты.

Да, с компаниями и ИП работаем по договору поставки и безналичному расчёту с выставлением счёта и счёта-фактуры (ЭСФ). После отгрузки подписываем накладную и акт приёма-передачи. Реквизиты, проект договора и спецификацию на платформу и видеокарты присылаем заранее, чтобы бухгалтерия и отдел снабжения успели всё провести. Для тендеров и госзакупок подготовим комплект документов и технические характеристики под требования. GPU-серверы это серьёзная статья расходов, поэтому все условия и сроки фиксируем в договоре прозрачно, без скрытых оговорок.