Tesla V100 32 ГБ для локальных LLM: опыт сборки компьютера
Для компьютера с локальной языковой моделью мы выбрали серверный ускоритель Tesla V100 SXM2 с 32 ГБ видеопамяти. Чтобы установить его в настольную сборку, понадобились переходник SXM2 → PCIe и отдельная система охлаждения. С охлаждением пришлось повозиться: первый вариант оказался слишком шумным для рабочего места.
Меня зовут Паша Бородин, я директор «Апгрейд-Сервис» — Upgrade. Мы собираем компьютеры на заказ, а одной из первых систем на V100 я пользуюсь сам. Расскажу, почему выбрали эту карту и что стоит учесть, если вы хотите собрать похожий компьютер.
Почему мы выбрали Tesla V100 32 ГБ
Мы искали вариант для экспериментов с локальными LLM — языковыми моделями, которые запускаются на своём компьютере. У V100 нас заинтересовали 32 ГБ видеопамяти: в ней размещаются модель и данные, которые нужны ей во время работы. От объёма памяти зависит, какую модель получится запустить и с какими настройками.
В наших сборках используются б/у ускорители. Так можно снизить затраты на оборудование, но перед покупкой нужно проверить состояние карты и работу всей системы.
У V100 есть ограничения по совместимости с программами. Поэтому я бы начинал выбор с модели и инструмента для её запуска: большой объём памяти ещё не означает, что нужная вам программа заработает на этой карте.
SXM2 и PCIe: что установлено в наших компьютерах
В описываемой сборке стоит Tesla V100 SXM2 32 ГБ с переходником SXM2 → PCIe. У V100 есть разные исполнения, поэтому при сравнении предложений проверяйте полное название ускорителя и способ подключения.
Помимо карты и переходника, нам понадобились охлаждение, блок питания и платформа с процессором, оперативной памятью и SSD. Сравнивать стоимость таких компьютеров стоит по полному списку комплектующих: цена одной карты не показывает, во сколько обойдётся сборка.
Охлаждение Tesla V100: почему мы перешли на водяной контур
В первой экспериментальной системе мы использовали воздушное охлаждение. Компьютер работал, но шум под нагрузкой мешал находиться рядом с ним.
Мы переделали охлаждение и перешли на водяной контур. Полностью бесшумной система не стала, но работать рядом с ней стало комфортнее. Сейчас водяное охлаждение заявлено во всех трёх наших конфигурациях.
Если компьютер будет стоять дома рядом с рабочим столом, обсудите шум и размещение до заказа. Название системы охлаждения само по себе не говорит, насколько тихой окажется сборка под вашей нагрузкой.
Для каких задач рассматривать компьютер на V100
Мы собирали эту систему для запуска готовых языковых моделей. На таком компьютере можно экспериментировать с локальным чатом, проверять промпты или приложение с LLM, пробовать поиск по своим документам. Для каждого из этих сценариев нужно проверить совместимость модели и программ с V100.
Одного числа параметров модели для подбора памяти недостаточно. Нужны её точная версия, формат или квантизация и желаемая длина контекста — объём текста, с которым модель работает за одно обращение. Если этих данных пока нет, начните с описания того, что хотите делать на компьютере.
Как проверить совместимость до покупки
Например, V100 есть в списке поддерживаемых видеокарт Ollama. Но совместимость с Ollama не подтверждает работу всех моделей и дополнительных инструментов.
До заказа договоритесь, какую модель и с какими настройками проверят на сборке. Определите, какое время ответа вас устроит. Так можно оценить компьютер по своей задаче.
Установку программ обсуждайте отдельно. На 26 октября 2026 года цена настройки окружения для ИИ в Upgrade — от 10 000 ₽; состав и стоимость зависят от задачи. Уточните, какие программы и настройки входят в ваше предложение.
Что уточнить перед заказом компьютера на Tesla V100
Попросите спецификацию с отметками о новых и б/у компонентах, итоговой ценой и условиями гарантии. Согласуйте проверку нужной модели перед передачей компьютера.
Мы выбрали V100 для своих экспериментов с языковыми моделями. Для вашей программы может лучше подойти другой ускоритель — это стоит выяснить до покупки.
Наши конфигурации собраны в разделе компьютеров для ИИ. Если вы выбираете такую систему для себя, расскажите, что хотите запускать, какой у вас бюджет и где будет стоять компьютер. Если уже пробовали локальные модели, поделитесь, что получилось и чего вам не хватило.