Серверная мощь в настольном корпусе — HYPERPC построила мощнейшую рабочую станцию с 6 Тбайт оперативной памяти - «Новости сети»

Специалисты компании HYPERPC реализовали уникальный проект — создали сверхмощную рабочую станцию для взаимодействия с нейросетями, большими языковыми моделями (LLM) и big data. Новинка обладает мощностью на уровне индустриальных решений, но при этом заключена в компактный корпус.

Источник изображения: HYPERPC

До недавнего времени полноценно работать с большими профессиональными нейросетями и LLM было возможно лишь с помощью промышленных решений. Они позволяют задействовать гигантские объёмы оперативной памяти, что необходимо для глубокого обучения нейросетей. Одно из требований для подобных задач — держать массив данных именно в оперативной памяти для обеспечения скоростной работы.

В начале 2024 года один из клиентов HYPERPC обратился в офис компании в Дубае с предложением создать ультимативное решение на базе рабочей станции с максимально возможным объёмом памяти, серверными процессорами и двумя профессиональными видеокартами. Система должна обеспечить комфортную, быструю и стабильную работу с нейросетями и LLM, включая глубокое обучение.

В процессе реализации проекта специалистами HYPERPC была проведена большая работа по проектированию рабочей станции, разработке архитектуры, подбору комплектующих с идеальной совместимостью. Всё это было необходимо не только для реализации проекта, но и чтобы гарантировать стабильную работу при длительных экстремальных нагрузках.

Все усилия команды HYPERPC оправдались, и результат превзошёл ожидания – создано беспрецедентное решение на базе HYPERPC G10 PRO HYDRA, способное обеспечить выдающуюся производительность при работе с нейросетями, LLM и big data. При этом система обладает характеристиками, которые ещё совсем недавно считались фантастическими для настольного решения:

• два серверных процессора AMD EPYC 9754 с 128 ядрами и 256 потоками каждый, а также частотой 2,25–3,1 ГГц;


• 6 Тбайт высокопроизводительной оперативной памяти в виде 256-Гбайт модулей Hynix DDR5-4800;


• две видеокарты NVIDIA RTX 6000 ADA Generation, каждая с 18 176 ядрами CUDA и 48 Гбайт памяти GDDR6;


• четыре сверхбыстрых SSD Sabrent Rocket 4 Plus на 8 Тбайт каждый, общей ёмкостью 32 Тбайт.

Отдельно производитель отмечает кастомную систему жидкостного охлаждения, которая обеспечивает эффективный отвод тепла от всех компонентов независимо от нагрузки и режима работы, в том числе при работе 24/7.

Описанная конфигурация позволила полностью решить поставленную задачу и выполнить все требования к настольной рабочей станции, предъявляемые для глубокого обучения нейросетей, эффективной работы с big data и LLM.

Рабочая станция HYPERPC G10 PRO HYDRA — это профессиональная победа экспертов HYPERPC и настоящий монстр вычислений, обеспечивающий невероятный комфорт и ультимативную надёжность в решении сложнейших задач.

Источник:

• HYPERPC