Специалисты компании HYPERPC реализовали уникальный проект — создали сверхмощную рабочую станцию для взаимодействия с нейросетями, большими языковыми моделями (LLM) и big data. Новинка обладает мощностью на уровне индустриальных решений, но при этом заключена в компактный корпус. Источник изображения: HYPERPC До недавнего времени полноценно работать с большими профессиональными нейросетями и LLM было возможно лишь с помощью промышленных решений. Они позволяют задействовать гигантские объёмы оперативной памяти, что необходимо для глубокого обучения нейросетей. Одно из требований для подобных задач — держать массив данных именно в оперативной памяти для обеспечения скоростной работы. В начале 2024 года один из клиентов HYPERPC обратился в офис компании в Дубае с предложением создать ультимативное решение на базе рабочей станции с максимально возможным объёмом памяти, серверными процессорами и двумя профессиональными видеокартами. Система должна обеспечить комфортную, быструю и стабильную работу с нейросетями и LLM, включая глубокое обучение. В процессе реализации проекта специалистами HYPERPC была проведена большая работа по проектированию рабочей станции, разработке архитектуры, подбору комплектующих с идеальной совместимостью. Всё это было необходимо не только для реализации проекта, но и чтобы гарантировать стабильную работу при длительных экстремальных нагрузках. Все усилия команды HYPERPC оправдались, и результат превзошёл ожидания – создано беспрецедентное решение на базе HYPERPC G10 PRO HYDRA, способное обеспечить выдающуюся производительность при работе с нейросетями, LLM и big data. При этом система обладает характеристиками, которые ещё совсем недавно считались фантастическими для настольного решения: два серверных процессора AMD EPYC 9754 с 128 ядрами и 256 потоками каждый, а также частотой 2,25–3,1 ГГц; 6 Тбайт высокопроизводительной оперативной памяти в виде 256-Гбайт модулей Hynix DDR5-4800; две видеокарты NVIDIA RTX 6000 ADA Generation, каждая с 18 176 ядрами CUDA и 48 Гбайт памяти GDDR6; четыре сверхбыстрых SSD Sabrent Rocket 4 Plus на 8 Тбайт каждый, общей ёмкостью 32 Тбайт. Отдельно производитель отмечает кастомную систему жидкостного охлаждения, которая обеспечивает эффективный отвод тепла от всех компонентов независимо от нагрузки и режима работы, в том числе при работе 24/7. Описанная конфигурация позволила полностью решить поставленную задачу и выполнить все требования к настольной рабочей станции, предъявляемые для глубокого обучения нейросетей, эффективной работы с big data и LLM. Рабочая станция HYPERPC G10 PRO HYDRA — это профессиональная победа экспертов HYPERPC и настоящий монстр вычислений, обеспечивающий невероятный комфорт и ультимативную надёжность в решении сложнейших задач. Источник: HYPERPC