Стоечный ИИ-сервер 2U, объединяющий несколько ИИ-процессоров SOPHGO в одном корпусе — до 576 TOPS INT8 на устройство. Запускает частные LLM, такие как DeepSeek, Qwen и QwQ-32B, обучение и дообучение моделей и масштабную видеоаналитику в вашей собственной серверной.
Обзор
Когда одного граничного устройства недостаточно, ИИ-сервер 2U для обучения и инференса приносит вычислительную мощность ИИ уровня дата-центра в стандартную 19-дюймовую стойку. Несколько ИИ-процессоров SOPHGO с производительностью 7.2–64 TOPS INT8 на чип в сумме дают до 576 TOPS INT8 на устройство, а 8-ядерные хост-процессоры Arm A53 / RISC-V управляют планированием, хранением данных и сетью.
Сервер предназначен для организаций, которые хотят хранить модели и данные на собственной площадке. Он размещает большие языковые модели с открытым кодом, такие как DeepSeek, QwQ-32B и Qwen2.5, наряду с частными моделями. Вместе с платформой обучения и инференса ИИ-моделей TouchVision он охватывает весь цикл — от подготовки датасета до развёртывания. Аппаратные кодеки H.264/H.265 позволяют тому же устройству выполнять структурирование видео для больших парков камер, а Docker, Python, OpenCV и FFmpeg упрощают интеграцию с существующими системами.
Ключевые особенности
- ИИ-платформа SOPHGO с 8-ядерными хост-процессорами Arm A53 / RISC-V
- До 576 TOPS INT8 на устройство (7.2–64 TOPS INT8 на чип)
- Размещает LLM с открытым кодом (DeepSeek, QwQ-32B, Qwen2.5) и частные модели
- Обучение, дообучение, квантование, экспорт и инференс моделей на ИИ-платформе TouchVision
- Аппаратное кодирование и декодирование H.264/H.265 для многоканальной видеоаналитики
- Поддержка TensorFlow, Caffe, MXNet, PyTorch, ONNX и PaddlePaddle
- Развёртывание в Docker, разработка на Python, ускорение OpenCV и FFmpeg
- Стандартный 19-дюймовый стоечный корпус 2U с отсеками для накопителей с фронтальным доступом
Технические характеристики
| Параметр | Значение |
|---|---|
| Форм-фактор | 19-дюймовый, стоечный 2U |
| ИИ-платформа | ИИ-процессоры SOPHGO |
| ИИ-производительность | До 576 TOPS INT8 на устройство |
| Хост-процессоры | 8-ядерные Arm A53 / RISC-V |
| Видео | Кодирование и декодирование HD H.264/H.265 в реальном времени |
| Большие модели | DeepSeek, QwQ-32B, Qwen2.5; частные модели |
| Фреймворки | TensorFlow, Caffe, MXNet, PyTorch, ONNX, PaddlePaddle |
| Программное обеспечение | Docker, Python, OpenCV, FFmpeg |
| Энергоэффективность | < 1 Вт на TOPS (INT8) |
Характеристики приведены по данным производителя и могут изменяться. Запросите актуальный даташит для вашей конфигурации.
Применение
- Частное размещение корпоративных LLM и баз знаний
- Централизованная ИИ-видеоаналитика для промышленных парков, кампусов и городов
- Обучение и дообучение моделей для обнаружения промышленных дефектов
- Проекты «умного» строительства, химических заводов, электросетей и АЗС
- Организации с требованиями к суверенитету данных
Отраслевые решения: ИИ-видеоаналитика и интеллектуальная безопасность · Промышленная автоматизация и станкостроение · Энергетика и автоматизация электросетей
Кастомизация и заказ
ИИ-сервер 2U может быть адаптирован под OEM-проекты; поддерживаются пилотные заказы малыми партиями. Запросите КП или образец, напишите в WhatsApp (+86 135 0532 6001) или узнайте о нашей услуге OEM/ODM.
Ещё в этой категории: Локальные LLM-серверы и ИИ-агенты · См. также: Граничные ИИ-компьютеры и блоки видеоаналитики
Часто задаваемые вопросы
Какую вычислительную мощность ИИ обеспечивает сервер 2U?
До 576 TOPS INT8 на устройство за счёт нескольких ИИ-процессоров SOPHGO в одном корпусе 2U.
Может ли он обучать модели, а не только выполнять инференс?
Да. Вместе с платформой обучения и инференса ИИ-моделей TouchVision он охватывает подготовку датасета, обучение, валидацию, квантование, экспорт и развёртывание инференса.
Какие большие языковые модели поддерживаются?
Модели с открытым кодом, такие как DeepSeek, QwQ-32B и Qwen2.5, работают локально; также можно размещать частные модели.
Когда выбирать сервер 2U вместо граничного устройства?
Выбирайте сервер 2U, если нужно централизовать большое количество видеопотоков, размещать более крупные LLM для множества пользователей или обучать модели на собственной площадке. Граничные устройства, такие как YZ-B011, подходят для отдельных объектов с количеством аналитических потоков до 16.