Servidor de IA en rack 2U que combina varios procesadores de IA SOPHGO en un solo chasis para alcanzar hasta 576 TOPS INT8 por unidad. Ejecuta LLM privados como DeepSeek, Qwen y QwQ-32B, entrenamiento y ajuste de modelos, y analítica de video a gran escala en su propia sala de datos.
Descripción general
Cuando un equipo de borde no es suficiente, el servidor de IA para entrenamiento e inferencia 2U lleva capacidad de cómputo de IA de clase centro de datos a un rack estándar de 19 pulgadas. Varios procesadores de IA SOPHGO, con 7.2–64 TOPS INT8 por chip, suman hasta 576 TOPS INT8 por unidad, y los procesadores host Arm A53 / RISC-V de 8 núcleos gestionan la planificación, el almacenamiento y la red.
El servidor está pensado para organizaciones que quieren mantener los modelos y los datos en sus propias instalaciones. Aloja modelos de lenguaje grandes de código abierto como DeepSeek, QwQ-32B y Qwen2.5 junto con modelos privados. Con la plataforma de entrenamiento e inferencia de modelos de IA de TouchVision cubre todo el flujo de trabajo, desde la preparación del conjunto de datos hasta el despliegue. Los códecs H.264/H.265 por hardware permiten que la misma unidad realice estructuración de video para grandes parques de cámaras, y Docker, Python, OpenCV y FFmpeg facilitan la integración con los sistemas existentes.
Características principales
- Plataforma de computación de IA SOPHGO con procesadores host Arm A53 / RISC-V de 8 núcleos
- Hasta 576 TOPS INT8 por unidad (7.2–64 TOPS INT8 por chip)
- Aloja LLM de código abierto (DeepSeek, QwQ-32B, Qwen2.5) y modelos privados
- Entrenamiento, ajuste, cuantización, exportación e inferencia de modelos con la plataforma de IA de TouchVision
- Codificación y decodificación H.264/H.265 por hardware para analítica de video multicanal
- Compatibilidad con TensorFlow, Caffe, MXNet, PyTorch, ONNX y PaddlePaddle
- Despliegue con Docker, desarrollo en Python, aceleración de OpenCV y FFmpeg
- Chasis estándar para rack de 19 pulgadas 2U con bahías de discos accesibles por el frente
Especificaciones
| Elemento | Especificación |
|---|---|
| Formato | Montaje en rack de 19 pulgadas 2U |
| Plataforma de IA | Procesadores de IA SOPHGO |
| Rendimiento de IA | Hasta 576 TOPS INT8 por unidad |
| Procesadores host | Arm A53 / RISC-V de 8 núcleos |
| Video | Codificación y decodificación HD H.264/H.265 en tiempo real |
| Modelos grandes | DeepSeek, QwQ-32B, Qwen2.5; modelos privados |
| Frameworks | TensorFlow, Caffe, MXNet, PyTorch, ONNX, PaddlePaddle |
| Software | Docker, Python, OpenCV, FFmpeg |
| Eficiencia energética | < 1 W por TOPS (INT8) |
Las especificaciones se basan en datos del fabricante y pueden cambiar. Solicite la ficha técnica más reciente para su configuración.
Aplicaciones
- Alojamiento privado de LLM empresariales y bases de conocimiento
- Analítica de video con IA centralizada para parques, campus y ciudades
- Entrenamiento y ajuste fino de modelos para detección de defectos industriales
- Proyectos de construcción inteligente, plantas químicas, redes eléctricas y estaciones de servicio
- Organizaciones con requisitos de soberanía de datos
Soluciones por industria relacionadas: Analítica de video con IA y seguridad inteligente · Automatización industrial y fabricantes de maquinaria · Energía y automatización eléctrica
Personalización y pedidos
El servidor de IA 2U puede personalizarse para proyectos OEM, y se admiten pedidos piloto en lotes pequeños. Solicite una cotización o una muestra, chatee por WhatsApp (+86 135 0532 6001) o conozca nuestro servicio OEM/ODM.
Más en esta categoría: Equipos LLM locales y agentes de IA · Relacionado: Computadoras de borde con IA y cajas de analítica de video
Preguntas frecuentes
¿Cuánta capacidad de cómputo de IA ofrece el servidor 2U?
Hasta 576 TOPS INT8 por unidad, gracias a varios procesadores de IA SOPHGO en un solo chasis 2U.
¿Puede entrenar modelos además de ejecutar inferencia?
Sí. Con la plataforma de entrenamiento e inferencia de modelos de IA de TouchVision cubre la preparación del conjunto de datos, el entrenamiento, la validación, la cuantización, la exportación y el despliegue de la inferencia.
¿Qué modelos de lenguaje grandes se admiten?
Modelos de código abierto como DeepSeek, QwQ-32B y Qwen2.5 se ejecutan localmente, y también pueden alojarse modelos privados.
¿Cuándo debo elegir el servidor 2U en lugar de un equipo de borde?
Elija el servidor 2U cuando necesite centralizar muchos flujos de cámaras, alojar LLM más grandes para muchos usuarios o entrenar modelos en sus instalaciones. Los equipos de borde como el YZ-B011 son adecuados para sitios individuales con hasta 16 flujos de analítica.