Um servidor de IA para rack 2U que combina vários processadores de IA SOPHGO em um único chassi, com até 576 TOPS INT8 por unidade. Ele executa LLMs privados como DeepSeek, Qwen e QwQ-32B, treinamento e ajuste de modelos e videoanálise em grande escala na sua própria sala de dados.
Visão geral
Quando uma única caixa de borda não basta, o Servidor de Treinamento e Inferência de IA 2U leva capacidade de computação de IA de nível data center a um rack padrão de 19 polegadas. Vários processadores de IA SOPHGO, com 7,2–64 TOPS INT8 por chip, somam até 576 TOPS INT8 por unidade, e os processadores host Arm A53 / RISC-V de 8 núcleos gerenciam agendamento, armazenamento e rede.
O servidor foi projetado para organizações que desejam manter modelos e dados em suas próprias instalações. Ele hospeda modelos de linguagem de grande porte de código aberto, como DeepSeek, QwQ-32B e Qwen2.5, além de modelos privados. Com a Plataforma de Treinamento e Inferência de Modelos de IA da TouchVision, cobre todo o fluxo de trabalho, da preparação do conjunto de dados à implantação. Codecs H.264/H.265 por hardware permitem que a mesma unidade execute a estruturação de vídeo para grandes parques de câmeras, e Docker, Python, OpenCV e FFmpeg simplificam a integração com os sistemas existentes.
Principais características
- Plataforma de computação de IA SOPHGO com processadores host Arm A53 / RISC-V de 8 núcleos
- Até 576 TOPS INT8 por unidade (7,2–64 TOPS INT8 por chip)
- Hospeda LLMs de código aberto (DeepSeek, QwQ-32B, Qwen2.5) e modelos privados
- Treinamento, ajuste, quantização, exportação e inferência de modelos com a plataforma de IA da TouchVision
- Codificação e decodificação H.264/H.265 por hardware para videoanálise multicanal
- Suporte a TensorFlow, Caffe, MXNet, PyTorch, ONNX e PaddlePaddle
- Implantação com Docker, desenvolvimento em Python, aceleração OpenCV e FFmpeg
- Chassi padrão para rack 19 polegadas 2U com baias de discos com acesso frontal
Especificações
| Item | Especificação |
|---|---|
| Formato | Montagem em rack 19 polegadas 2U |
| Plataforma de IA | Processadores de IA SOPHGO |
| Desempenho de IA | Até 576 TOPS INT8 por unidade |
| Processadores host | Arm A53 / RISC-V de 8 núcleos |
| Vídeo | Codificação e decodificação HD H.264/H.265 em tempo real |
| Modelos de grande porte | DeepSeek, QwQ-32B, Qwen2.5; modelos privados |
| Frameworks | TensorFlow, Caffe, MXNet, PyTorch, ONNX, PaddlePaddle |
| Software | Docker, Python, OpenCV, FFmpeg |
| Eficiência energética | < 1 W por TOPS (INT8) |
As especificações baseiam-se em dados do fabricante e podem mudar. Solicite a ficha técnica mais recente para a sua configuração.
Aplicações
- Hospedagem privada de LLM corporativo e base de conhecimento
- Videoanálise com IA centralizada para parques, campi e cidades
- Treinamento e fine-tuning de modelos para detecção de defeitos industriais
- Projetos de construção inteligente, plantas químicas, rede elétrica e postos de gás
- Organizações com requisitos de soberania de dados
Soluções por setor relacionadas: Videoanálise com IA e segurança inteligente · Automação industrial e fabricantes de máquinas · Energia, armazenamento de energia e utilities
Personalização e pedidos
O servidor de IA 2U pode ser personalizado para projetos OEM, e pedidos piloto em pequenos lotes são aceitos. Solicite uma cotação ou amostra, converse pelo WhatsApp (+86 135 0532 6001) ou saiba mais sobre o nosso serviço OEM/ODM.
Mais nesta categoria: Appliances de LLM local e agentes de IA · Relacionado: Computadores de IA de borda e caixas de videoanálise
Perguntas frequentes
Quanta capacidade de computação de IA o servidor 2U oferece?
Até 576 TOPS INT8 por unidade, a partir de vários processadores de IA SOPHGO em um único chassi 2U.
Ele pode treinar modelos, além de executar inferência?
Sim. Com a Plataforma de Treinamento e Inferência de Modelos de IA da TouchVision, ele abrange preparação do conjunto de dados, treinamento, validação, quantização, exportação e implantação da inferência.
Quais modelos de linguagem de grande porte são suportados?
Modelos de código aberto como DeepSeek, QwQ-32B e Qwen2.5 são executados localmente, e modelos privados também podem ser hospedados.
Quando devo escolher o servidor 2U em vez de uma caixa de borda?
Escolha o servidor 2U quando precisar centralizar muitos fluxos de câmeras, hospedar LLMs maiores para muitos usuários ou treinar modelos no local. Caixas de borda como a YZ-B011 atendem locais individuais com até 16 fluxos de análise.