Máy chủ AI lắp rack 2U kết hợp nhiều bộ xử lý AI SOPHGO trong một khung máy, đạt tới 576 TOPS INT8 mỗi máy. Máy chạy LLM riêng như DeepSeek, Qwen và QwQ-32B, huấn luyện và tinh chỉnh mô hình, và phân tích video quy mô lớn ngay trong phòng máy của bạn.
Tổng quan
Khi một hộp biên là chưa đủ, máy chủ huấn luyện và suy luận AI 2U mang năng lực điện toán AI cấp trung tâm dữ liệu vào một tủ rack 19 inch tiêu chuẩn. Nhiều bộ xử lý AI SOPHGO, mỗi chip 7.2–64 TOPS INT8, cộng lại lên tới 576 TOPS INT8 mỗi máy, và các bộ xử lý chủ Arm A53 / RISC-V 8 nhân quản lý lập lịch, lưu trữ và mạng.
Máy chủ được thiết kế cho các tổ chức muốn giữ mô hình và dữ liệu tại cơ sở của mình. Máy chạy các mô hình ngôn ngữ lớn mã nguồn mở như DeepSeek, QwQ-32B và Qwen2.5 cùng với mô hình riêng. Kết hợp với Nền tảng huấn luyện và suy luận mô hình AI của TouchVision, máy đáp ứng toàn bộ quy trình từ chuẩn bị tập dữ liệu đến triển khai. Bộ mã hóa/giải mã phần cứng H.264/H.265 cho phép cùng một máy thực hiện cấu trúc hóa video cho hệ thống camera lớn, và Docker, Python, OpenCV và FFmpeg giúp việc tích hợp với hệ thống hiện có trở nên đơn giản.
Tính năng chính
- Nền tảng điện toán AI SOPHGO với bộ xử lý chủ Arm A53 / RISC-V 8 nhân
- Tối đa 576 TOPS INT8 mỗi máy (7.2–64 TOPS INT8 mỗi chip)
- Chạy LLM mã nguồn mở (DeepSeek, QwQ-32B, Qwen2.5) và mô hình riêng
- Huấn luyện, tinh chỉnh, lượng tử hóa, xuất và suy luận mô hình với nền tảng AI TouchVision
- Mã hóa và giải mã phần cứng H.264/H.265 cho phân tích video đa kênh
- Hỗ trợ TensorFlow, Caffe, MXNet, PyTorch, ONNX và PaddlePaddle
- Triển khai Docker, phát triển Python, tăng tốc OpenCV và FFmpeg
- Khung rack 2U 19 inch tiêu chuẩn với khay ổ cứng truy cập từ mặt trước
Thông số kỹ thuật
| Hạng mục | Thông số |
|---|---|
| Kiểu dáng | Lắp rack 2U 19 inch |
| Nền tảng AI | Bộ xử lý AI SOPHGO |
| Hiệu năng AI | Tối đa 576 TOPS INT8 mỗi máy |
| Bộ xử lý chủ | Arm A53 / RISC-V 8 nhân |
| Video | Mã hóa và giải mã HD H.264/H.265 theo thời gian thực |
| Mô hình lớn | DeepSeek, QwQ-32B, Qwen2.5; mô hình riêng |
| Framework | TensorFlow, Caffe, MXNet, PyTorch, ONNX, PaddlePaddle |
| Phần mềm | Docker, Python, OpenCV, FFmpeg |
| Hiệu suất năng lượng | < 1 W cho mỗi TOPS (INT8) |
Thông số dựa trên dữ liệu của nhà sản xuất và có thể thay đổi. Vui lòng yêu cầu datasheet mới nhất cho cấu hình của bạn.
Ứng dụng
- Triển khai LLM và kho tri thức doanh nghiệp riêng
- Phân tích video AI tập trung cho khu công nghiệp, khuôn viên và đô thị
- Huấn luyện và tinh chỉnh mô hình phát hiện lỗi công nghiệp
- Dự án công trường thông minh, nhà máy hóa chất, lưới điện và cây xăng
- Tổ chức có yêu cầu chủ quyền dữ liệu
Giải pháp theo ngành liên quan: Phân tích video AI và an toàn thông minh · Tự động hóa công nghiệp và nhà chế tạo máy · Năng lượng và tự động hóa điện lực
Tùy chỉnh và đặt hàng
Máy chủ AI 2U có thể tùy chỉnh cho dự án OEM, và chúng tôi hỗ trợ đơn hàng thử nghiệm số lượng nhỏ. Yêu cầu báo giá hoặc mẫu, trò chuyện qua WhatsApp (+86 135 0532 6001), hoặc tìm hiểu dịch vụ OEM/ODM của chúng tôi.
Xem thêm trong danh mục này: Thiết bị LLM và tác tử AI tại chỗ · Liên quan: Máy tính AI biên và hộp phân tích video
Câu hỏi thường gặp
Máy chủ 2U cung cấp bao nhiêu năng lực điện toán AI?
Tối đa 576 TOPS INT8 mỗi máy, từ nhiều bộ xử lý AI SOPHGO trong một khung máy 2U.
Máy có huấn luyện mô hình được không, hay chỉ chạy suy luận?
Có. Kết hợp với Nền tảng huấn luyện và suy luận mô hình AI của TouchVision, máy đáp ứng chuẩn bị tập dữ liệu, huấn luyện, kiểm định, lượng tử hóa, xuất và triển khai suy luận.
Hỗ trợ những mô hình ngôn ngữ lớn nào?
Các mô hình mã nguồn mở như DeepSeek, QwQ-32B và Qwen2.5 chạy cục bộ, và cũng có thể triển khai mô hình riêng.
Khi nào nên chọn máy chủ 2U thay vì hộp biên?
Hãy chọn máy chủ 2U khi bạn cần tập trung nhiều luồng camera, chạy LLM lớn hơn cho nhiều người dùng hoặc huấn luyện mô hình tại chỗ. Các hộp biên như YZ-B011 phù hợp với từng địa điểm có tối đa 16 luồng phân tích.