2UラックマウントAI学習・推論サーバー(SOPHGO、最大576 TOPS)

複数のSOPHGO AIプロセッサーを1つのシャーシに搭載し、1台あたり最大576 TOPS INT8を実現する2UラックマウントAIサーバーです。DeepSeek、Qwen、QwQ-32BなどのプライベートLLM、モデルの学習・チューニング、大規模な映像解析を、貴社のサーバールーム内で実行できます。

概要

エッジボックス1台では足りない場合、2U AI学習・推論サーバーがデータセンタークラスのAI演算能力を標準的な19インチラックにもたらします。1チップあたり7.2～64 TOPS INT8の複数のSOPHGO AIプロセッサーにより、1台あたり最大576 TOPS INT8を実現し、8コアArm A53 / RISC-Vホストプロセッサーがスケジューリング、ストレージ、ネットワークを管理します。

本サーバーは、モデルとデータを自社施設内に保持したい組織向けに設計されています。DeepSeek、QwQ-32B、Qwen2.5などのオープンソース大規模言語モデルとプライベートモデルを併せてホストできます。TouchVisionのAIモデル学習・推論プラットフォームと組み合わせれば、データセットの準備からデプロイまでのワークフロー全体に対応します。ハードウェアH.264/H.265コーデックにより、同じ装置で大規模なカメラ環境の映像構造化も実行でき、Docker、Python、OpenCV、FFmpegによって既存システムとの統合も容易です。

主な特長

  • 8コアArm A53 / RISC-Vホストプロセッサーを搭載したSOPHGO AIコンピューティングプラットフォーム
  • 1台あたり最大576 TOPS INT8(1チップあたり7.2～64 TOPS INT8)
  • オープンソースLLM(DeepSeek、QwQ-32B、Qwen2.5)とプライベートモデルをホスト
  • TouchVision AIプラットフォームによるモデルの学習、チューニング、量子化、エクスポート、推論
  • マルチチャンネル映像解析のためのH.264/H.265ハードウェアエンコード・デコード
  • TensorFlow、Caffe、MXNet、PyTorch、ONNX、PaddlePaddleに対応
  • Dockerによるデプロイ、Python開発、OpenCVおよびFFmpegのアクセラレーション
  • 前面アクセス可能なドライブベイを備えた標準19インチ2Uラックシャーシ

仕様

項目 仕様
フォームファクター 19インチ2Uラックマウント
AIプラットフォーム SOPHGO AIプロセッサー
AI性能 1台あたり最大576 TOPS INT8
ホストプロセッサー 8コアArm A53 / RISC-V
映像 H.264/H.265 リアルタイムHDエンコード・デコード
大規模モデル DeepSeek、QwQ-32B、Qwen2.5、プライベートモデル
フレームワーク TensorFlow、Caffe、MXNet、PyTorch、ONNX、PaddlePaddle
ソフトウェア Docker、Python、OpenCV、FFmpeg
電力効率 1 TOPSあたり1 W未満(INT8)

仕様はメーカーのデータに基づくもので、変更される場合があります。ご希望の構成に対応した最新のデータシートをご請求ください。

用途

  • 企業向けプライベートLLM・ナレッジベースのホスティング
  • 工業団地、キャンパス、都市向けの集中型AI映像解析
  • 産業用欠陥検出のためのモデル学習・ファインチューニング
  • スマート建設、化学プラント、電力網、給油所のプロジェクト
  • データ主権の要件がある組織

関連する業界別ソリューション：AI映像解析・スマートセーフティ · 産業オートメーション・装置メーカー · エネルギー・電力オートメーション

カスタマイズとご注文

2U AIサーバーはOEMプロジェクト向けにカスタマイズでき、小ロットのパイロット注文にも対応しています。お見積り・サンプルのご依頼、WhatsAppでのご相談(+86 135 0532 6001)のほか、OEM/ODMサービスもご覧ください。

このカテゴリーの他の製品：オンプレミスLLM・AIエージェントアプライアンス · 関連製品：エッジAIコンピューター・映像解析ボックス

よくあるご質問

2UサーバーのAI演算能力はどのくらいですか？

1つの2Uシャーシに搭載した複数のSOPHGO AIプロセッサーにより、1台あたり最大576 TOPS INT8を実現します。

推論だけでなくモデルの学習もできますか？

はい。TouchVisionのAIモデル学習・推論プラットフォームと組み合わせれば、データセットの準備、学習、検証、量子化、エクスポート、推論デプロイまで対応します。

どの大規模言語モデルに対応していますか？

DeepSeek、QwQ-32B、Qwen2.5などのオープンソースモデルをローカルで実行でき、プライベートモデルもホストできます。

エッジボックスではなく2Uサーバーを選ぶべきなのはどのような場合ですか？

多数のカメラストリームを集約する場合、多くのユーザー向けに大規模なLLMをホストする場合、または現場でモデルを学習する場合は2Uサーバーをお選びください。YZ-B011などのエッジボックスは、最大16本の解析ストリームを扱う単一拠点に適しています。

上部へスクロール