Hide sidebar on tech article pages
All checks were successful
Deploy Docusaurus Site / deploy (push) Successful in 26s
All checks were successful
Deploy Docusaurus Site / deploy (push) Successful in 26s
This commit is contained in:
parent
bfc04ddfa4
commit
edb6ea88b2
@ -1,9 +1,10 @@
|
|||||||
---
|
---
|
||||||
|
hide_table_of_contents: false
|
||||||
|
displayed_sidebar: null
|
||||||
sidebar_position: 3
|
sidebar_position: 3
|
||||||
title: DGX Spark デュアル構成ガイド
|
title: DGX Spark デュアル構成ガイド
|
||||||
description: 2台のDGX Sparkを接続して256GBメモリ環境を構築する方法を初心者向けに解説
|
description: 2台のDGX Sparkを接続して256GBメモリ環境を構築する方法を初心者向けに解説
|
||||||
---
|
---
|
||||||
|
|
||||||
# DGX Spark デュアル構成ガイド
|
# DGX Spark デュアル構成ガイド
|
||||||
|
|
||||||
2台のDGX Sparkを接続して、**256GBの巨大メモリ環境**を構築する方法を解説します。
|
2台のDGX Sparkを接続して、**256GBの巨大メモリ環境**を構築する方法を解説します。
|
||||||
@ -29,6 +30,8 @@ description: 2台のDGX Sparkを接続して256GBメモリ環境を構築する
|
|||||||
- 両方のマシンに同じユーザー名でログインできる
|
- 両方のマシンに同じユーザー名でログインできる
|
||||||
|
|
||||||
---
|
---
|
||||||
|
hide_table_of_contents: false
|
||||||
|
displayed_sidebar: null
|
||||||
|
|
||||||
## なぜデュアル構成が必要?
|
## なぜデュアル構成が必要?
|
||||||
|
|
||||||
@ -42,6 +45,8 @@ DGX Spark 1台のメモリは **128GB** です。
|
|||||||
**Llama-3.3-70B** や **MiniMax-M2.5-172B** など、大きなモデルを動かすにはデュアル構成が必要です。
|
**Llama-3.3-70B** や **MiniMax-M2.5-172B** など、大きなモデルを動かすにはデュアル構成が必要です。
|
||||||
|
|
||||||
---
|
---
|
||||||
|
hide_table_of_contents: false
|
||||||
|
displayed_sidebar: null
|
||||||
|
|
||||||
## 全体像
|
## 全体像
|
||||||
|
|
||||||
@ -75,6 +80,8 @@ DGX Spark 1台のメモリは **128GB** です。
|
|||||||
- **通常LAN**:普段使っているネットワーク(SSH接続、API公開用)
|
- **通常LAN**:普段使っているネットワーク(SSH接続、API公開用)
|
||||||
|
|
||||||
---
|
---
|
||||||
|
hide_table_of_contents: false
|
||||||
|
displayed_sidebar: null
|
||||||
|
|
||||||
## 手順1:物理接続
|
## 手順1:物理接続
|
||||||
|
|
||||||
@ -114,6 +121,8 @@ mlx5_1 port 1 ==> enp1s0f0np0 (Down)
|
|||||||
:::
|
:::
|
||||||
|
|
||||||
---
|
---
|
||||||
|
hide_table_of_contents: false
|
||||||
|
displayed_sidebar: null
|
||||||
|
|
||||||
## 手順2:ネットワーク設定
|
## 手順2:ネットワーク設定
|
||||||
|
|
||||||
@ -192,6 +201,8 @@ sudo netplan apply
|
|||||||
```
|
```
|
||||||
|
|
||||||
---
|
---
|
||||||
|
hide_table_of_contents: false
|
||||||
|
displayed_sidebar: null
|
||||||
|
|
||||||
## 手順3:SSH設定
|
## 手順3:SSH設定
|
||||||
|
|
||||||
@ -234,6 +245,8 @@ ssh 192.168.100.10 "hostname"
|
|||||||
```
|
```
|
||||||
|
|
||||||
---
|
---
|
||||||
|
hide_table_of_contents: false
|
||||||
|
displayed_sidebar: null
|
||||||
|
|
||||||
## 手順4:vLLMクラスター起動
|
## 手順4:vLLMクラスター起動
|
||||||
|
|
||||||
@ -312,6 +325,8 @@ Healthy:
|
|||||||
```
|
```
|
||||||
|
|
||||||
---
|
---
|
||||||
|
hide_table_of_contents: false
|
||||||
|
displayed_sidebar: null
|
||||||
|
|
||||||
## 手順5:モデルを起動
|
## 手順5:モデルを起動
|
||||||
|
|
||||||
@ -342,6 +357,8 @@ docker exec -it $VLLM_CONTAINER /bin/bash -c '
|
|||||||
:::
|
:::
|
||||||
|
|
||||||
---
|
---
|
||||||
|
hide_table_of_contents: false
|
||||||
|
displayed_sidebar: null
|
||||||
|
|
||||||
## 手順6:動作確認
|
## 手順6:動作確認
|
||||||
|
|
||||||
@ -361,6 +378,8 @@ curl http://<Spark1のIP>:8000/v1/chat/completions \
|
|||||||
レスポンスが返ってくれば成功!🎉
|
レスポンスが返ってくれば成功!🎉
|
||||||
|
|
||||||
---
|
---
|
||||||
|
hide_table_of_contents: false
|
||||||
|
displayed_sidebar: null
|
||||||
|
|
||||||
## ワンライナーで簡単セットアップ
|
## ワンライナーで簡単セットアップ
|
||||||
|
|
||||||
@ -381,6 +400,8 @@ curl -sL https://docs.techswan.online/scripts/dgx-spark-setup.sh | bash -s -- al
|
|||||||
| `all` | 全部実行 |
|
| `all` | 全部実行 |
|
||||||
|
|
||||||
---
|
---
|
||||||
|
hide_table_of_contents: false
|
||||||
|
displayed_sidebar: null
|
||||||
|
|
||||||
## トラブルシューティング
|
## トラブルシューティング
|
||||||
|
|
||||||
@ -418,6 +439,8 @@ vllm serve <model> --tensor-parallel-size 2 --max-model-len 4096
|
|||||||
```
|
```
|
||||||
|
|
||||||
---
|
---
|
||||||
|
hide_table_of_contents: false
|
||||||
|
displayed_sidebar: null
|
||||||
|
|
||||||
## まとめ
|
## まとめ
|
||||||
|
|
||||||
@ -432,6 +455,8 @@ vllm serve <model> --tensor-parallel-size 2 --max-model-len 4096
|
|||||||
これで **256GB環境** が手に入りました!🎉
|
これで **256GB環境** が手に入りました!🎉
|
||||||
|
|
||||||
---
|
---
|
||||||
|
hide_table_of_contents: false
|
||||||
|
displayed_sidebar: null
|
||||||
|
|
||||||
## 参考リンク
|
## 参考リンク
|
||||||
|
|
||||||
@ -440,5 +465,7 @@ vllm serve <model> --tensor-parallel-size 2 --max-model-len 4096
|
|||||||
- [DGX SparkでMiniMax-M2.5を動かす](/tech/dgx-spark-minimax/)
|
- [DGX SparkでMiniMax-M2.5を動かす](/tech/dgx-spark-minimax/)
|
||||||
|
|
||||||
---
|
---
|
||||||
|
hide_table_of_contents: false
|
||||||
|
displayed_sidebar: null
|
||||||
|
|
||||||
*この記事は2026年2月時点の情報です。最新情報は公式ドキュメントをご確認ください。*
|
*この記事は2026年2月時点の情報です。最新情報は公式ドキュメントをご確認ください。*
|
||||||
|
|||||||
@ -1,9 +1,9 @@
|
|||||||
# DGX Sparkで最新LLM「MiniMax-M2.5-REAP-172B」を動かしてみた
|
---
|
||||||
|
sidebar_position: 2
|
||||||
## はじめに
|
title: DGX SparkでMiniMax-M2.5-REAP-172Bを動かす
|
||||||
|
description: DGX Sparkデュアル構成で172Bパラメータの最新LLMを動かす手順
|
||||||
NVIDIA DGX Sparkは、デスクトップサイズでありながら最大200Bパラメータ(デュアル構成で405B)のAIモデルを動かせる小型AIワークステーションです。今回は、2026年2月にリリースされたばかりの最新モデル「**MiniMax-M2.5-REAP-172B-A10B**」をDGX Sparkデュアル構成(256GB統合メモリ)で動かす手順を紹介します。
|
hide_table_of_contents: false
|
||||||
|
displayed_sidebar: null
|
||||||
---
|
---
|
||||||
|
|
||||||
## MiniMax-M2.5-REAP-172Bとは?
|
## MiniMax-M2.5-REAP-172Bとは?
|
||||||
|
|||||||
Loading…
x
Reference in New Issue
Block a user