docs-tech/dgx-spark-claude-code-local/index.md を更新
All checks were successful
Deploy Docusaurus Site / deploy (push) Successful in 28s
All checks were successful
Deploy Docusaurus Site / deploy (push) Successful in 28s
This commit is contained in:
parent
c3a8a3596c
commit
a85453d0f6
@ -30,7 +30,7 @@ Claude Codeをローカルで動かす方法は他にもあります。代表的
|
|||||||
|------|---------------|---------------|
|
|------|---------------|---------------|
|
||||||
| **セットアップ** | 複雑(vLLM + プロキシ) | **簡単** |
|
| **セットアップ** | 複雑(vLLM + プロキシ) | **簡単** |
|
||||||
| **推論速度** | **速い(20-30 tok/s)** | 遅め |
|
| **推論速度** | **速い(20-30 tok/s)** | 遅め |
|
||||||
| **対応モデル** | FP8量子化モデル | GGUF量子化モデル |
|
| **対応モデル** | 様々 | GGUF量子化モデル |
|
||||||
| **コンテキスト長** | **200K対応** | モデル依存 |
|
| **コンテキスト長** | **200K対応** | モデル依存 |
|
||||||
| **必要スペック** | 高(DGX Spark等) | 低〜中 |
|
| **必要スペック** | 高(DGX Spark等) | 低〜中 |
|
||||||
|
|
||||||
@ -39,7 +39,7 @@ Claude Codeをローカルで動かす方法は他にもあります。代表的
|
|||||||
- **本格的に使いたい・速度重視** → この記事の方法
|
- **本格的に使いたい・速度重視** → この記事の方法
|
||||||
:::
|
:::
|
||||||
|
|
||||||
この記事の方法は**セットアップが複雑**ですが、vLLMの最適化により**推論速度が速く**、**200Kトークン**の大規模コンテキストにも対応しています。
|
この記事の方法は**セットアップが複雑**ですが、vLLMの最適化により**推論速度が速く**、並列稼働も可能になります。
|
||||||
|
|
||||||
## 何ができるようになるの?
|
## 何ができるようになるの?
|
||||||
|
|
||||||
|
|||||||
Loading…
x
Reference in New Issue
Block a user