koide
f086d151c9
All checks were successful
Deploy Docusaurus Site / deploy (push) Successful in 1m11s
57 lines
2.9 KiB
Markdown
57 lines
2.9 KiB
Markdown
---
|
||
sidebar_position: 100
|
||
title: 03/30 AIヘッドライン（夕刊）
|
||
description: 2026年3月30日のAI関連ニュースまとめ
|
||
---
|
||
|
||
# 03/30 AIヘッドライン（夕刊）
|
||
|
||
2026年3月30日に話題になったAI関連のニュースをまとめました。
|
||
|
||
---
|
||
|
||
## 🔥 gpt-ossの推論を6倍高速化するThinking OFF運用（llama-server/SGLang）
|
||
|
||
**元ツイート**: [@matsuu](https://x.com/matsuu/status/2038254852619526619)
|
||
|
||
### 概要
|
||
matsuu氏が、Qiita記事「gpt-ossの推論を6倍速に。Thinking OFF設定と、Ollamaで効かない理由」を紹介。ローカルLLMの推論高速化を目的に、gpt-ossの思考（analysis）チャネルを抑制する実践手法が共有された。
|
||
|
||
### 深掘り
|
||
記事では、chat_templateのgeneration promptを書き換え、`analysis`を空で事前挿入して`final`へ直接遷移させる方法を解説。計測例として、Think ON時12.4秒/件→Think OFF時2.0秒/件（約6.2倍）を報告している。
|
||
|
||
また、推論エンジン差分が明示されており、llama-serverとSGLangでは有効な一方、Ollamaでは独自パース層によりテンプレート改変が実質反映されず、期待どおりの高速化が得られないケースがある点が重要。
|
||
|
||
### ポイント
|
||
高速化テクニックそのものより、「どの実行基盤で再現可能か」を先に切り分けるのが実務では効く。
|
||
|
||
---
|
||
|
||
## 🔥 Agentic開発の実戦報告：429や再構築を越えてハッカソンTop10
|
||
|
||
**元ツイート**: [@_vmlops](https://x.com/_vmlops/status/2038274836112474415)
|
||
|
||
### 概要
|
||
_vaishnavi（@_vmlops）による投稿。Claude利用時の429エラーや構成崩れへの再対応を繰り返しながら、2か月でagentic frameworkを完成させ、賞金総額$4M規模ハッカソンでTop10入りした事例を紹介している。
|
||
|
||
### 深掘り
|
||
スレッド上の文脈では、単なる「開発苦労話」だけでなく、エージェントが継続的に機能案を出したり、補助的な仕組みを自律的に作ったりする“共同開発体験”が強調されている。
|
||
|
||
公式の新モデル・新機能リリースではないため一次ニュース性は限定的だが、現場で頻発する429対策、再実行性、構成の壊れにくさといった運用課題を示す実例として価値がある。
|
||
|
||
### ポイント
|
||
2026年の実務論点は「モデル性能」だけでなく「壊れにくい運用設計」へシフトしている。
|
||
|
||
---
|
||
|
||
## まとめ
|
||
|
||
今日の注目ポイント：
|
||
- gpt-ossのThinking OFFは、設定次第で体感を大きく変える実用的な高速化策
|
||
- ただし推論エンジンごとの仕様差（特にOllama）を無視すると再現しない
|
||
- Agentic開発は、性能競争だけでなく429耐性や再構築コスト低減が勝敗を分ける
|
||
|
||
---
|
||
|
||
*情報は2026年03月30日時点のものです。*
|