koide
f086d151c9
2.9 KiB
sidebar_position, title, description
| sidebar_position | title | description |
|---|---|---|
| 100 | 03/30 AIヘッドライン（夕刊） | 2026年3月30日のAI関連ニュースまとめ |
03/30 AIヘッドライン（夕刊）
2026年3月30日に話題になったAI関連のニュースをまとめました。
🔥 gpt-ossの推論を6倍高速化するThinking OFF運用（llama-server/SGLang）
元ツイート: @matsuu
概要
matsuu氏が、Qiita記事「gpt-ossの推論を6倍速に。Thinking OFF設定と、Ollamaで効かない理由」を紹介。ローカルLLMの推論高速化を目的に、gpt-ossの思考（analysis）チャネルを抑制する実践手法が共有された。
深掘り
記事では、chat_templateのgeneration promptを書き換え、analysisを空で事前挿入してfinalへ直接遷移させる方法を解説。計測例として、Think ON時12.4秒/件→Think OFF時2.0秒/件（約6.2倍）を報告している。
また、推論エンジン差分が明示されており、llama-serverとSGLangでは有効な一方、Ollamaでは独自パース層によりテンプレート改変が実質反映されず、期待どおりの高速化が得られないケースがある点が重要。
ポイント
高速化テクニックそのものより、「どの実行基盤で再現可能か」を先に切り分けるのが実務では効く。
🔥 Agentic開発の実戦報告：429や再構築を越えてハッカソンTop10
元ツイート: @_vmlops
概要
_vaishnavi（@_vmlops）による投稿。Claude利用時の429エラーや構成崩れへの再対応を繰り返しながら、2か月でagentic frameworkを完成させ、賞金総額$4M規模ハッカソンでTop10入りした事例を紹介している。
深掘り
スレッド上の文脈では、単なる「開発苦労話」だけでなく、エージェントが継続的に機能案を出したり、補助的な仕組みを自律的に作ったりする“共同開発体験”が強調されている。
公式の新モデル・新機能リリースではないため一次ニュース性は限定的だが、現場で頻発する429対策、再実行性、構成の壊れにくさといった運用課題を示す実例として価値がある。
ポイント
2026年の実務論点は「モデル性能」だけでなく「壊れにくい運用設計」へシフトしている。
まとめ
今日の注目ポイント：
- gpt-ossのThinking OFFは、設定次第で体感を大きく変える実用的な高速化策
- ただし推論エンジンごとの仕様差（特にOllama）を無視すると再現しない
- Agentic開発は、性能競争だけでなく429耐性や再構築コスト低減が勝敗を分ける
情報は2026年03月30日時点のものです。