diff --git a/docs/2026-03-30-evening-headline/index.md b/docs/2026-03-30-evening-headline/index.md new file mode 100644 index 0000000..a821fe4 --- /dev/null +++ b/docs/2026-03-30-evening-headline/index.md @@ -0,0 +1,56 @@ +--- +sidebar_position: 100 +title: 03/30 AIヘッドライン（夕刊） +description: 2026年3月30日のAI関連ニュースまとめ +--- + +# 03/30 AIヘッドライン（夕刊） + +2026年3月30日に話題になったAI関連のニュースをまとめました。 + +--- + +## 🔥 gpt-ossの推論を6倍高速化するThinking OFF運用（llama-server/SGLang） + +**元ツイート**: [@matsuu](https://x.com/matsuu/status/2038254852619526619) + +### 概要 +matsuu氏が、Qiita記事「gpt-ossの推論を6倍速に。Thinking OFF設定と、Ollamaで効かない理由」を紹介。ローカルLLMの推論高速化を目的に、gpt-ossの思考（analysis）チャネルを抑制する実践手法が共有された。 + +### 深掘り +記事では、chat_templateのgeneration promptを書き換え、`analysis`を空で事前挿入して`final`へ直接遷移させる方法を解説。計測例として、Think ON時12.4秒/件→Think OFF時2.0秒/件（約6.2倍）を報告している。 + +また、推論エンジン差分が明示されており、llama-serverとSGLangでは有効な一方、Ollamaでは独自パース層によりテンプレート改変が実質反映されず、期待どおりの高速化が得られないケースがある点が重要。 + +### ポイント +高速化テクニックそのものより、「どの実行基盤で再現可能か」を先に切り分けるのが実務では効く。 + +--- + +## 🔥 Agentic開発の実戦報告：429や再構築を越えてハッカソンTop10 + +**元ツイート**: [@_vmlops](https://x.com/_vmlops/status/2038274836112474415) + +### 概要 +_vaishnavi（@_vmlops）による投稿。Claude利用時の429エラーや構成崩れへの再対応を繰り返しながら、2か月でagentic frameworkを完成させ、賞金総額$4M規模ハッカソンでTop10入りした事例を紹介している。 + +### 深掘り +スレッド上の文脈では、単なる「開発苦労話」だけでなく、エージェントが継続的に機能案を出したり、補助的な仕組みを自律的に作ったりする“共同開発体験”が強調されている。 + +公式の新モデル・新機能リリースではないため一次ニュース性は限定的だが、現場で頻発する429対策、再実行性、構成の壊れにくさといった運用課題を示す実例として価値がある。 + +### ポイント +2026年の実務論点は「モデル性能」だけでなく「壊れにくい運用設計」へシフトしている。 + +--- + +## まとめ + +今日の注目ポイント： +- gpt-ossのThinking OFFは、設定次第で体感を大きく変える実用的な高速化策 +- ただし推論エンジンごとの仕様差（特にOllama）を無視すると再現しない +- Agentic開発は、性能競争だけでなく429耐性や再構築コスト低減が勝敗を分ける + +--- + +*情報は2026年03月30日時点のものです。* diff --git a/docs/index.md b/docs/index.md index d2dd7cc..9aaf3f3 100644 --- a/docs/index.md +++ b/docs/index.md @@ -12,7 +12,8 @@ slug: / 毎日のAI関連ニュースをまとめています。 -- [03/27 AIヘッドライン（朝刊）](/blog/2026-03-27-morning-headline/) 🆕 +- [03/30 AIヘッドライン（夕刊）](/blog/2026-03-30-evening-headline/) 🆕 +- [03/27 AIヘッドライン（朝刊）](/blog/2026-03-27-morning-headline/) - [03/26 AIヘッドライン（朝刊）](/blog/2026-03-26-morning-headline/) - [03/26 AIヘッドライン（夕刊）](/blog/2026-03-26-evening-headline/) - [03/25 AIヘッドライン（朝刊）](/blog/2026-03-25-morning-headline/)