🔗
Chain-of-Thought（CoT）
段階的推論で複雑な問題を解決
Chain-of-Thought（CoT）は2022年にGoogle Brainが提案したプロンプティング技法です。従来はLLMが質問→回答を直接生成していましたが、CoTは中間推論ステップを明示的に生成させます。「Let's think step by step」という一文を追加するだけで（Zero-shot CoT）、数学問題の精度が17%→78%に急上昇しました。Few-shot CoTは推論過程を含む例を提供してより正確な推論を誘導します。この技法は現代LLMの「reasoning」能力の基盤となり、OpenAIのo1/o3、ClaudeのExtended Thinkingなどに発展しました。
キーコンセプト
1
問題提示 — 複雑な数学/論理/コーディング問題
2
CoTプロンプトを追加 — 「ステップバイステップで考えてください」または推論例を提供
3
LLMが中間推論ステップをテキストで生成（「まずAを求めると…、次にBは…」）
4
各ステップの結果が次のステップの入力として活用
5
最終回答を導出
6
検証: Self-Consistency — 複数回推論して多数決で最終回答を選択（選択的）
メリット
- ✓ 複雑な問題で精度が大幅向上
- ✓ 推論過程が透明 → デバッグ可能
- ✓ プロンプトのみで適用（モデル修正不要）
- ✓ 大型モデルで効果最大化（emergent ability）
デメリット
- ✗ 推論トークン追加でコスト/遅延増加
- ✗ 小型モデルでは効果が薄い
- ✗ 誤った推論ステップが誤答につながる可能性
- ✗ 単純な問題には不要なオーバーヘッド
ユースケース
数学問題解法（GSM8Kベンチマーク）
コードデバッグ/生成
論理推論パズル
OpenAI o1/o3モデルのコア技術
Claude Extended Thinking