CoT（Chain of Thought）とは？仕組み・種類・プロンプトでの使い方を解説

複雑な問題を段階ごとに整理できるため、CoTを使うと計算や分析の精度を高めやすくなります。一方で、「どのAIでも効果があるのか」「業務ではどう指示すればよいのか」と迷う方もいるでしょう。

この記事では、CoTの仕組み・種類・メリット・注意点から、プロンプトへの取り入れ方まで分かりやすく解説します。

CoT（Chain of Thought）とは？

CoT（Chain of Thought、日本語では「思考の連鎖」）とは、生成AIに最終回答だけでなく、答えへ至る途中の手順も文章で示すよう促す手法です。ここでいう推論とは、与えられた情報を順に結び付けて結論を導く処理を指します。

CoTは、LLM（大量の文章を学習し、質問への回答や文章生成を行う大規模言語モデル）へ渡すプロンプトを工夫する方法です。プロンプトは、生成AIに入力する質問や指示文を意味します。モデルを再学習させなくても、複雑な問題を小さな段階に分けて扱いやすくする点が特徴です。

CoTの定義とプロンプティング手法としての位置づけ

プロンプティングとは、目的に合う回答を得るために、生成AIへの質問・条件・出力形式を設計することです。CoTでは、結論だけを求めるのではありません。情報の整理・計算・確認・結論という流れで、回答までの段階も出力するよう指示します。

CoTを提案した原論文では、途中の推論例を少数示すことで、十分に大きなLLMの算術・常識・記号推論が改善したと報告されています。なお、出力された説明は読み手が確認できる文章であり、モデル内部の処理そのものを表示したものとは限りません。

なぜCoTが注目されているのか

CoTが注目された理由は、通常の質問では誤りやすかった複数段階の推論課題で正答率を高めたためです。前提を一つずつ処理することで、途中の条件を飛ばしたり、計算の順序を誤ったりする問題を減らせる可能性が示されました。

その後、回答例を使わない手法や推論例の自動生成へ研究が進み、CoTは生成AIから目的に合う回答を引き出すプロンプトエンジニアリングの基本技術として広まりました。現在は、単に長い説明を書かせるのではなく、課題とモデルに合わせて指示の詳しさを調整することが重要です。

CoTの仕組み

CoTは、問題の条件を把握し、必要な処理を順番に進めたうえで最終回答を作ります。問題理解→段階的な推論→解答生成という流れに分けると、仕組みを捉えやすいでしょう。

一方、途中の一段階で誤ると、その後の説明も誤った前提を引き継ぐ場合があります。出力された手順は正しさの証明ではなく、確認材料として扱いましょう。

問題を分解し段階的に推論するプロセス

最初の段階では、生成AIが質問の目的・前提条件・制約を読み取り、解決に必要な小さな作業（サブタスク）へ分けます。売上低下の分析なら、期間・商品・地域・販売経路ごとに観点を整理します。そのうえで、一つのサブタスクの結果を次へ渡しながら、比較に必要なデータを順に確認します。

指示文には「前提を整理し、確認すべき項目を順番に示してください」と書くと、抜け漏れを見つけやすい形で出力させられます。複雑な依頼ほど、使うデータや判断基準も併せて伝えることが大切です。

最終的な回答が導き出されるまでの流れ

生成AIは、各段階で得た結果をつなぎ、質問に対する結論を組み立てます。このとき、途中の計算や判断が前の条件と矛盾していないかを確認させると、最終回答の根拠を追いやすくなるでしょう。計算を伴う場合は、単位や桁も段階ごとに確認させます。

業務では、結論・根拠・未確認事項を分けて出力するよう求めると確認しやすくなります。もっともらしい説明でも内容が正しいとは限らないため、重要な数値や判断は元データと照合してください。

CoTの種類・バリエーション

種類	指示・入力の特徴	向いている場面	注意点
Zero-shot CoT	例を示さず、段階的に考えるよう指示	すぐ試したい単発の分析・計算	課題によって手順が安定しない
Few-shot CoT	質問・推論手順・回答の例を少数提示	定型業務で手順や形式をそろえたい場合	誤った例の影響を受ける
Automatic CoT	多様な質問から推論例を自動生成	大量の例を準備する研究・仕組み化	自動生成した例にも誤りが混ざる
Multimodal CoT	文章と画像など複数種類の情報を利用	図表・画像を含む問題の分析	入力対応と画像解釈の精度に左右される

主な種類は、例を示さないZero-shot CoT、少数の例を使うFew-shot CoT、推論例を自動生成するAutomatic CoTです。画像も扱うMultimodal CoTを含め、準備できる例と入力データの種類に応じて選ぶことが大切です。まずはZero-shot CoTで効果を確かめ、安定しない場合はFew-shot CoTへ進むと試しやすいでしょう。

Zero-shot CoT

Zero-shotとは、回答例を一つも示さず、指示だけを与える方法です。Zero-shot CoTでは、「ステップごとに考えてください」のような短い一文を加え、段階的な説明と回答を引き出します。

Zero-shot CoTの原論文では、この方法が複数の算術・記号・論理推論課題で通常のゼロショット回答を上回りました。例を準備せず試せる手軽さが利点ですが、出力が安定しない場合は前提・判断基準・回答形式を追加します。

Few-shot CoT

Few-shotとは、少数の回答例をプロンプト内に示す方法です。Few-shot CoTでは、質問・途中の手順・正しい回答を一組にした例をいくつか提示し、生成AIに求める推論パターンと回答形式を文脈から学ばせます。

定型的な審査や分析では、良い例をそろえると出力形式を安定させやすいでしょう。一方、例に誤りや偏りがあると、新しい質問でも同じ問題を繰り返しかねません。実務では、典型例だけでなく例外も含め、元データと回答の整合性を確認します。

Automatic CoT・Multimodal CoT

Automatic CoTは、CoTの回答例づくりを自動化する研究手法です。Auto-CoTの論文では、多様な質問をグループに分け、各グループの代表的な質問から推論例を生成していました。手作業を減らせますが、自動生成した例の検証は必要です。

Multimodal CoTは、文章だけでなく画像なども使うCoTを指します。Multimodal-CoTの論文では、画像と文章から根拠を作る段階と、回答を出す段階を分けています。図表を含む問題を扱える一方、画像の読み違いが推論全体へ影響する点に注意しましょう。

CoTのメリット

CoTの主なメリットは、複雑な課題を一度に処理せず、段階ごとに整理できることです。これにより、正答率の改善と回答手順の確認が期待できます。効果はモデルと課題によって変わるため、実際の業務データで通常のプロンプトと比較してください。

推論精度・正答率の向上

CoTは、計算や条件分岐のように、複数の処理を順番に進める課題で役立ちます。途中の結果を次の段階へ渡すことで、条件の見落としを減らし、複雑な課題の正答率を高められる可能性があります。

原論文では算術・常識・記号推論の課題で改善が確認されましたが、結果は特定のモデルと評価問題によるものです。業務へ導入する際は、正解が分かっている例を用意し、通常の指示とCoTで精度・回答時間・出力量を比較してください。

判断プロセスの可視化・説明可能性の向上

回答までの手順が文章で示されると、条件の抜けや計算ミスを人が探しやすくなります。結論だけを受け取る場合より、どの段階を見直すべきか判断しやすく、判断根拠を関係者へ説明するときにも役立ちます。

一方、AnthropicのCoT忠実性に関する研究では、表示された説明がモデルの実際の処理を常に忠実に表すわけではないと報告されています。CoTを監査記録や決裁根拠としてそのまま使わず、出典・計算・前提を別に確認しましょう。

CoTの注意点

CoTを加えても、全ての回答が正しくなるわけではありません。モデルの特性・課題の難しさ・指示の内容によっては、効果が小さい場合や回答が長くなる場合があります。導入前に評価用の質問を決め、精度だけでなく待ち時間と確認工数も測ることが必要です。

モデルサイズやタスクによって効果が変わる

初期のCoT研究では、十分に大きなLLMで効果が現れ、小さなモデルでは改善が限られる傾向が示されました。単純な分類や短い要約のように段階的な推論が不要な課題では、手順を増やすほど回答が冗長になる場合もあります。

生成AIの中には、回答前に内部で推論する「推論モデル」があります。OpenAIのモデルガイダンスでは、最新モデル向けの方法として、期待する成果・成功条件・制約を示し、不要な手順指定を減らすよう案内しています。利用するモデルの公式情報を確認し、同じ評価用データでCoTの有無を比べてください。

処理時間・コスト増への配慮

CoTで途中の手順まで出力させると、通常の短いプロンプトよりトークン数と応答時間が増えます。トークンとは、生成AIが文章を処理する文字や単語のまとまりです。

API（外部システムから生成AIを呼び出す接続方法）では、料金への影響にも注意が必要です。Gemini APIのthinking機能に関する公式ドキュメントによると、thinkingを有効にした場合は出力トークンと思考トークンの合計で料金が決まります。

複雑な分析など必要な場面に絞り、「根拠は3点」「計算過程は要点のみ」と出力量を指定すると、確認コストを抑えられます。

CoTの活用シーン

CoTは、複数の条件を比べる分析や、判断理由を確認したい意思決定の補助に向いています。答えだけでは検証しにくい業務で使い、最終判断は担当者が行う形が基本です。単純な文章修正や決まった形式への変換では、通常の短い指示で十分な場合もあります。

業務での活用例（分析・意思決定など）

売上分析では、期間別・商品別・地域別の変化を順に確認し、原因候補と追加調査が必要な項目を分ける使い方が考えられます。仕入先の比較なら、価格・納期・品質・契約条件を同じ基準で評価させると、判断材料を整理しやすくなるでしょう。

これらは生成AIに決裁を任せる方法ではありません。入力データの不足や誤りを明示させ、結論と未確認事項を分けて出力させます。機密情報を扱う場合は、社内ルールと利用サービスのデータ取扱条件も確認してください。

プロンプト作成のコツ

WEELには、プロンプトの書き方でアウトプットの精度や安定性が大きく変わると感じた企業から、複数の相談が寄せられています。既存プロンプトの改修による出力の安定化や、入力の違いを体感できる実践研修への要望もあります。

CoTは、「ステップごとに考えてください」と加えるだけでも試せます。業務で使うなら、目的・前提・判断基準・出力形式も示し、各段階は要点だけを書かせましょう。

出力が安定しない場合は、良い回答例を一つ加える、曖昧な基準を数値化する、対象範囲を狭めるという順で調整します。変更後は、同じ評価用データで結果を比べてください。

プロンプトの基本的な書き方や実務向けの例を確認したい方は、次の記事も参考になります。

CoTと関連技術（ReAct・ToT）との違い

CoTは、一つの流れで段階的な推論を進め、最終回答を作る手法です。ReActはReasoning and Actingの略で、推論と検索・ツール操作などの行動を交互に進めます。ReActの原論文では、外部から得た情報を次の推論へ反映する流れが示されました。

ToT（Tree of Thoughts）は、思考候補を木の枝のように広げ、比較しながら進む手法です。ToTの原論文が示すように、候補の評価や後戻りを行う点が、一つの経路を進むCoTと異なります。外部操作ならReAct、複数案の探索ならToTというように、課題に応じて選びましょう。

AIエージェントの仕組みや、外部ツールを使って作業する流れを知りたい方は、次の記事も参考になります。

CoTをはじめ生成AI活用のご相談はWEELへ

CoTは、複雑な問題を段階に分け、生成AIの回答手順を確認しやすくするプロンプティング手法です。分析や意思決定の補助で使う際は、目的・前提・判断基準を明確にし、途中の説明と最終回答を元データに照らして確認しましょう。

よくある質問

CoTを初めて試すときに迷いやすい点を整理します。大切なのは、利用する生成AIの仕様と課題の複雑さに合わせることです。