推論モデル

標準的なモデルは、先を計画する余地のないまま、トークンを一つずつ書いて答えを出します。推論モデルは、多くの場合に強化学習を使って、先に考えるためのトークンを余分に使うよう訓練されています。質問を部分に分け、方法を試し、結果を確かめ、うまくいかなければ引き返します。そのあとで初めて、あなたが読む回答を書きます。思考の要約を表示するシステムもあれば、隠すシステムもあり、別の項目として返すものもあります。隠れた部分は、思考の連鎖、スクラッチパッド、思考トークン、テスト時の計算などの名前で呼ばれます。

効果がもっとも大きいのは、最初の小さなミスがすべてを台無しにする場面です。たとえば、オリンピック形式の証明、並行処理のコードで起こる競合状態、データの移行、例外のある税金の計算、スケジュールのパズルなどです。一方で、費用も現実にかかります。思考のトークンは最初の言葉が見える前に時間を使い、利用量にも数えられます。そのため、推論の返信は通常の返信より遅く、高くなることがあります。あいさつ、短い書き直し、簡単な調べ物には、余分な労力は何も加えません。

モデルによって扱いは異なります。常に推論し、切り替えのないものがあります。推論のオンとオフ、あるいはどれだけ力を入れるかを選べるものもあり、提供元はその調整つまみを、努力レベル、思考の予算、拡張思考、熟慮モードなどと呼んでいます。推論するモデルでも間違えることはあります。自分の手順を確かめれば一部のミスは減りますが、検証された事実の出典になるわけではありません。訓練では通常、単体テストに合格する、数値の答えが一致するといった、検証できる問題で最終結果が正しいことに報酬を与えます。これによってネットワークは、答えを決める前に問題を分解し、見直し、別の道を探るといった戦略へと導かれます。

NeverNo の有料プランに含まれるプライベートモデル DeepSeek V4 Pro は、すべてのメッセージで推論し、コンテキストウィンドウは200,000トークンです。推論を切る設定はありません。ほかのモデルは選べます。Qwen 3.5 35B は任意で推論でき、Claude Sonnet 5.5には初期設定の「自動調整」と「高」の設定があり、Kimi K3 は常に自分で推論します。API では、reasoning_effort を指定すると、対応するモデルで推論が有効になり、思考は reasoning_content で返ってきます。

AI の回答の事実確認のページでは、関連する考え方を紹介しています。別の系統のもう一つのモデルが回答を見直し、間違いを引用して、訂正案を出します。最初の下書きに推論モデルを使い、見直しには別のモデルを使うのは、自然な組み合わせです。