定義
推論モデル(OpenAI o1/o3、拡張思考のClaude、DeepSeek R1)は、最終的な応答を生成する前に隠れた推論ステップに明示的にコンピューティングを割り当てます。数学、コード、多段階論理に優れています。トレードオフはレイテンシとコストです — 推論モデルは標準的なチャットモデルより10倍長くかかることがあります。
例
複雑なSQL生成タスク: 推論モデルは結合、フィルター、エッジケースを考えてから最終的なクエリを発行します。
Vedwixでの使用方法
正確さがレイテンシより重要な難しいタスクに使用されます。常に強力な評価とペアになります。