最近流行ってるDecisionモデルってなーに？ Microsoft-Decision-1を動かして、JevとOpenAIと日本語で比べてみた

最近流行ってる Decisionモデルってなーに？ Microsoft-Decision-1を動かして、 JevとOpenAIと日本語で比べてみた なごあずの集い#10 #75azu しろくま Hiroki, Nomura

プロフィール しろくま Microsoft MVP for Microsoft Foundry 愛知県在住。技術ブログを書いたりしています。 所属：AzPoC部 #AzPoC ／ なごあず #75azu 2

今日お話しすること Decisionモデルって何？ 特徴と仕組み Microsoft-Decision-1をFoundryで動かす （デプロイと呼び出し） JevとOpenAIとの違い 日本語の業務文書での比較と、使いどころ 3

分類のたびに、LLMに文章を作らせていませんか？ 「これは経理宛て？」に、理由つきの文章は要らないことが多いです 遅い 高い ブレる 1件ごとに 出力トークンにも、 同じ入力でも、答え方が 数秒かかると、数千件の お金がかかります 毎回少し変わります 仕分けが終わりません Microsoftの発表にある例：Xbox Researchのフィードバック分類 GPT-6 Sol 2.6〜2.8秒/件 → 0.14〜0.19秒/件 ※Microsoftの発表にある自社測定です 4

PART 1 Decisionモデルとは

考えるLLMと、すぐ決めるDecisionモデル たとえるなら受付の振り分け担当です。選ぶだけで、説明はしません LLM（じっくり考える） Decisionモデル（すぐ決める） 文章で答えます 選択肢ごとの確率だけ返します 理由も説明できます 理由は言いません そのぶん、時間とお金が 速くて安いです かかります 6

文書と質問を渡すと、答えの「確率」が返る 質問は3種類です。はい/いいえ、選択肢、段階評価 文書（state） 「請求書の金額が契約と noul 緊急を求めている？ はい 違います。 至急確認してください。」 choice 質問（questions） 担当は？ billing 担当は？ 深刻度は？ 緊急？ 1回で、まとめて聞けます score 深刻度は？（軽微〜致命的） 中程度 重大 scoreは確率の加重平均です（この例は1.05） 7

noul・choice・score の使い分け 答えの形で選びます。はい/いいえなら noul、並びのない選択肢なら choice、順序のある 段階なら score です 種類 こんな問いに 返ってくる値 今回の例 noul はい/いいえで答えられる 「はい」の確率 対応が必要か choice 並びのない選択肢から1つ選ぶ 選択肢ごとの確率 文書の種類、担当部署 score 低・中・高のように順序のある段階 段階ごとの確率と、その加重平均 緊急度、機密度 8

Jevから始まり、各ベンダーが追従 Jevが最初に出て、OpenAIとMicrosoftが続きました 9/15 10/6 10/9 Jev TypeSafe AI OpenAI Decisions API MicrosoftDecision-1 「System One Model」という 9/29 DevDayで発表 Microsoft Foundryで 呼び方を広めた 10/6 public beta 利用できます Azureの中で使えます OSS：H2O-Lightning Strands-Decider Quyet ほか 9

Microsoft-Decision-1の中身 ベースはQwen3.5-9B。今後はMAIやOpenAIのモデルに載せ替える予定です ベース 入出力 料金 Qwen3.5-9Bに、 テキストのみ 判断用の追加学習 （32,768トークン） $0.042 APIで使います 理由は返しません 入力100万トークンあたりです。出力は無料です 10

PART 2 Foundryで動かす

Foundryのモデルカタログから、デプロイする 12

呼んでみる：HTTPで、3つの質問をまとめて 文章を作らないので、output_tokensは3です POST {endpoint}/providers/microsoft/v1/systemone { { "answers": { "model": "decision1", "team": { "state": "請求書の金額が契約と違います。 "choice": "billing", "probabilities": { 至急確認してください。", "questions": { "billing": 0.9999, … } }, "team": { "type": "choice", "severity": { "instructions": "担当は？", "score": 1.05, "criteria": { "billing": "請求・支払い", "probabilities": { "engineering": "不具合", "support": "使い方" } }, "1": 0.946, "2": 0.053, … } }, "severity": { "type": "score", "urgent": { "noul": 0.9998 } "criteria": ["軽微","中程度","重大","致命的"] }, }, "urgent": { "type": "noul", "usage": { "instructions": "緊急？" } "input_tokens": 115, } } "output_tokens": 3 } } 13

JevとOpenAIとの違いは、APIの形・画像・料金 MicrosoftとJevはほぼ同じ形。URLとキーを替えれば切り替わります Microsoft Jev OpenAI リクエスト state＋questions state＋questions input＋questions questionsの形 辞書 辞書 配列 はい/いいえ noul noul predicate 画像入力 × △ 実験的 ○ box（領域を返す） ― 1.14.0のみ ― 入力料金／100万トークン $0.042 $0.042 $0.10 公開 10/9 9/15 10/6（beta） 14

PART 3 日本語の業務文書で比較

お題：届いたメールや文書を仕分ける 合成した240件を5つの観点で仕分けます。約2割はわざと難しくしてあります 例：件名は【至急】なのに… 文書の種類 請求・見積 件名：【至急】ご請求書送付の件 部署 経理 機密 機密 要対応 はい（支払いは必要） 緊急度 低 …11月分保守料のご請求書を お送りします。 お支払期日：2026年12月31日 社内システムの都合で「至急」の件名で 送信されております。お支払いは 通常どおり 期日までで問題ございません。 16

精度：1問ずつは横並び。差が出たのは緊急度 種類 部署 機密 要対応 緊急度 5問すべて Jev 97.1 95.4 92.1 95.8 92.1 75.0% OpenAI 95.8 94.2 89.2 93.3 92.9 70.8% Microsoft 95.8 92.9 88.3 93.3 85.8 63.3% 選択肢のキーは、意味のある名前に はい/いいえの条件は、criteriaに ✕ "criteria": { " opt_00 ": "経理…", " opt_01 ": "法務…" } ✕ "instructions": "対応が必要か？ 返信や支払いが… " 〇 "criteria": { "finance": "経理…", "legal": "法務…" } 〇 "criteria": { "true": "返信・支払いなどが必要", ✕にすると、12件中2件で答えが変わりました "false": "共有・通知のみ" } 要対応の正解率 ✕ 63.7% ○ 93.3% 17

速さとコスト：Microsoftは安いが、少し遅い 公称のp50 85msは再現しませんでした。最良の条件でも140msです p50 米国・ 小さい入力 p50 日本・ 大きい入力 240件を 全件 1万件の コスト Jev 122ms 172ms 6.2秒 $0.84 OpenAI 130ms 199ms 6.6秒 $1.79 Microsoft 140ms 361ms 7.8秒 $0.42 Microsoftは入力が長いほど遅くなります。デプロイごとに1分あたりの上限があり、今回は 合計274件/分でした。単価が同じでも、トークン数はMicrosoftとJevで約2倍違います 18

PART 4 使いどころ

使いどころ：確信度が低いものだけ、人に回す 1,200問のうち86%は3社とも正解でした。割れたものだけ人が見ます 確信度が高く、答えが一致 → 自動で振り分け 業務文書 Decisionモデル 5問を1回で 低い・割れた → 人が 確認、またはLLMへ 20

ほかにも、こんな使い方が合いそう 文書・問い合わせの仕分け エージェントの次の行動の判断 AIの回答の合否判定 モデルのルーティング 21

まとめ Decisionモデルは、判断だけを速く安く返します。 Qwen3.5-9Bがベースです Microsoftの今後のDecisionモデルリリースの方針： MAIやOpenAIのモデルなどにも、 リベースしていきます 22

Thank you! #75azu で感想をお待ちしています デモ動画：youtu.be/Dso6P64SLdg 詳しくはZennの記事に書きました zenn.dev/nomhiro/articles/microsoft-decision-1-vs-jev-openai しろくま Hiroki, Nomura

付録：3社の答えが割れた文書 請求書が届いたので総務部から法務部に相談するメールです。正解は「申請・稟議」で、OpenAIだけ「その他」でした 24

付録：設問の例（緊急度とnoul） "urgency": { "type": "score", "instructions": "対応の緊急度は？（実際の期限と影響を優先）", "criteria": [ "低：対応不要、期限なし、社内の申請で期限が1週間より先", "中：数日〜1週間以内。社外からの問い合わせで期限の明示がないもの", "高：当日〜翌日の期限", "緊急：業務や顧客への深刻な影響が進行中で、直ちに対応が必要" ] } "action_required": { "type": "noul", "instructions": "受信者が何らかの対応をする必要があるか？", "criteria": { "true": "返信・承認・作業・支払いなどが求められている。議事録ならタスクが明示的に割り当てられている", "false": "情報共有・通知・報告のみで対応は不要。対応不要と明記されている" } } 25

付録：確信度のずれ・日英 ECE（確信度のずれ） 日本語／英語 Microsoft 0.047 86.7／90.0 Jev 0.046 85.8／87.5 OpenAI 0.065 80.0／83.3 日英：MASSIVE意図の正解率（%）。英語のほうが2〜3ポイント高いだけです 26

付録：測定条件と限界 業務文書は合成した240件です。正解はLLMが付け、別のLLMが見直しました 速さは、日本の自宅回線とCentral USのAzureコンテナから、60件を 1件ずつ測りました 全件の時間は、3社を同じ並列数で同時に流しました（Microsoftは3デプロイに分散） Microsoftは今後ベースを載せ替える予定です。OpenAIもbetaです。数字は 変わる可能性があります Jevは測定時、jev-latestがjev-1.13.0でした。1.14.0（多言語が改善の見込み）に 切り替わる予定です 検定は補正していません。240件なので、1〜2ポイントの差は誤差の範囲です 27

付録：参考リンク Microsoft-Decision-1 発表ブログ：commandline.microsoft.com/microsoft-decision-1model-foundry/ Microsoft Learn：learn.microsoft.com/azure/foundry/foundry-models/how-to/usefoundry-models-microsoft-decision JPさんのZenn記事（Portalからのデプロイ）：zenn.dev/microsoft/articles/ms-decision-1 今回の比較（しろくまのZenn記事）：zenn.dev/nomhiro/articles/microsoft-decision-1-vsjev-openai OpenAI Decisions API：developers.openai.com/api/docs/guides/decisions Jev：typesafe.ai/blog/introducing-system-one-models-and-jev JevBench：benchmarkheaven.com/jev-models MASSIVE：huggingface.co/datasets/AmazonScience/massive Qwen3.5-9B：huggingface.co/Qwen/Qwen3.5-9B 28