---
title: AI時代のAzureコスト最適化を考える～ トークンから価値へ コスト、価値、そしてROI ～
tags:  #microsoftazure #azure #microsoft #azurecostmanagement #microsoftfoundry #finops #finopsforai  
author: [御成門プログラマー(Tomotaka Suzuki)](https://www.docswell.com/user/onarimon-program)
site: [Docswell](https://www.docswell.com/)
thumbnail: https://bcdn.docswell.com/page/GEWGWD1QJ2.jpg?width=480
description: Japan Azure User Group 16周年イベントで登壇した資料です。  以下、セッション概要 生成AIの普及により、Azureにおけるコスト管理も新たな時代に入りました。AIの利用が進む一方で、「いくらかかるのか」だけでなく、「そのコストはどんな価値を生み出しているのか」が問われるようになっています。近年は、AIコストを単なる利用料金ではなく、価値創出まで含めて捉える考え方として AI FinOps や Tokenomics にも注目が集まっています。  本セッションでは、Azure AI Foundry などAzure AIリソースを題材に、AI時代ならではのコスト構造を技術的な視点で解説できればと考えています。  単なるコスト削減ではなく、「価値あたりのコストを最適化する」という視点から、コスト・価値・ROIの関係を整理し、AI時代に求められるAzureコスト最適化の考え方を考えてみたいと思います。
published: October 03, 26
canonical: https://www.docswell.com/s/onarimon-program/K3JD4P-2026-10-03-165727
---
# Page. 1

![Page Image](https://bcdn.docswell.com/page/GEWGWD1QJ2.jpg)

AI時代のAzureコスト最適化を考える
～ トークンから価値へ: コスト、価値、そしてROI ～
2026/10/3(土) 「Japan Azure User Group 16周年イベント」
御成門プログラマー(Tomotaka Suzuki)


# Page. 2

![Page Image](https://bcdn.docswell.com/page/47ZL5GP3J3.jpg)

自己紹介
名前：御成門プログラマー（Tomotaka Suzuki）
技術： Microsoft Azure(コスト周り多め), .NET, Angular
X(Twitter) ： @onarimonprogram
技術ブログ ： onarimon.jp
グルメブログ： food.onarimon.jp
Microsoft MVP 2023年6月～
・受賞カテゴリー Microsoft Azure
・技術分野： Azure Cost, Resource & Configuration Management
→ 名称変更で現在はAzure Operations & Management


# Page. 3

![Page Image](https://bcdn.docswell.com/page/YJ6W9YMZJV.jpg)

まずは参加者の方々に聞いてみたい


# Page. 4

![Page Image](https://bcdn.docswell.com/page/GJ5MNGZ9J4.jpg)

アンケート
「今仕事で何かしら”AI”に携わっている方？」
利用する側、提供する側どちらも


# Page. 5

![Page Image](https://bcdn.docswell.com/page/LE3W2R92E5.jpg)

ということで会場にいる方は
全員”AI”を使っているということでした!!
(予想で書いてます)


# Page. 6

![Page Image](https://bcdn.docswell.com/page/8EDKZYG67G.jpg)

日本における生成AIの業務活用率は86.4%に
2025年の情報。今はもっと高いはず。
総務省｜令和8年版 情報通信白書｜日本総務省｜令和8年版 情報通信白書｜生成AIの業務利用状況
生成AIを一つ以上の業務で利用している割合（国別） (https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r08/html/nd121130.html)


# Page. 7

![Page Image](https://bcdn.docswell.com/page/V7PKD68ZJ8.jpg)

アンケート②
「今仕事で”AI”機能を提供する側の方？」
自社導入、他社導入、製品への組み込みなど


# Page. 8

![Page Image](https://bcdn.docswell.com/page/2JVV13NMJQ.jpg)

この質問はただの興味でした
参考になります


# Page. 9

![Page Image](https://bcdn.docswell.com/page/5EGL23KXJL.jpg)

仕事において”AI”は切っても切り離せない存在に
AI機能を利用する側
圧倒的にAIを利用しやすい時代になった
AI使用前提での生産性とクオリティを求められる
AIが作ったこの世界のスピード感についていけなくなるプレッシャー
AI機能を提供する側
ざっくりと何かAIを使った機能の提供を求められる
AI機能が入っているのが当たり前になる世の中のプレッシャー


# Page. 10

![Page Image](https://bcdn.docswell.com/page/4JQYP5N57P.jpg)

AIを「PoC検証する時代」から「実際に本番運用する時代」へ
そんなときに求められるのが「投資に見合った価値があるか?」
→FinOpsのアプローチが必要な時代に


# Page. 11

![Page Image](https://bcdn.docswell.com/page/K74WY9GVE1.jpg)

FinOps とは？
FinOpsは、エンジニアリング、財務、ビジネスの各チームが連携することで、テクノロジー
のビジネス価値を最大化し、タイムリーなデータ駆動型の意思決定を可能にし、財務的な
責任を生み出す、運用フレームワークであり文化的なプラクティスです。
FinOpsとは（What is FinOps?） | FinOps Foundation Japan Chapter


# Page. 12

![Page Image](https://bcdn.docswell.com/page/LJ1Y6KD4EG.jpg)

FinOps Framework Overview


# Page. 13

![Page Image](https://bcdn.docswell.com/page/GJWGWDYZ72.jpg)

「FinOps」から「FinOps for AI」へ
AIの特性に応じたコスト構造や特性をAI支出を継続的に最適化し、ビジネス価値へ確
実に変換するためのAI特化のFinOps的アプローチ
従来のクラウドとAIが違う点
トークン単価、モデル単価が頻繁に変動する
モデルの種類が多く、複雑
モデル料金だけでコストが決まらない→トークン消費量（入力、出力、推論の深さなど）
非エンジニアの人も直接コストを発生させる機会が多い
FinOps for AI Overview


# Page. 14

![Page Image](https://bcdn.docswell.com/page/4EZL5GXL73.jpg)

「FinOps for AI」におけるアプローチ
AIコストは複雑化している。だからこそ「段階的・全体最適・継続改善」が必須
①段階的アプローチ
1.Crawl(小さく始める)
2.Walk(業務へ組み込
み)
3.Run (継続最適化)
②AIコストを“モデル
単価”ではなく“利用モ
デル全体”で管理
③組織横断のガバナ
ンスとコスト責任の明
確化
• トークン消費（入力・
出力・圧縮後の実際
の送信量）
• GPU利用量・希少
性・予約方法
• モデルSKU・バージョ
ン差
• API呼び出し数・推論
頻度
• データ前処理・スト
レージ
• AIは非エンジニア部
門もコストを発生させ
るため、横断管理が
必須
④技術・利用・コストの
“三層最適化”
• Architecture：GPU予
約、モデル蒸留・量子
化、ストレージ最適化、
サーバレス活用
• Usage：タグ付け、ライ
トサイジング、使用制
限、アノマリー検知、
トークン最適化
• Cost：コミットメント活
用、データ転送削減、
定期レビュー、SKU
更新の追跡
⑤KPIで“AIの価値”
を測定し、改善ループ
を回す
• 推論当たりのコスト
• トークン消費量
• リソース使用率
• 異常検知率
• ROI(費用対効果)


# Page. 15

![Page Image](https://bcdn.docswell.com/page/Y76W9Y4M7V.jpg)

そしてFinOps から Tokenomics へ
「クラウドインフラのコスト管理」から「トークンという変動コストの管理」へ


# Page. 16

![Page Image](https://bcdn.docswell.com/page/G75MNGQQ74.jpg)

Tokenomics とは？
AITokenomics（すなわち「AI経済学」）とは、
エネルギーと資本をAIの能力に変換し、組織全体でその知能を効率的に活用することで、
測定可能なビジネス価値を実現する学問分野である。
— トークノミクス定義案 v0.5.2、2026年9月1日
The Tokenomics Foundation - AI Value


# Page. 17

![Page Image](https://bcdn.docswell.com/page/9J295YPWER.jpg)

Linux Foundationが「Tokenomics Foundation」を設立
トークン消費量の増加とAI投資の収益化
トークン消費量は2030年までに24倍に増加するとされている。各組織はAIへの支出額とそれらのAI
投資を測定・管理・収益化する能力との間にあるギャップの拡大に直面
AIのコストと価値を管理する「トークノミクス」
AIトークンエコノミクス（またはAIトークノミクス）とは、ビジネス成果を生み出すためにAIの生産、消
費、価値を管理する、新しく登場した実践的手法。これは実践者に対し、「AIの実際のコストはいくら
か」「知性の価値とは何か」という2つの難題に答えるための道筋を示す
トークンを起点にAIの総コストを捉える
業界で定義されつつあるトークノミクスは、AIのコストの大部分がトークンそのものにあるわけではな
いと認めている。コンピューティングからストレージ、データベース、キャッシュ、さらにはエンジニアの
人件費に至るまで、広範な隣接コストが存在。しかし、トークンは多様なコストを駆動させる一貫した
最小使用単位（アトミックユニット）であり、AIコストの全体に及んでいる
Linux Foundationが「Tokenomics Foundation」を設立、AIの経済性とROIの価値基準を策定へ


# Page. 18

![Page Image](https://bcdn.docswell.com/page/DEY4KG59JM.jpg)

AIのコストとビジネス価値を測定可能なものにし、
価値向上していくことが求められる時代へ


# Page. 19

![Page Image](https://bcdn.docswell.com/page/VJNYRGND78.jpg)

AIトークノミクス ガイド: トークン効率の高いソフトウェア エンジニアリングのための 11 の原則
Google Cloud 公式ブログ
バランスの取れたモデルから始める
最初からスキルを使用する
スクリプトと CLI ツールで自動化する
出力の多いタスクを委任する
分割統治法を使う
検証をシフトレフトする
ドリフトが発生したら元に戻す
コンテキストを具体的に示す
ルールを反復修正する
制御されていないループを回避する
新しいトピックごとに新しいセッションを開始する
AI トークノミクス ガイド: トークン効率の高いソフトウェア エンジニアリングのための 11 の原則 | Google Cloud 公式ブログ


# Page. 20

![Page Image](https://bcdn.docswell.com/page/YE9PMWR8J3.jpg)

ではMicrosoft での
FinOps for AI, Tokenomics の対応は？


# Page. 21

![Page Image](https://bcdn.docswell.com/page/GE8DLNWZED.jpg)

Microsoft Azure Blog にて「The Economics of Agent Optimization」
というシリーズで紹介されていたブログ記事の内容がドンピシャ
第1回「 AI cost management: From AI pilots to measurable ROI | Microsoft Azure Blog 」
AI cost management: From AI pilots to measurable ROI | Microsoft Azure Blog
• タイトル訳 AIコスト管理：AIパイロットから測定可能なROIへ
• システムが基盤としている 3つの決定事項 :実行時に各リクエストを最適化する、時間をかけて各ワークフローを最適化、継続的な支出を管理
第2回 AI cost optimization: How to lower AI spend | Microsoft Azure Blog 」
AI cost optimization: How to lower AI spend | Microsoft Azure Blog
• タイトル訳 AIコスト最適化：AI支出を減らす方法
• AIにかかるあらゆるコストを左右する、最初のポイントについて
第3回 AI agent optimization: How context engineering lowers AI costs | Microsoft Azure Blog 」
AI agent optimization: How context engineering lowers AI costs | Microsoft Azure Blog
• タイトル訳 AIエージェントの最適化：コンテキスト設計でAIコストを下げる方法
• エージェントがうまくいく方法を学び、使うほどにコストを下げていく仕組みを作る
第4回 AI agent governance: How to measure AI value and ROI | Microsoft Azure Blog 」
AI agent governance: How to measure AI value and ROI | Microsoft Azure Blog
• タイトル訳 AIエージェントのガバナンス：AIの価値とROIをどう測るか
複数のモデルやAIサービスの利用を共通ルールで管理し、使いすぎや障害による無駄を抑えて、AI投資の効果を守る仕組み


# Page. 22

![Page Image](https://bcdn.docswell.com/page/LELMLPN17R.jpg)

第1回「AIコスト管理：AIパイロットから測定可能なROIへ」①
多くの企業で、AIの議論は「何ができるか」から「費用に見合う成果が出ているか」へ
AIコストと支出を理解する
AI支出はモデルの選択だけで決まらない。モデルを取り巻くエージェントやアプリにも形成される
各リクエストでは入力と出力の両方にトークンを使い、状態を保持しないため、会話履歴などのコンテキス
トを毎回送り直し、会話が長くなるほど、簡単な追加質問でもコストが増えることがある
エージェントは1回のリクエストで多くのモデル呼び出しを行うため、ワークフロー設計が重要
チーム間でのAIコスト可視性の向上
AI支出が単一のコストとして表示されると管理が困難に。チームはアプリケーション、エージェント、ワーク
フロー、モデルごとのコストを可視化し、使用を促す要因や最適化の機会がどこにあるかを理解する必要
がある
支出を管理・最適化
AIワークロードは急速にスケールし、予期せぬ行動によって短期間で消費量が増加します。組織はコスト
が予想外になる前に支出を管理するための統制が必要
AIコスト管理:AIパイロットから測定可能なROIへ |Microsoft Azure Blog


# Page. 23

![Page Image](https://bcdn.docswell.com/page/4JMYM4X5JW.jpg)

第1回「AIコスト管理：AIパイロットから測定可能なROIへ」②
AI For FinOps で求められる4つコミットメントを満たす
AIの予算を予測可能にする
効率性を設計に組み込む
大規模に最適化する
投資の価値を示す
AIリーダーが問うべき4つの質問。答えられない質問があればそこから強化しましょう
私たちは何にお金を払っているのか分かっていますか?
各リクエストごとに適切な金額を支払っているのでしょうか?
私たちのエージェントは効率的に運用されていますか?
利用が急増しても、コントロールできるか？
AIコスト管理:AIパイロットから測定可能なROIへ |Microsoft Azure Blog


# Page. 24

![Page Image](https://bcdn.docswell.com/page/PJR9VWNZ79.jpg)

第2回「AIコスト最適化：AI支出を減らす方法」①
1つのリクエスト結果を得るには複数回のモデル呼び出しのループがある
ビジネス層が気にする数値はトークンの価格ではなく、結果にかかったコストである
ループの各ターンではモデルの呼び出しがあり、そこを最適化することで毎回の最適化されたルー
プが繰り返される。だからこそエージェント最適化はそこから始める
プロダクションAIで最もコストがかさむ習慣
プロトタイプでは利用可能な強力なモデルが選ばれ、そのモデルが必要とするすべてのプロンプトが
入力される。それはプロトタイプとしては正しいが、問題なのは次でプロトタイプのデフォルトがその
まま本番環境のデフォルトになる
→無駄に大きいモデルの利用と本番環境による大量トラフィック発生による無駄が発生
本番環境の目的はモデルを最小化することではなく、品質・安全性・速度を維持しつつ、成果を得る
ためのコストを削減することが重要
AIコスト最適化:AI支出を削減する方法 |Microsoft Azure Blog


# Page. 25

![Page Image](https://bcdn.docswell.com/page/PEXQZPN1JX.jpg)

第2回「AIコスト最適化：AI支出を減らす方法」②
Microsoft Foundryで実行時に操作する4つのレバー
モデルとオファー「各リクエストを適切なモデルに送信する」
Model router, deployment types, provisioned throughput(PTU), batch, fine-tuning
キャッシュ「同じトークンに二度支払うのをやめましょう」
Prompt caching、Azure API Management の AI Gateway を通じた semantic caching
プロンプト最適化とエージェント最適化「プロンプトを最適化し、次にエージェントを最
適化します」
Prompt optimizer、instructions・skills・tool descriptions・model selectionを対象とした agent
optimizer
観測可能性と評価「観察可能性と評価で可視化しよう」
Foundry observability and evaluation、agent traces、Azure budgets、alerts、cost tagging
AIコスト最適化:AI支出を削減する方法 |Microsoft Azure Blog


# Page. 26

![Page Image](https://bcdn.docswell.com/page/3EK98DNMED.jpg)

Model router でモデルを自動振り分け
リクエストに応じて利用するモデルを自動で振り分け、
品質・速度・コストの最適化を図る
判断基準は依頼の内容と難しさ、リクエスト全体の履歴や
ツール利用状況、候補モデルの適格性、ルーティングモー
ドの設定などから判断される
ルーティングモードは品質、コスト、バランスから選択可能


# Page. 27

![Page Image](https://bcdn.docswell.com/page/L73W2RV275.jpg)

使用できる Model の制限
Azure Policy で設定
発行元や各モデルに
対して許可設定を行
う


# Page. 28

![Page Image](https://bcdn.docswell.com/page/87DKZY86JG.jpg)

デプロイ方式の選択
データ処理場所・応答時間・処理量・費用に応じて選択する
方式
推論データの処理場所
費用・性能の特徴
Global Standard
トークンに応じた従量課金。利用可
対応する Azure リージョンのいずれか 能なモデル・クォータが広く、まず試 通常の対話、変動する負荷
しやすい
Data Zone Standard
指定された US／EU／APAC のデー 従量課金。処理場所をゾーン内に
タゾーン内
限定
Standard（Regional）
指定された Azure geography 内
従量課金。モデルの提供状況や
クォータは限定され得る
主な用途
データ処理場所にゾーン単位の要
件がある対話
より狭い地理的要件がある利用
Provisioned
選んだ地理的範囲内
（Global/Data Zone/Regional）
PTU で処理容量を確保。高負荷時
継続的に大量のリクエストがある本
もスループットと遅延のばらつきを
番利用
予測しやすい
Batch（Global/Data Zone）
別クォータを使う非同期処理。完了
目標は24時間で、即時応答の保証 大量文書の要約・分類など
はない
選んだ範囲内


# Page. 29

![Page Image](https://bcdn.docswell.com/page/VJPKD6WZE8.jpg)

FoundryのPrompt caching
共通の入力部分を再利用し、長いプロンプトの遅延と入力コストを削減
1回目
[共通の指示・参考資料]
+ [質問 A]
2回目
[1回目と同じ指示・参考資料]
+ [質問 B]
モデルが処理
共通部分をキャッシュから再利用
+ 質問 B への回答は新たに生成
3つのポイント
同じ対応モデルを使い、先頭の1024トークンが一致することが適用条件
キャッシュ済み”入力”の処理時間と料金を削減。出力トークンの生成と課金は発生
応答の usage.prompt_tokens_details.cached_tokens でキャッシュされたトークンを確認可能
Microsoft Foundry モデルで Azure OpenAI を使用してキャッシュを要求する - Microsoft Foundry | Microsoft Learn


# Page. 30

![Page Image](https://bcdn.docswell.com/page/2EVV138MEQ.jpg)

Azure API Management の AI Gateway
AI呼び出しの手前で、利用枠・容量配分・障害時の送信をまとめて制御する。
処理の流れ
アプリやユーザーごと
→利用キーで判別
AI Gateway / 共通の制御点
認証・ポリシー・バックエンド選択
・Foundry / モデルA
・Foundry / モデルB
・他のAI
機能
1 - 利用キーごとの制限
2 - バックエンド負荷分散
3 – 障害時の遮断
アプリ・部門ごとにTPMと期間
ごとのトークンクォータを設定
複数の配置先へ要求を分散。
重み・優先度で容量を配分。
設定した障害条件で送信停止。
一定時間後に送信を再開。
容量の独占・使いすぎを抑える
容量を活用し、負荷を分散する
不調な接続先への要求を抑える
Azure API Management の AI ゲートウェイ機能 |
Microsoft Learn
Azure API Management ポリシー リファレンス - llmtoken-limit | Microsoft Learn
Azure API Management バックエンドシステム |
Microsoft Learn


# Page. 31

![Page Image](https://bcdn.docswell.com/page/57GL235XEL.jpg)

AI Gateway によるセマンティックキャッシュ
意味の近い質問に、過去の回答を再利用して LLM 呼び出しを減らす
利用者の質問
Azure API Management（AI Gateway）
1. 埋め込みモデルで質問をベクトル化
2. Redis から意味の近い質問を検索
• ヒット → 保存済み回答を返す（LLM は呼ばない）
• ミス → LLM に送信 → 回答を Redis に保存
利用者へ返信
3つのポイント
効果：ヒット時は LLM の回答生成を省き、応答時間と推論費用を削減
構成：APIM の検索・保存ポリシー、埋め込みモデル、ベクトル検索対応 Redis
注意事項：類似度のしきい値、有効期限、利用者ごとのキャッシュ分離を設計する
Azure API Management で LLM API のセマンティック キャッシュを有効にする | Microsoft Learn


# Page. 32

![Page Image](https://bcdn.docswell.com/page/4EQYP5Z5JP.jpg)

第3回「AIエージェントの最適化：コンテキスト設計でAIコストを下げる方法」
コンテキストウィンドウ(一度に処理する情報量)がエージェントコストを左右する
毎ターンごとにinstructions、tool、取得した書類、そして会話履歴が送信される
増えていく文脈は品質コストにも影響を与える
安価なモデルと高価なモデル、短い指示と長い指示にはそれぞれトレードオフがある。コストを抑え、品質
を下げることなくチームがサポートしやすい最適化を可能すること。これこそがコンテキストエンジニアリン
グの役割
4つの課題に対応することでコスト最適化する
必要な情報を低コストで確実に見つける(Foundry IQでトークンコスト削減)
必要なツールだけを選び、エージェントのコストを抑える(スキルの追加は簡単だが毎ターンモデルに完全
な説明が送信される。Foundryのツールボックスでエージェントごとにツールを一元管理)
スキルで手順を管理し、必要なときだけエージェントに読み込む(Skillsはプレビュー)
エージェントメモリで会話を引き継ぎ、やり取りを効率化する
目的はトークンや検索コスト削減だけでなく、使うほど賢く効率的になるエージェントを作ること
AI agent optimization: How context engineering lowers AI costs | Microsoft Azure Blog


# Page. 33

![Page Image](https://bcdn.docswell.com/page/KJ4WY93V71.jpg)

第4回「AIエージェントのガバナンス：AIの価値とROIをどう測るか」①
ガバナンスでAIエージェントの利用とコストを可視化・管理し、使い過ぎを防止する
1. 支出がどこから始まるか確認する
AIコストを1つのまとまった総額で見えても管理がしづらい
Foundryのコスト管理 と Microsoft Cost Management で個々のエージェントのコストやトークン使用
状況を検査し、モデルコストを監視。これらの数字は運用上の意思決定に役立つ
Azure API Management のAIゲートウェイでAPI、製品、ユーザー、サブスクリプション、ゲートウェ
イ、バックエンドごとにトークンメトリクスを発行
Foundryのtracing機能でツール使用、リトライ、遅延、トークン消費、エージェント実行のコストを補足
2. 各層で支出上限を設定する
Foundry Control Planeでプロジェクト範囲でのモデルに対してトークンのレート制限や総トークン
クォータを強制
AI Gateway でモデルやAI提供者間で共通のポリシーを適用(PTU優先、故障先のリクエスト停止)
AI agent governance: How to measure AI value and ROI | Microsoft


# Page. 34

![Page Image](https://bcdn.docswell.com/page/LE1Y6K147G.jpg)

第4回「AIエージェントのガバナンス：AIの価値とROIをどう測るか」②
3.財務予算を説明責任とエスカレーションのために活用する
Microsoft Cost Management の予算機能でオーナーにアラートを通知したり、対応チケットの作成などの
異常検出を行う
請求アラートは即時の支出上限とはならないため、リクエストの早い段階で検知できるトークンリミットの設
定を検討
4.エージェントが生み出す価値を測定する
エージェントがその投資に見合う十分なビジネス価値を提供しているか?という重要な問い
ROI for agents in Foundry(Private Preview)は、組織がエージェントコストとビジネス成果を結びつけるの
に役立つ
→エージェントが達成した成果と、その過程で発生するコストを追跡し生み出された価値、総コスト、純価
値、ROI計算する
最後にAIを一つの管理型投資システムとして運用する
AIエージェントの最適化はリクエストごとのコストを抑え、使うほどにワークフローを改善し継続的に利用
状況と成果を管理する。トレース・評価・コスト配分・ROIを共通で管理し、Foundryで開発と最適化を、
Agent 365で組織全体のエージェント管理を支えることで、効率・品質・安全性を保ちながら、投資に見合う
価値を生み出す


# Page. 35

![Page Image](https://bcdn.docswell.com/page/GEWGWD8ZJ2.jpg)

モデルごとのコスト
モデルを選択→「Monitor」


# Page. 36

![Page Image](https://bcdn.docswell.com/page/47ZL5G8LJ3.jpg)

Microsoft Cost Managementで確認
タグ：deploymentで
モデルを選択可能
他の見方は公式MSLearn
ページをチェック
コストの計画と管理 - Microsoft Foundry | Microsoft Learn


# Page. 37

![Page Image](https://bcdn.docswell.com/page/YJ6W9YPMJV.jpg)

ROI for agents（Private Preview）
トレースと評価結果に業務価値の設定と費用を組み合わせ、エージェントのROIを可視化する機能
現在プライベートプレビュー。なぜか終了している利用申し込みフォーム→
実行トレース ＋ 業務価値を判定する評価器 ＋ 成功1件の価値・費用設定
↓
Business Value / Total Cost / Net Value / Current ROI
こんな機能かもしれない?
成功と判定された会話に、設定した業務価値を割り当てる
モデルやツールなどの運用費と比較し、ROIの推移やバージョン間の違いを見る
ROIが低い場合はトレースに掘り下げ、価値と費用の要因を調べる
Introducing ROI for agents in Foundry | Microsoft Community Hub


# Page. 38

![Page Image](https://bcdn.docswell.com/page/GJ5MNGKQJ4.jpg)

登場回
機能・仕組み
製品・サービス
何に使うか
第1・2回
モデルの自動振り分け
Foundry Model router
依頼に応じ、コストと品質のバランスが適切なモデルを選ぶ
第2回
モデルの許可リスト
Model router、Azure Policy
組織の方針に沿って利用可能なモデルを限定する
第1・2回
配置場所・処理方式の選択
Foundryのデプロイ方式
Global／Data Zone／Regionalと、Standard／Priority／
Provisioned Throughput／Batchを要件に応じて選ぶ
第1・2回
ファインチューニング
Foundry
第1・2回
第2回
プロンプトのキャッシュ
セマンティックキャッシュ
FoundryのPrompt caching
Azure API ManagementのAI Gateway
小型モデルを特定業務向けに調整し、単価やプロンプト量を抑え
る
毎回共通する指示などの再処理を減らす
意味が近いリクエストの応答を再利用する
第1・2・3回
プロンプト・エージェントの改善
FoundryのPrompt optimizer／Agent optimizer
指示、モデル、ツール構成を評価データに基づいて改善する
第1・3回
企業データの検索・根拠付け
Foundry IQ、Microsoft IQ
必要な情報だけを検索して渡す。Work IQ、Fabric IQ、Web IQ
などの情報源にも言及
第1・3回
ツールの管理・検索
Foundry Toolboxes／Tool search
全ツールの定義を毎回渡さず、必要なツールを見つけて使う
第3回
業務手順の再利用
Foundry Skills
承認済みの手順を共通管理し、必要なときだけ読み込む
第1・3回
記憶の保持
Foundry Agent ServiceのMemory
第1・2・4回
実行の追跡と品質評価
FoundryのTracing／Observability／Evaluation
第1・4回
費用の表示・配賦
第1・4回
リクエスト時の利用制限
第4回
複数モデル・提供元の制御
第1・2・4回
予算・アラート・異常検知
第4回
事業成果と費用の比較
セッション・ユーザー・手順の情報を保持し、全会話の再送を減ら
す
モデル呼び出し、ツール使用、再試行、トークン、品質・安全性を
調べる
エージェント・プロジェクトの推定費用を確認し、請求データと照
合する
Foundryのコスト管理、Microsoft Cost
Management
Foundry Control Plane、Azure API Management
トークンのレート制限やクォータで過剰な呼び出しを抑える
のAI Gateway
利用キーごとの制限、バックエンドの負荷分散、障害時の回路遮
AI Gateway
断を行う
請求額に基づく予算管理、通知、対応ワークフローへの連携を行
Microsoft Cost Management、Azure Monitor
う
タスク完了などの価値とモデル・ツール費用を結び付け、純価値
FoundryのROI for agents
やROIを算出する


# Page. 39

![Page Image](https://bcdn.docswell.com/page/9E295YWW7R.jpg)

最後に
「FinOps」→「FinOps for AI」→「Tokenomics」と様々なプラクティスが爆誕してきている
AIのコストとビジネス価値を測定可能なものにし、価値向上していくことが求められる時代へ
MicrosoftのAIコスト最適化は「 Microsoft Azure Blog 「The Economics of Agent Optimization」参照
第1章「システムが基盤としている3つの決定事項:実行時に各リクエストを最適化する、時間をかけて各ワークフローを最適化、継続的な支出
を管理」
第2章「AIにかかるあらゆるコストを左右する、最初のポイントについて」
第3章「エージェントがうまくいく方法を学び、使うほどにコストを下げていく仕組みを作る」
第4章「複数のモデルやAIサービスの利用を共通ルールで管理し、使いすぎや障害による無駄を抑えて、AI投資の効果を守る仕組み」
AIリーダーが問うべき4つの質問に答えてみましょう
私たちは何にお金を払っているのか分かっていますか?
各リクエストごとに適切な金額を支払っているのでしょうか?
私たちのエージェントは効率的に運用されていますか?
利用が急増しても、コントロールできるか
ROIの計測方法はまだ具体的な機能などの展開は少ない、みんながまだまだ悩んでいる分野であることがわかった