第194回 雲勉 Google Cloudを用いたAIチャットボット開発〜24 / 365自動応答 × 工数40%削減 の実現〜

第 194 回 雲勉 Google Cloudを⽤いたAIチャットボット開発 〜24 / 365⾃動応答 × ⼯数40%削減 の実現〜 伊藤 ⼤輝 KDDIアイレット株式会社

Profile い と う た い き 伊藤 ⼤輝 KDDIアイレット株式会社 サービスプラットフォーム事業部 アドバンストオペレーションS テクニカルサポートG 経歴 2022年アイレット（現：KDDIアイレット）に⼊社。 MSPセクションにて、24時間365⽇のシステム監視を⾏ う運⽤チームに配属。 その後、テクニカルサポートエンジニアとして約2年間 技術サポートをメインに活動。 現在は、業務効率化に向けたAI推進にも積極的に取り組 んでおります。

アジェンダ 01 はじめに 02 現在の課題 03 ソリューションの全体像 04 技術的工夫 05 成果 06 展望 07 最後に

01.はじめに ｜ cloudpack 請求代行サービスについて Q .cloudpack 請求代⾏サービスのサポートデスク業務って何？ A .「運⽤保守なし」の、お客様の技術関連の問い合わせ対応をすること。(対象がとても多い) 運⽤保守あり お客様 backlog アーキ、構築、SRE 等 技術関連 問い合わせ 今回対象 運⽤保守なし お客様 テクニカルサポートG(現在7名) 問い合わせ件数 (年間)：約1,850件

01.はじめに ｜ AI活用によるサポートデスク改善活動について Step5 AI エージェント導⼊① (回答作成の⾃律型AI) Step3 Datadog LLM Step6 Observability導⼊ AI エージェント導⼊② Step1 Step4 (今回の対象) 社内向け AI チャットボット ⽣成AIシステムの導⼊ 導⼊ Step2 ⾃動評価システム 現状 Ragasの導⼊ Step1~Step3については以下の雲勉にて登壇しております。 → 第179回 雲勉 AIを活⽤したサポートデスク業務の改善 移⾏！！ (精度向上の⾃律型AI) 完了

• https://www.youtube.com/watch?v=_JeXcZ41r08
• https://www.iret.co.jp/works/24-22.html
• https://cloudpack.jp/casestudy/25-14-iret.html?__hstc=105683804.6cacbc762b88cbe0b71ccc59046cde7f.1768358264439.1781044014561.1781603865940.45&__hssc=105683804.3.1781603865940&__hsfp=c7ffdd8d471c276eed1e7c2a2d1bc755&_gl=1*dcs2l9*_gcl_au*MTY5NTMzODc5NC4xNzc0NTgxODI4*_ga*NDAwNjE4OTM4LjE3NjU1MTQ2ODM.*_ga_BWNK83HCX5*czE3ODE2MDM4NjUkbzYwJGcxJHQxNzgxNjAzOTI4JGo2MCRsMCRoMTc4ODI2Mzg5OQ..

02.現在の課題 ① 24 / 365 対応の不在 ② 膨⼤な問い合わせ対応 ③ 回答品質のばらつき ⼀部対応を除いて、 営業時間（平⽇ 10:00 ‒ 19:00）のみ 稼働。 全件⼈⼒対応で、年間 約1,850件と いう膨⼤な問い合わせ負荷。 オペレーターのスキル‧経験に依存 し、回答品質が均⼀化されない。 1 次切り分けにマンパワーが奪わ れ、本来の技術業務を圧迫。 これらを根本解決するため、「AI チャットボット」を 1 次窓⼝ として導⼊。 約1,850 件/年の問い合わせを Bot で受け、必要時のみ有⼈へエスカレーションする構造へ転換した。

03.ソリューション全体像 Zendesk × Gemini Enterprise Agent Platform × Datadog LLM Observabilityの3層構成 お問い合わせ UI とチケット 導線を⼀元化。AI により解 決できなかった対応のみを 有⼈切り替え。 会話履歴ごとオペレーター へ切り替え可能。 ナレッジソース ‧過去の問い合わせ⼀覧 ‧公式ドキュメント ‧iret.media ‧cloudpackサポートページ を駆使して、即戦⼒回答を⽣成 回答品質と感情を可視化。 お客様の温度感を Slack に即 時通知し、エンジニアが事前 準備できる仕組みを構築。

04.技術的工夫① ｜ Gemini 3 系を 3 段使い分け 制約: Zendesk AI Agent の 「30 秒レスポンス制限」を死守する Gemini 3.1 Pro Gemini 3 Flash Gemini 3.1 Flash-Lite 1 箇所のみ 中重作業 速度重視で多用 検索ワード⽣成 ドキュメント有⽤性判断 関連度抽出 簡単な要約 低レイテンシ箇所 ● ● プロンプトは Saved Prompts で集約管理 モデル切替は Cloud Run コード側で動的切り替え

04.技術的工夫② ｜ ハイブリッド RAG (4 系統) Agent Platform Agent Builder の検索 App を 4 つ並列運用 → Cloud Run で統合 ③ ヘルプセンター記事 ①公式ドキュメント ②過去問い合わせ一覧 ③iret.media ④ヘルプセンター記事 公式から常に最新を取得 現場の実践ナレッジ検索 弊社エンジニアブログ検索 ヘルプデスク掲載記事検索 Cloud Run で結果統合 → 回答生成

04.技術的工夫③ ｜ UX と動的プロンプト設計 AIチャットボットのヒアリングと解答例(一部抜粋)

04.技術的工夫③ ｜ UX と動的プロンプト設計 質問内容に具体性を出すための、「カテゴリ選択」と「詳細入力フォーム」 ディープダイブ・レスポンス による回答の深堀

04.技術的工夫④ ｜ 安全性 × LLM オブザーバビリティ ⼊出⼒ガード ■ Model Armor ‧有害コンテンツ 4 種 (HATE/DANGEROUS/SEXUAL/HARASSMENT) ‧プロンプトインジェクション + ジェイルブレイク検知 ‧サニタイズ操作のログ出⼒ ■ Sensitive Data Protection 可視化と能動介⼊ ■ Datadog LLM Observability ‧LLM スパンの階層トレース ‧回答品質の可視化 ‧Input Sentiment 評価 (Sample 100%) ネガティブ感情を検知 ‧AUTH_TOKEN / AWS_CREDENTIALS / ENCRYPTION_KEY ‧BASIC_AUTH_HEADER / PASSWORD 等を検知してブロック ↓ Slack に即時通知 → エンジニアが事前準備

05.成果｜導入後 3ヶ月の計測結果 事前⾒込み「最低 10 % 削減」を⼤幅に上回り、3 ヶ⽉平均で 約40%の削減を達成。 削減率 約40% ⾒込み 20 % を 約 2 倍 上回る成果 （3 ヶ⽉平均 ） 応答カバレッジ 平⽇10-19 → 24 / 365 営業時間限定 → 即時応答へ 夜間‧休⽇の空⽩時間を解消 顧客満⾜度の増加 約94% → 約97% 測定期間：2025/2~4と2026/2~4の⽐較 ・Datadog LLM Observabilityによる感情の可視化と事前準備 ・AIによる24/365での均一なレスポンス品質&速度 ・作業時間の削減と、技術課題へのリソース集中

06.展望 ｜ サポートデスク改善活動ロードマップ Step5 AI エージェント導⼊① (回答作成の⾃律型AI) Step3 Step6 Datadog LLM AI エージェント導⼊② Observability導⼊ (精度向上の⾃律型AI) Step1 社内向け ⽣成AIシステムの導⼊ Step4 AI チャットボット Step2 現状 ⾃動評価システム Ragasの導⼊ 導⼊ 完了

• https://www.iret.co.jp/works/24-22.html
• https://cloudpack.jp/casestudy/25-14-iret.html?__hstc=105683804.6cacbc762b88cbe0b71ccc59046cde7f.1768358264439.1781044014561.1781603865940.45&__hssc=105683804.3.1781603865940&__hsfp=c7ffdd8d471c276eed1e7c2a2d1bc755&_gl=1*dcs2l9*_gcl_au*MTY5NTMzODc5NC4xNzc0NTgxODI4*_ga*NDAwNjE4OTM4LjE3NjU1MTQ2ODM.*_ga_BWNK83HCX5*czE3ODE2MDM4NjUkbzYwJGcxJHQxNzgxNjAzOTI4JGo2MCRsMCRoMTc4ODI2Mzg5OQ..

06.展望 ｜ 説明 AIチャットボットの対応範囲拡⼤ 技術質問だけでなく契約⾯‧社内起因の質問へも適⽤拡⼤。 サポート全体の AI 化と業務再設計へ。 AI エージェントの導⼊① (回答作成の⾃律型AI) AI が外部ツールと連携し、対応⽅針の策定から回答案の作成までを⾃律的に担う仕組みへ。 ⼈は AI 案のチェック‧レビューに専念し、さらなる⼯数削減と回答⾼度化を実現。 AI エージェントの導⼊② (精度向上の⾃律型AI) AIチャットボット、AIエージェントの精度をAI⾃⾝が⾃動的に判定して向上させていく⾃動化システムの開発。

07.最後に ● 弊社AIサービスのご紹介 ○ gaipack ■ ○ AI 新規開発からモダナイゼーショ ン、内製化、戦略設計まで。AI 導⼊ を加速させるためのソリューション 群を提供。 ⽣成 AI 導⼊‧活⽤⽀援サービス ■ 企業が抱える課題やテーマに関する ヒアリングを実施し、⽣成 AI 活⽤の ⽅向性をご提案。その後、本番導⼊ に向けた開発‧検証を実施。本番導 ⼊のための教育⽀援までワンストッ プでサポートします。

• https://www.gaipack.ai/
• https://cloudpack.jp/service/generative-ai.html

ご清聴ありがとうございました