20250520_DifyCommunityMeetup(JP)^N5_川口弘行合同会社

Difyを自治体やJTCへ導入する 2025年5月20日 Dify Community Meetup #5 川口弘行合同会社 川口 弘行 Mail: [email protected] Twitter: @kawaguchi_com Discord: kawaguchi_com_17478 好きなブロックは「質問分類器」です

本日お話すること 世の中から２周遅れている業界で DifyやLLMをソリューションとして定着させるための 論点を整理します。 2

自己紹介 川口 弘行（かわぐち・ひろゆき） 博士（工学） 技術経営修士（専門職） 総務省地域情報化アドバイザー 公認情報システム監査人（CISA） 行政書士 ITコーディネータ 認定スクラムマスター（LSM） 認定プロダクトオーナー（LSPO） 専門分野：電子政府・電子自治体、オントロジ、情報社会学 2009年4月 高知県庁 専門企画員（CIO補佐官） 2013年4月 港区情報政策監 2013年4月 経済産業省CIO補佐官 2015年4月 佐賀県庁 情報企画監 2017年12月 川口弘行合同会社 設立 代表社員 2018年4月 熊本県菊池市ICT推進アドバイザー 2019年4月 佐賀県唐津市情報政策アドバイザー 2021年7月 2022年4月 2022年4月 2023年4月 2023年4月 2023年5月 2023年5月 2024年6月 静岡県湖西市DX推進アドバイザー 秋田県DX推進アドバイザー 静岡県富士市情報政策アドバイザー 越谷市最高デジタル責任者（CDO） 秋田県能代市CIO補佐官 静岡県牧之原市CIO補佐官 宇都宮市DX専門官 山梨県丹波山村CIO補佐官 3

ITmediaで連載しています ITmedia ビジネスONLINEの中の 「自治体DX最前線」という 非常にニッチな領域での連載です。 https://www.itmedia.co.jp/author/256567/ 4

• https://www.itmedia.co.jp/author/256567/

プロキュアテック （procureTech） 推論型AIと生成型AI（GPT4o）による 公共機関向け 調達文書自動作成システム 特長 1. 初期条件を設定することで、 最適な調達仕様書の約90％を自動的に作成。 （残りの10％はコンサルタントや職員がヒアリング結果を元に作成） 2. 弊社の知見に加え、自治体向けの技術文書を参考にした仕様書構成 • • • 「情報システム調達のための技術参照モデル（TRM）自治体編」（IPA） 「非機能要求グレード」（IPA） 「地域情報プラットフォームを活用した業務改善とシステム調達の手引き」（Applic） 3. 初回ヒアリング後、一時間以内に仕様書初版を出力可能。 • 初版の作成を早めることで、全体的な作業の着手も早くなり、担当者の心理的負担も減る。

プロキュアテックの裏側はDifyで構築 ファイル投入 推論エンジン・ コントローラー （自社開発） API Call フロントエンド（自社開発） データストア Dify Workflow ファイル出力 以前は python や bash で フローのようなものを書いていた 6

自治体やJTCで Difyを使うのなら （IT統制の観点から） 7

電子的ゾーニング（境界型防御） インターネット マイナンバー ネットワーク LGWAN ３ ２ 認証強化 機密性３ 都道府県単位のSOC （自治体閉域網） １ ファイル 受け渡し ファイル 受け渡し 機密性２ 機密性１ 8

一般的な利用形態 LLM / Dify インターネット マイナンバー ネットワーク LGWAN 都道府県単位のSOC （自治体閉域網） 機密性１ ３ ２ 認証強化 １ ファイル 受け渡し ファイル 受け渡し 機密性１ 機密性３ 機密性２ 9

LGWAN-ASPの利用 LGWAN-ASP LLM / Dify LGWAN （自治体閉域網） 機密性２ ３ ２ 認証強化 １ ファイル 受け渡し ファイル 受け渡し 機密性１ 機密性３ 機密性２ 10

LGWAN-ASPでDifyを利用可能にしました • LGWAN-ASPとして稼働しているDify上に、 • エンドユーザーが望むワークフローやチャットフローを 一緒に構築してあげて、 • エンドユーザが望むフロントエンドを組み合わせて、 • 納品する。 https://prtimes.jp/main/html/rd/p/000000007.000068645.html 11

• https://prtimes.jp/main/html/rd/p/000000007.000068645.html

庁内でLLMを動作させる（プライベートAI） LGWAN （自治体閉域網） マイナンバー ネットワーク ３ ２ LLM： DeepSeek-R1-Distill-Qwen-Japanese （DeepSeek/CyberAgent） Gemma3（Google）、Llama4（Meta）など LocalLLM / Dify １ 機密性２ 認証強化 ファイル 受け渡し ファイル 受け渡し プライベートAI (LocalLLM / Dify) 機密性３ 機密性１ 12

それならば…ということで、リリースしました https://prtimes.jp/main/html/rd/p/000000008.000068645.html 13

• https://prtimes.jp/main/html/rd/p/000000008.000068645.html

構成 • Mac Studio M3 Ultra 512GB • Ollama • Gemma3, Llama4, Qwen3, Deepseek V3… • Dify (Community) • OpenWebUI • Nextcloud OpenWebUIを使う理由： ・普通にLLMを使う機会のほうが多い ・Difyのエンドユーザ側のUIが微妙… ・マルチユーザでの運用 ・Dify Community版のライセンス制約？ Difyを使う理由： ・RAGチューニングが必要な場合がある ・メンテナンス性 ・拡張性（後述） Private AI LLMs LLMs LLMs LLMs OpenWebUI Ollama Pipe Function Dify WebDAV API Nextcloud Internal Storage External Storage 14

ユースケース 1. 庁内の機密情報を使ったRAG • エンドユーザにはこのインパクトが大きい • RAGはチューニングがキモだが、コストを意識せずにあらゆる手段を試行できる 2. 庁内のファイルを持ち出す際の機密性事前チェック • これまでは「このファイルに機密情報が含まれていますか？」をLLMに問えなかった 3. 受領したオンライン申請データの自動処理 • メールやファイルサーバ、DBなどの新着を監視し、Difyのワークフローに流す • 非定型のデータ（自由文記述を含む）から意図した回答を抽出し、ワークフローで処理 • 添付ファイルからのデータ抽出、ファイル形式の正規化（画素数、サイズ統一） • 受領後のフォローの自動化（不備の場合の再提出依頼など） 15

望むなら拡張性もあるよ Private AI LLMs LLMs LLMs LLMs LLMs OpenWebUI MCPｓ Ollama Pipe Function Dify MCP LGWAN WebDAV API Nextcloud Internal Storage Dify (Agent) LGWAN-ASP LLMs LLMs LLMs LLMs External Storage Dify to Dify は API Call の方が 安定しているが、MCPや OpenAPIによるFunction calling も可能 16

みなさまにお願い • 仲良くしてください • 基本的にソロプレナーなので、 「一緒ににやろうぜ」「スタッフ募集」のように、 周りを巻き込むことはしませんが、 みなさんのビジネスをお手伝いすることは可能です • あまり注目されない業界や未知の業界の方が好きです • 市場性のないところからビジネスが始まるのは面白いですね • 現時点の最大の制約は「場所」と「時間」です • ありがたいことに、お金は充分いただけている状況です • 全国を転々としているので、特定の場所に一定期間滞在する、というのは難しい • オンラインならばいけると思います 17

Thank you 18