---
title: 20251226_ローカルとクラウド LLM のセキュアなハイブリッド構成
tags:  #azure #ai  
author: [Hiroki Nomura](https://www.docswell.com/user/shirokuma)
site: [Docswell](https://www.docswell.com/)
thumbnail: https://bcdn.docswell.com/page/LE18GRYK7G.jpg?width=480
description: すきやねんAzure #33でのLT「ローカルとクラウド LLM のセキュアなハイブリッド構成」の資料です。
published: December 22, 25
canonical: https://www.docswell.com/s/shirokuma/K37X3V-hybrid-local-cloud-queue
---
# Page. 1

![Page Image](https://bcdn.docswell.com/page/LE18GRYK7G.jpg)

ローカルとクラウド LLM の
セキュアなハイブリッド構成
【続編】ローカルとクラウドLLMの
ハイブリッドAI ~Queue Polling~
2025/12/26 すきやねん Azure!! #33
しろくま
Hiroki, Nomura


# Page. 2

![Page Image](https://bcdn.docswell.com/page/GEWZK1GPE2.jpg)

プロフィール
しろくま
愛知県在住のエンジニアです。
技術関係のブログを書いたり、登壇したりしています。
所属：AzPoC部 #AzPoC
なごあず #75azu
GitHub
Copilot
Solution
Architect
AI
Engineer
Developer
Administrator
Network
Engineer


# Page. 3

![Page Image](https://bcdn.docswell.com/page/47Z1ZPL6J3.jpg)

モチベーション
クラウドのLLMだけでなく、ローカルマシンのLLM（SLM）を
どう活用できるのだろう？
推論をローカルにとどめたいシーン
•
•
•
•
プライバシー
ネットワーク通信環境が不安定
コスト最適化
ローカルマシンに対する動作


# Page. 4

![Page Image](https://bcdn.docswell.com/page/YJ6LZMWLEV.jpg)

モチベーション
クラウドのLLMだけでなく、ローカルマシンのLLM（SLM）を
どう活用できるのだろう？
推論をローカルにとどめたいシーン
•
•
•
•
プライバシー
ネットワーク通信環境が不安定
コスト最適化
ローカルマシンに対する動作


# Page. 5

![Page Image](https://bcdn.docswell.com/page/GJ51WZMM74.jpg)

特定業界では秘匿す
べき情報をクラウド
LLMに送信するのが
NGな場合がある
ポイント：機密データはローカルに留まり、
クラウドには匿名かされたデータのみが送信される


# Page. 6

![Page Image](https://bcdn.docswell.com/page/9E21QR9RJR.jpg)

違い
クラウドLLMだけを使う場合
ハイブリッドアプローチの場合
ローカルLLM
処理依頼Queue
クラウドには送信
したくない情報が
送信されてしまう
結果連携
Queue
オンプレ環境から
はアウトバウンド通信のみ
オンプレサーバ
Phi-4-mini


# Page. 7

![Page Image](https://bcdn.docswell.com/page/D7YZWD45JM.jpg)



# Page. 8

![Page Image](https://bcdn.docswell.com/page/VEN396Y4E8.jpg)

デモ


# Page. 9

![Page Image](https://bcdn.docswell.com/page/Y7992LP473.jpg)

Thank you !