--- title: これぞ現代のRPA?!ローカルLLMで動かすAIエージェント tags: author: [Koki Miura](https://www.docswell.com/user/k_miura_io) site: [Docswell](https://www.docswell.com/) thumbnail: https://bcdn.docswell.com/page/DEY42M26JM.jpg?width=480 description: 2026/3/28 「テックネタライトニングトーク大会｜路面電車からオンライン配信」 https://rpacommunity.connpass.com/event/387284/ published: March 28, 26 canonical: https://www.docswell.com/s/k_miura_io/KJWLDG-2026-03-28-185036 --- # Page. 1 ![Page Image](https://bcdn.docswell.com/page/DEY42M26JM.jpg) これぞ現代のRPA?! ローカルLLMで動かすAIエージェント Koki Miura(@k_miura_io) # Page. 2 ![Page Image](https://bcdn.docswell.com/page/VJNY8WW178.jpg) 自己紹介 • 三浦 耕生(こうき) • バックエンドエンジニア • JAWS UG名古屋＆神戸 運営 • 鯱.py 運営 • 俺の勉強会 運営 @k_miura_io koki.miura05 # Page. 3 ![Page Image](https://bcdn.docswell.com/page/YE9PKXXYJ3.jpg) # Page. 4 ![Page Image](https://bcdn.docswell.com/page/GE8DR22KED.jpg) ローカルLLMとは ●LLM（大規模言語モデル）を自分のPC上で動かす仕組み ●クラウド（ChatGPT等）と違い、データが外部に送信されない ●インターネット接続なしでも利用可能 ●プライバシー・セキュリティ面で安心 ●利用料金がかからない（電気代のみ） ●代表的なツール：Ollama、llama.cpp、LM Studio # Page. 5 ![Page Image](https://bcdn.docswell.com/page/LELMK22P7R.jpg) AI活用する際の懸念点 1 データセキュリティ 機密性の高い製造データや 知的財産の漏洩リスク 4 人材不足 AI人材の確保と 既存社員のスキル教育 2 品質・精度の問題 AIの誤判断による 不良品流出や製造ミス 5 既存システム連携 レガシーシステムとの 統合や互換性の課題 3 導入コスト 初期投資・インフラ整備・ 運用コストの負担 6 責任所在の不明確さ AIの判断ミスに対する 責任の帰属問題 # Page. 6 ![Page Image](https://bcdn.docswell.com/page/4JMY2882JW.jpg) AI活用する際の懸念点 1 データセキュリティ 機密性の高い製造データや 知的財産の漏洩リスク 4 人材不足 AI人材の確保と 既存社員のスキル教育 2 品質・精度の問題 AIの誤判断による 不良品流出や製造ミス 5 既存システム連携 レガシーシステムとの 統合や互換性の課題 3 導入コスト 初期投資・インフラ整備・ 運用コストの負担 6 責任所在の不明確さ AIの判断ミスに対する 責任の帰属問題 # Page. 7 ![Page Image](https://bcdn.docswell.com/page/PJR9M55579.jpg) PCスペックのインフレ • ローカルLLMを動かすのに高精度なGPUを買い求 める人がいるとか • Raspberry Piのスペックも上がってきていて、対応 したアクセラレーターボードも出ている # Page. 8 ![Page Image](https://bcdn.docswell.com/page/PEXQVKKXJX.jpg) モバイル向けLLMとは ● クラウドではなく、スマートフォンやタブレット上で直接推論を実行するLLM ● プライバシー保護：データが端末から外に出ない ● オフライン動作：ネットワーク不要でAIを利用可能 ● 低遅延：クラウド往復がないため応答が高速 ● 課題：メモリ制約（8-24GB RAM）、バッテリー消費、計算能力の限界 ● 量子化（4bit/8bit）やプルーニングで軽量化して対応 # Page. 9 ![Page Image](https://bcdn.docswell.com/page/3EK9Q559ED.jpg) 代表的なモデルと最適化技術 主要モデル（sub-10B） ▸Gemma 3n（Google） ─ モバイルアーキテクチャ専用設計 ▸Qwen3-8B / Qwen2.5-VL-7B（Alibaba） ─ 画像理解・推論の二刀流 ▸Llama 3.1/3.2（Meta） ─ 100+言語対応、オープンウェイト ▸MobileLLM / SmolLM3（Meta / HuggingFace） ─ sub-3Bの超軽量モデル 主要な最適化技術 ▸量子化：FP16→INT4でモデルサイズを1/4に圧縮 ▸MoE：トークンごとに一部のパラメータのみ活性化 ▸投機的デコーディング：小モデルで先読みし2-3x高速化 # Page. 10 ![Page Image](https://bcdn.docswell.com/page/L73WPKK975.jpg) 推論フレームワークとユースケース 主要フレームワーク ▸llama.cpp：C/C++で軽量推論、GGUFフォーマット対応 ▸ExecuTorch（Meta）：2025年にGA、モバイル・エッジ向け推論エンジン ▸MLC-LLM：TVMベースのコンパイラ、iOS/Android対応 ▸MediaPipe（Google）：Gemmaモデル対応、GPU/CPU推論 ユースケース ▸オフラインチャット・翻訳・文章校正 ▸端末上の画像認識・ドキュメント要約 ▸Apple Intelligence / Gemini Nano などOS統合型AI # Page. 11 ![Page Image](https://bcdn.docswell.com/page/87DKL338JG.jpg) 手元のPCでAIエージェント動かせるかも？ # Page. 12 ![Page Image](https://bcdn.docswell.com/page/VJPK244WE8.jpg) AIエージェントとは？ • プロンプト：エージェントのタスクを定義するプ ロンプト（システムプロンプト）を提供する • モデル：Amazon Bedrockだけではなく、 Anthropic APIやOllamaといったローカルの LLMまでサポートしている • ツール：Python関数でツールをつくったり、 MCPと連携できる他、拡張パッケージで構築 済みのツールを呼び出すこともできる https://aws.amazon.com/jp/blogs/news /introducing-strands-agents-an-opensource-ai-agents-sdk/ # Page. 13 ![Page Image](https://bcdn.docswell.com/page/2EVVDXX9EQ.jpg) 作ってみた • Web検索からレポートをまとめるAIエージェント • ワードが生成されるので、後から見直し、編集して 提出できる • 大学生の課題でやるようなレポートを手元のPCで 作成する • 大学生の強い味方(もちろん自己責任) # Page. 14 ![Page Image](https://bcdn.docswell.com/page/57GLYVV4EL.jpg) システム構成 # Page. 15 ![Page Image](https://bcdn.docswell.com/page/4EQYM66RJP.jpg) 使用するLLMの選定 • OllamaからLLMを取得する場合、 「Tools」のタグで絞り込む必要が ある • ツール呼び出しに対応してい るモデルから選ぶ • 先にモデルそのものを取得してモ デル単体で動かしたときのレスポ ンスの早さを確認するのがおす すめ • あとは精度とのバランスで見るの がおすすめ # Page. 16 ![Page Image](https://bcdn.docswell.com/page/KJ4WV44Q71.jpg) RPA文脈でやれそうなこと • 単純なデータ入力業務 • 見積もり書を読み込ませて帳簿に記載 • メールの自動振り分け • 問い合わせメールの内容分析→重要度のラベル付けしてチケット起票 • サイトを巡回 • スクレイピングのMCPと連携して結果をSlackで通知 # Page. 17 ![Page Image](https://bcdn.docswell.com/page/LE1Y344L7G.jpg) # Page. 18 ![Page Image](https://bcdn.docswell.com/page/GEWGPXXQJ2.jpg) AIエージェント入門 https://bit.ly/4bBL3PJ # Page. 19 ![Page Image](https://bcdn.docswell.com/page/47ZLK663J3.jpg) まとめ ● ローカルLLMでAI活用のハードルを下げられる ─ データ非送信でセキュリティ面も安心、オフライン・無料で利用可能 ● モバイル・エッジ向けLLMが急速に進化中 ─ 量子化・MoE等の最適化技術、Gemma 3n / Qwen3 / Llama 3.2等が充実 ● 手元のPCでAIエージェントが作れる時代に ─ Strands Agents × OllamaでWeb検索→レポート生成をローカル完結 ● LLM選定のポイント ─ Toolsタグ対応モデルを選び、速度と精度のバランスで判断 # Page. 20 ![Page Image](https://bcdn.docswell.com/page/YJ6WQ22ZJV.jpg) 宣伝 # Page. 21 ![Page Image](https://bcdn.docswell.com/page/GJ5MR229J4.jpg) 宣伝② https://bit.ly/3NJQvHa # Page. 22 ![Page Image](https://bcdn.docswell.com/page/9E29D4457R.jpg) END