AIエージェント時代の市民開発者が知っておきたいセキュリティとガバナンスの基本のキ

#UiPathFriends AIエージェント時代の市民開発者が知って おきたいセキュリティとガバナンスの基本のキ 眞鍋忠喜（Chuki） 1

Agenda #UiPathFriends 1. AIは本当に危険なのか？ 2. ガードレールだけでは守れない「ハーネス・エンジニアリング」 3. UiPath製品の強み 4. まとめ 発表および資料は、すべて個 人の意見です。 所属する企業・団体とは関係 ありません。 2

自己紹介 眞鍋忠喜（ちゅき） #UiPathFriends 勤務先 • コベルコシステム株式会社 - 株主：日本アイ・ビー・エム 株式会社 51% / 株式会社 神戸製鋼所 49% - UiPath 認定リセラー • 所属 - 1996年入社 - R&D部門 情報システム部門 システム開発部門 新規事業開発部門 R&D部門（現職） UiPathとのかかわり • • 2017年より新ビジネス担当としてRPAのビジネス化を担当した 関西を中心にコミュニティーに参加している 受賞など • • • UiPath Japan MVP 2019UiPath Community MVP 2025- 発表および資料は、すべて個 人の意見です。 所属する企業・団体とは関係 ありません。 Microsoft MVP 2012- ※MVP(Most Valuable Professional) 3

AIエージェントを賢くするMCP（前回の復習） AIと外部ツールやデータソースを接続するための標準化された仕組み ◼ #UiPathFriends MCPによりAIエージェントが外部システムやツールと連携しやすくなり可能性 が大きく広がった 図は https://learn.microsoft.com/ja-jp/dotnet/ai/get-started-mcp から引用 4

• https://learn.microsoft.com/ja-jp/dotnet/ai/get-started-mcp

AIは本当に危険なのか？ #UiPathFriends いつの時代も道具は使いよう。できることが増える＝危険なことが増える ◼ ◼ 従来の危険例 • 悪意のある指示が混入して動作が変わるプロンプトインジェクション • 利用する生成サービスによっては学習からの情報漏洩 - 利用するサービスの入力情報の取り扱いを十分確認する必要がある - 一般消費者向けサービスでは学習利用の可能性があるため利用規約の確 認が重要 エージェント時代の新しい脅威 • AIが推論して業務を実行することによる脅威 - 業務を実行するときに情報を渡す⇒情報漏洩の危機 - 自動で業務を実行⇒そもそも動かしてはいけない処理を実行する危険 5

ガードレールだけでは守れない 「ハーネス・エンジニアリング」 #UiPathFriends 「AIに何を言うか、AIが何を言うか」から「AIが何を実行するか」へ ◼ ガードレールとハーネス・エンジニアリングとガバナンス 目的 ガードレール （発言制御） 役割 AIへの入力チェックやAIの出力を制限して情報 有害コンテンツチェック、個人識別情報検知、 漏洩や誤情報、倫理リスクを防ぐ技術 不適切発言チェック、プロンプト制御 ハーネス・エンジニアリング 正しく、安全に、安定してタスクを実行できる 実行可能範囲制御、実行ログ、操作ログ、 ように環境・制約・ルールを設計する技術体系 MCP呼び出し履歴、Agent実行履歴 （行動制御） ガバナンス （責任と監査） AI利用を組織的に統制し説明責任・監査可能性 ポリシー管理、監査証跡、変更管理、職務分 掌、コンプライアンス、利用状況可視化 を担保する ⇒どれも必要！ ※ハーネス（harness） • • 名詞：馬具（もともとの由来）、安全ベルト 動詞：（資源・自然を）利用・活用する ※ハーネス・エンジニアリング：HashiCorp共同創業者 Mitchell Hashimoto 氏が提唱 6

UiPath製品の強み #UiPathFriends UiPathの製品群は、3つの観点を要件定義から開発・運用まで統合的に提供している。 UiPath社の製品対応例 ガードレール（発言制御） AI Trust Layer Automation Ops ハーネス（行動制御） Agents Maestro Integration Service Agent Builder ガバナンス（責任と監査） Orchestrator Automation Ops ※各製品を組合わせ こ これらを 活 てAI駆動で開発 ツ ル 「UiPath for Coding Agents」 よって実現 7

まとめ #UiPathFriends ◼ AI時代でできることが増えた分、考慮すべき危険性も増える ◼ 危険から守るために次の3つの観点が重要になる • ガードレール（AIの発言を守る） • ハーネス（AIの行動を守る） • ガバナンス（企業の責任を守る） ⇒これらを企業レベルで管理運用できることが企業で安心してAIを活用できるための条件 ◼ AIエージェント時代は「何を答えるか」だけでなく「何を実行するか」を管理する時代です。 UiPathはガードレール、ハーネス、ガバナンスを統合的に提供できることが大きな強みと感じ ています。 AIの判断力がより高度になってきており、「AIにどこまでの判断と権限を与えるか」 を考えなければならない時代です。 だからこそ、AI・人・ロボットが協調しながら安全に価値を生み出せる仕組みが重要 になります。 8

Thank you #UiPathFriends 9