AI時代を生き抜くセキュリティエンジニアの条件

AI時代を生き抜く セキュリティエンジニアの条件 学生のためのサイバーセキュリティカンファレンス P3NFEST 2026 Spring 株式会社トライコーダ 代表取締役 上野 宣

Profile: 上野 宣 (Sen UENO) 株式会社トライコーダ 代表取締役 奈良先端科学技術大学院大学で情報セキュリティを専攻、2006年に株式会社トライコーダを創業 ハッキング技術を駆使して企業などに侵入を行うペネトレーションテストや各種サイバーセキュリティ実践トレーニングなどを提供 ● OWASP Japan 代表 ● GMO Flatt Security株式会社 社外取締役 ● グローバルセキュリティエキスパート株式会社 社外取締役 ● 株式会社ブロードバンドセキュリティ 社外取締役 ● 株式会社TRUSTDOCK 社外監査役 ● ScanNetSecurity 編集長 ● 一般社団法人セキュリティ・キャンプ協議会 理事 ● 情報処理安全確保支援士 カリキュラム検討委員会／実践講習講師 ● JNSA ISOG-J WG1 サブリーダー ● Hardening Project 実行委員 ● SECCON 実行委員 ● 日本ハッカー協会 理事 ● 情報経営イノベーション専門職大学 客員教員 主な受賞歴 ● 第11回 ISC2 アジア・パシフィック 情報セキュリティ・リーダーシップ・アチーブメント（ISLA）受賞 ● 第16回 情報セキュリティ文化賞 受賞 ● 2025年 総務省 サイバーセキュリティに関する総務大臣奨励賞 受賞（Hardening Project） 主な著書 ●『セキュリティ1年生』 ●『セキュリティエンジニアの知識地図』 （監修・共著） ●『Webセキュリティ担当者のための脆弱性診断スタートガイド – 上野宣が教える情報漏えいを防ぐ技術』 ●『HTTPの教科書』 ● 他多数 © Tricorder Co. Ltd. 2

AI時代、 セキュリティエンジニアのキャリアはどう築くべきか • 大規模言語モデル（LLM）と自律型AIエージェントの技術の進展 はサイバーセキュリティの業界にも大きな影響を与えている – 攻撃者と防御者の双方にとって強力な武器となっている – AIが脆弱性を発見するだけでなく、修正パッチも書く – CTFにおいてもAIが民主化し、脆弱性発見→エクスプロイト作成→フラグ 投稿が効率化されている • AIがどれほど進化しても代替不可能な人間の専門性はあるのか？ – AIリテラシーが高い人間の価値が高まるのは間違いない © Tricorder Co. Ltd. 3

現在のLLMの特徴や制約から弱点を知る（1） 1. 学習データへの根本的依存 – LLMは過去のデータから統計的パターンを抽出する帰納的システム – ゼロデイは見つけたとしても、新しい概念を発明することは苦手 2. 記号接地（シンボルグラウンディング）の欠如 – LLMはテキスト（トークン列）の統計的関係を学習しているだけで、言葉が指し示す現 実世界の物理的な意味を理解していない – その操作をしたら現実世界で物理的に何が起きるかを導けない – フィードバックによる学習のコストも高い（物理世界のやり直しはコスト高） 3. コンテキストウィンドウの制約 – LLMは原則としてステートレス、推論はコンテキストウィンドウ内の情報のみに基づく – 交渉などで構築した信頼関係、感情の蓄積、関係性の変化などの状況は読めない © Tricorder Co. Ltd. 4

現在のLLMの特徴や制約から弱点を知る（2） 4. 目的関数の単一性 – モデルは定義された損失関数を最小化する方向に最適化される（物差しが1つ） – ランサムウェア交渉の是非のような問題は正解ラベルが存在しない（法務、事業継続、 社会的責任、顧客保護など複数の物差しが必要） 5. 暗黙知の形式化が不可能 – Transformer の注意機構（Attention）は明示的な特徴間の関係を捉えるが、言語化さ れていない特徴そのものを発見する機構ではない – ベテランの勘は長年の経験から形成された身体化された知識（言語化されないものは学 習データになり得ない） 6. 因果関係の理解が限定的 – DNN（Deep Neural Network）は本質的に相関関係を学習しており、因果関係の理解 は限定的 – 業務の文脈依存判断は「AだからB」ではなく「もしAでなかったら、Bはどうなってい たか」を考える必要がある © Tricorder Co. Ltd. 5

第1の条件 人間ならではの直感と攻撃者の意図の洞察 • 特定の攻撃がなぜ行われているのか、その背後にある戦略的な意 図を理解することが出来ない – 大量のデータから相関関係を見つけ出すことには長けている – AIは本質的に文脈を理解せず、悪意を読み取らない – セキュリティの現場で求められる直感は超能力ではなく、経験に基づい た文脈の把握と、スキーマ（知識や情報の体系）の適用の結果 • AI時代を生き抜くエンジニアには「攻撃者が何を考えているの か」という視点がこれまで以上に求められる – エンジニアは技術的な防御策を構築するだけでなく、人間の心理的な脆 弱性や、組織の物理的な制約を総合的に判断してリスクを評価する必要 がある © Tricorder Co. Ltd. 6

セキュリティ業務における人間の強みとAIの弱点 業務 人間の強み AIの弱点 ログ分析 組織の歴史や文脈に基づ いた異常の特定 微妙な非パターン的異常の 看過 インシデント調査 攻撃者の意図とビジネス リスクの判定 未知のTTP（戦術・技術・手 順）への適応困難 脅威ハンティング 創造的な仮説構築に基づ く探索 既存データに基づく確率的 推論のみ 意思決定 曖昧な状況下での決断と 責任の所在 判断根拠の説明不足（ブ ラックボックス化） © Tricorder Co. Ltd. 7

第2の条件 ビジネスの理解と設計を見る眼 • アプリケーションの仕様そのものに潜む欠陥（ビジネスロジック 脆弱性）に対してはAIは無力に近い – AIは既知のパターンに基づく脆弱性の発見には極めて効果的 – そのアプリケーションがどのようなビジネス目的で作られ、どのような 権限構造を持つべきかという設計意図を理解しなければならない • AI時代を生き抜くエンジニアには、コードを書く職人である以上 に、システム全体の整合性を確認する監査役としての能力が問わ れる – 一見正常に動作するが、特定の条件下で問題を引き起こす設計上のリス クを見つける必要がある © Tricorder Co. Ltd. 8

意味的な理解が求められる脆弱性 脆弱性タイプ 技術的脆弱性（CVE） 特徴 コードの不備（バッ ファオーバーフロー、 SQLiなど） IDOR （Insecure Direct Object Reference：安全でな 認可チェックの欠如 い直接オブジェクト参照） 正常な機能の悪意ある ビジネスロジック脆弱性 組み合わせ © Tricorder Co. Ltd. 自動検知の難易度 低（パターンマッチング で可能） 高（セマンティックな理 解が必要） 極めて高（業務要件の理 解が必要） 9

第3の条件 信頼を築く対話力 • セキュリティは技術的な問題であると同時に、人間関係の問題で もある – 高度な防御システムを構築しても、利用者のリテラシーの低さや組織内 のコミュニケーションが停滞していれば瓦解する – インシデント発生時には、不安を感じている相手に対して寄り添うなど の信頼関係も必要 • 組織文化としてのセキュリティ – セキュリティは不便を強いる追加機能ではなく、ビジネスの継続性を支 えるインフラとして組織に定着させることも、エンジニアの大切な使命 – 人間工学的な視点から、人はなぜミスを犯すのかを理解することも重要 © Tricorder Co. Ltd. 10

認知能力から非認知能力へ • 日本のIT市場においてセキュリティエンジニアの価値は高まっている が、AIの普及に伴い、市場が求めるエンジニア像は変化している – 従来の日本の教育や試験では、測定可能な認知能力（知識や計算力）が重視さ れてきたが、これらのスキルはAIが最も得意とする領域 • 今後は代替困難な非認知能力（ヒューマンパワー）がキャリアの差別 化要因となる – 知的好奇心と共感：常に新しい脅威にアンテナを張り、もっと便利で安全な方 法があるはずだと問い続ける力 – やり抜く力：複雑なインシデントの調査や、粘り強いトラブルシューティング を遂行する執念 – 自立的な成長意欲：変化の激しい分野において、自ら課題を発見し、AIをツー ルとして使いこなしながら学習し続ける姿勢 © Tricorder Co. Ltd. 11

職種別 AI時代を生き残る戦略 1. 脆弱性診断士／ペネトレーションテスター 2. セキュリティ監視／運用エンジニア 3. マルウェアアナリスト 4. フォレンジックエンジニア 5. インシデントレスポンダー／ハンドラー 6. 脆弱性研究者／エクスプロイト開発者 7. セキュリティ製品・サービス開発者 8. セキュリティシステムエンジニア／アーキテクト 9. スレットハンター © Tricorder Co. Ltd. 12

1. 脆弱性診断士／ペネトレーションテスター • システムやアプリケーションに潜むセキュリティ上の欠陥を特定し、 疑似攻撃を通じて防御力を評価する • AIには代替できない能力・業務 – プログラムの仕様そのものに潜むビジネスロジック脆弱性の発見 – 誰がどのデータにアクセスすべきかという、ビジネス上の認可フローの意味的 な理解 • この職業に就くために今学ぶべきこと – 業務要件や設計意図を深く読み解く力 – AIスキャナーが苦手とする文脈に依存した複雑な悪用シナリオを構築する想像 力の強化 © Tricorder Co. Ltd. 13

2. セキュリティ監視／運用エンジニア (SOC) • ネットワークやシステムのログ、アラートを24時間体制で監視し、異 常を検知・分析する • AIには代替できない能力・業務 – 膨大なアラートの中から、組織の歴史や文脈に基づいた真の脅威を特定する力 – 不確実性が高い初期段階での、高度なトリアージ（優先順位付け）判断 • この職業に就くために今学ぶべきこと – AI（AIOps）を活用してノイズを削減し、真に重要な事象に集中するための ツール運用技術 – AIの判断を鵜呑みにせず、その根拠を検証する批判的思考 © Tricorder Co. Ltd. 14

3. マルウェアアナリスト • 悪意のあるソフトウェアを解析し、その機能、目的、感染経路、およ び背後の攻撃者を特定する • AIには代替できない能力・業務 – 既知のパターンにない新種のコードに込められた攻撃者の意図の読み取り – AIが生成した解析結果に含まれる論理的な飛躍（ロジックギャップ）の修正 • この職業に就くために今学ぶべきこと – 低レイヤの深い知識に基づいた原理原則の理解 – AIを助手として使い、大量の解析を高速化しながら、自らは核心部分の検証に 専念するスキル © Tricorder Co. Ltd. 15

4. フォレンジックエンジニア • 証拠保全・解析を行い、不正アクセスの経路や被害状況、犯行の事実 関係をデジタルデータから究明する • AIには代替できない能力・業務 – 調査結果の再現性を担保し、法廷で証拠として説明・防衛する責任 – AIというブラックボックスが出した結論を、人間が理解できる言葉で再構築す る能力 • この職業に就くために今学ぶべきこと – 法的な証拠採用基準（アドミッシビリティ）の理解 – AIツールの判断プロセスを文書化し、第三者が検証可能な形で裏付けるための 厳格な調査手法 © Tricorder Co. Ltd. 16

5. インシデントレスポンダー／ハンドラー • 事故発生時の司令塔として、封じ込め、復旧、関係各所への報告、調 整を統括する • AIには代替できない能力・業務 – パニック状態にあるステークホルダーとの信頼構築と、共感に基づいたコミュ ニケーション – 倫理観や社会情勢を総合的に考慮した、責任ある最終意思決定 • この職業に就くために今学ぶべきこと – 交渉力や対話力といった非認知能力 – 混乱の中で優先順位を決定し、チームを動かすリーダーシップと危機管理スキ ル © Tricorder Co. Ltd. 17

6. 脆弱性研究者／エクスプロイト開発者 • ソフトウェアの根本的な脆弱性を研究し、攻撃の成立を証明するエク スプロイトコードを作成する • AIには代替できない能力・業務 – 既存の攻撃手法にとらわれない、創造的なスキマの発見 – AIが自動生成した修正パッチが、別の脆弱性を生まないか検証する高度な品質 査読 • この職業に就くために今学ぶべきこと – メモリ安全性やセキュアプログラミングの深い理解 – AIを大規模コードベースの脆弱な箇所の予測に利用し、自らはその検証に注力 するハイブリッドな研究手法 © Tricorder Co. Ltd. 18

7. セキュリティ製品・サービス開発者 • 防御のためのソフトウェアや、企業の安全を守るためのセキュリ ティサービスを設計・開発する • AIには代替できない能力・業務 – 「誰のどのような課題を解決すべきか」という、本質的な問いを立てる 力（課題設定力） – ユーザーの利便性と安全性を高い次元で融合させるデザイン思考 • この職業に就くために今学ぶべきこと – 顧客の不安や期待に寄り添う共感力 – AIを自社製品に安全に組み込むためのアーキテクチャ設計能力 © Tricorder Co. Ltd. 19

8. セキュリティシステムエンジニア／アーキテクト • 組織のIT基盤全体において、多層防御の観点から安全なシステム構成 を設計し、導入・運用を支える • AIには代替できない能力・業務 – 組織のビジネス戦略に合致したセキュリティポリシーの策定（翻訳家としての 役割） – 個別の対策を繋ぎ合わせ、システム全体のレジリエンス（回復力）を設計する 大局的な視点 • この職業に就くために今学ぶべきこと – リスク管理フレームワークやガバナンスの知識 – AIそのものを攻撃から守り、信頼性を管理するための AI Trust の枠組み © Tricorder Co. Ltd. 20

9. スレットハンター • 自動化されたツールをすり抜けて潜伏する脅威を、特定の仮説を 立てて能動的に探し出す • AIには代替できない能力・業務 – 過去のデータに基づかない創造的な仮説の構築 – 断片的な手がかりを繋ぎ、攻撃者の意図をプロファイリングする洞察力 • この職業に就くために今学ぶべきこと – 攻撃者のマインドセットを深く理解するためのトレーニング – AIをデータの集約や異常な相関の発見に使い倒し、自らはなぜそれが脅 威なのかという意味付けに特化するスキル © Tricorder Co. Ltd. 21

さいごに • 技術がどれほど高度化しても、セキュリティの根幹にあるのは 人間が、人 間を、人間の悪意から守る という極めてアナログな営み – サイバーセキュリティの歴史は常に矛と盾の進化の歴史で、AIはこの競争をかつてない スピードで加速させている • AI時代を生き抜くセキュリティエンジニアとは、テクノロジーの限界を知り、 人間の脆弱性を理解し、組織の信頼を紡ぐ守護者 – 単にコードや技術に詳しい技術者ではない – AIは計算は行うが、決断を下すのは人間 – AIはデータを処理するが、意味を見出すのは人間 • 世界をより安全な場所に変えていく、その中心にいるのは君たちエンジニア – AIを使いこなし、自分自身の目と言葉を磨き続けることで、AI時代を楽しみながら生き 抜いてほしい © Tricorder Co. Ltd. 22