新たな AI 駆動開発の潮流(SWE Agent, AutoDev,Devin, GitHub Copilot Workspace等)
11.7K Views
May 29, 24
スライド概要
新たなAI駆動開発の潮流 〜SWE Agent, GitHub Copilot Workspace等の登場と将来の開発スタイル 〜
https://aid.connpass.com/event/317096/
ヴイエムウェア株式会社 ソリューションアーキテクト本部 プリンシパルエンタープライズアーキテクト。 Microsoft で13年間、テクニカルエバンジェリストとして .NET、Visual Studio、Windows、iOS、Android、Microsoft Azure 等の開発者向け最新技術啓発活動を実施。その後、Dell、Accenture、Elastic で開発者向け技術啓発活動等を経て現職。 モダンアプリケーション開発、マルチクラウド対応、アーキテクチャ策定等を中心に、技術者向けに最新技術の啓発活動を実施中。 2019年4月〜2021年8月迄、内閣官房 IT 総合戦略室 政府 CIO 補佐官を兼務、2021年9月〜2024年3月迄、デジタル庁 PjM ユニット ソリューションアーキテクトを兼務。
関連スライド
各ページのテキスト
新たな AI 駆動開発の潮流 ~ SWE Agent、 AutoDev、Devin、GitHub Copilot Workspace 等の登場と将来の開発スタイル ~ 鈴⽊ 章太郎 プリンシパルエンタープライズアーキテクト ソリューションアーキテクト本部 ヴイエムウェア株式会社 2024/05/29 All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries.
鈴⽊ 章太郎 X (Twitter) : @shosuz ヴイエムウェア株式会社 プリンシパルエンタープライズアーキテクト Microsoft で13年間、テクニカルエバンジェリストとして .NET、Visual Studio、Windows、iOS、Android、 Microsoft Azure 等の開発者向け技術啓発活動を実施。 その後、Dell、Accenture、Elastic での開発者向け技術 啓発活動等を経て現職。 モダンアプリケーション開発、マルチクラウド対応、アーキテクチャ 策定等を中⼼に、開発者向け最新技術啓発活動中。 2019年4⽉〜2021年8⽉、内閣官房 IT 総合戦略室 政 府 CIO 補佐官、2021年9⽉〜2024年3⽉、 デジタル庁 プロジェクトマネージャーユニット ソリューションアーキテクトを 兼務。 https://www.docswell.com/user/shosuz ↑ 昨年から今年にかけての GitHub Copilot/Chat などを使ったバックエンド・フロントエンド 開発のセッション資料などありますので、ご興味あればぜひ覗いてください︕ All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries.
プラットフォームの認知度を⾼め、開発者の準備態勢を整える さまざまな接点とそれらを増やす機会を探りつなげていく マルチクラウド対応の 訴求 AI プラットフォームとしての 認知向上 Spring の 最新技術啓発 デベロッパーアドボカシー All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 3
Agenda l 最新 AI 駆動開発ツールのご紹介 l SWE Agent l AutoDev l Devin/OpenDevin l GitHub Copilot Workspace l 最新 AI 駆動開発ツールの潮流 All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 4
最新 AI 駆動開発ツールのご紹介 All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 5
最新 AI 駆動開発ツールのご紹介 ほぼエージェント協働型の開発ツールといえるもののそれぞれに特⻑あり • • • • SWE Agent AutoDev Devin/OpenDevin GitHub Copilot Workspace 本資料は、公式の論⽂や、GitHub リポジトリ等に加え、他のインターネット上の記事等も加味した個⼈的 な意⾒を含む内容であることにご注意ください。 All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 6
SWE Agent All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 7
SWE Agent とは GPT-4 などの⼤規模なモデルをソフトウェアエンジニアリングエージェントに変換することによって動作 https://swe-agent.com/ https://anakin.ai/ja-jp/blog/swe-agent/ • オープンソースの AI プログラマーであり、GitHub の問題解決の ⾃動化において重要な進歩を表している • プリンストン⼤学の NLP グループによって開発された • SWE Agent はわずか24時間以内に獲得した 1,000以上の GitHubのスターで急速に⼈気を集めた • GPT-4 のような⼤規模なモデルを活⽤するため、GitHub の リポジトリでエラーや問題を⾃動的に修正する機能により、 SWE Agent は世界中の開発者の注⽬を集める • AI プログラミングの領域で重要な進展である AgentComputer Interface（ACI）の導⼊も、SWE Agent の 印象的な機能を向上させるために重要な役割を果たしている All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 8
開発ツールとして SWE Agent を使⽤するイメージ https://github.com/princeton-nlp/SWE-agent?tab=readme-ov-file#-use-swe-agent-as-a-dev-tool コマンドラインツールとグラフィカルなウェブインターフェースを提供 All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 9
SWE Agent の開発環境を迅速にセットアップする⽅法 https://medium.com/@_init_/how-to-set-up-your-local-swe-agent-dev-environment-in-5-minutes-or-less-278072100e62 https://princeton-nlp.github.io/SWE-agent/installation/docker/ 依存関係のインストール︓ make setup コマンド ※ を使⽤して依存関係をインストール ※ SWE エージェントのパッケージを編集可能モードでインストールし、必要な Docker イメージ を構築 キー設定ファイルの作成︓ keys.cfg ファイル ※ 2を作成し、GitHub トークンや OpenAI API キーなどの API キーを設定 （ ※2は SWE エージェントが外部サービスと連携するために必要） 開発コンテナの設定︓ .devcontainer フォルダーをプロジェクトのルートに作成し、devcontainer.json ファイル※ 3 を 配置 ※ 3 Python 環境や VS Code 拡張機能の設定が含まれ、それにより開発コンテナを構築 postCreateCommand フィールドを使⽤し、コンテナ作成後に⾃動的に make setup コマンド を実⾏、環境をセットアップ デバッグ設定の作成︓ .vscode フォルダーに launch.json ファイルを作成しデバッグ構成を設定（VS Code で run.py スクリプトのデバッグが可能に） 開発コンテナの起動︓ VS Code のコマンドパレットで Dev Containers: Rebuild and Reopen in Container を選択、開発コンテナを再構築して再オープン All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. https://princeton-nlp.github.io/SWE-agent/installation/ 10
SWE Agent の開発環境を GitHub Codespace で構築・実⾏ https://princeton-nlp.github.io/SWE-agent/installation/codespaces/ 1. をクリックして、そのまま 2. API キーを keys.cfg (左側のサイドバーでファイルを⾒つけてテンプレートに記⼊) に追加（キーの詳細はこちら） 3. コメントアウト (#) を外してキーをペーストして保存 4. 下部のターミナル・ウィンドウの postCreateCommand が終了するまで待つ 5. SWE Agent コマンドを⼊⼒ 6. Web インターフェイスを使⽤するか、コマンド ラインを使⽤ All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 11
SWE Agent の開発環境を GitHub Codespace で構築・実⾏ – Web UI https://princeton-nlp.github.io/SWE-agent/installation/codespaces/ 1. ターミナルで ./start_web_ui.sh 2. しばらくすると、Port 3000に転送するポップアップが表⽰ されるので、[ブラウザで開く]をクリック 3. もし Port 8000 を転送するというオファーしか表⽰され ない場合はクリックしない（これはバックエンドが使⽤する ポート） 4. 代わりに Port タブをクリックし Port 3000の隣にある 地球儀をクリック All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 12
SWE Agent の開発環境を GitHub Codespace で構築するデモ https://princeton-nlp.github.io/SWE-agent/installation/codespaces/ All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 13
AutoDev All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 14
AutoDev とは ⾃律型 AI エージェントを活⽤した完全に⾃動化された開発フレームワーク https://arxiv.org/html/2403.08299v1za https://medium.com/@keshavpeswani/microsofts-autodev-automated-revolutionary-ai-driven-development-framework-c063588296c7 • AI を活⽤して、複雑な コーディングタスクを⾃律的に 実⾏することで、ソフトウェア 開発に⾰命を起こすことを ⽬指す • AI 駆動型ソフトウェア開発 における⼤きな進歩であり、 IDE 内での⾃律的なタスク 実⾏に⽐類のない機能を 提供 • 安全でユーザーフレンドリな 設計により、AutoDev は 開発ワークフローを合理化 して、ソフトウェア業界の イノベーションを加速する All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 15
AutoDev の主な機能 https://arxiv.org/html/2403.08299v1za https://medium.com/@keshavpeswani/microsofts-autodev-automated-revolutionary-ai-driven-development-framework-c063588296c7 安全な評価環境: 安全な環境内でコードを実⾏し、 テストを実⾏して、ユーザーの プライバシーとデータのセキュリティ を確保 カスタマイズされた ツールライブラリ: 様々なコーディングおよび ソフトウェアエンジニアリング の⽬的を達成するために カスタマイズされたツール ライブラリ提供 All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 会話管理: ユーザーと AI エージェント 間の会話を追跡および 管理し、シームレスな コミュニケーションとタスクの 実⾏を保証 エージェントのコラボレーション: エージェントスケジューラを使⽤して、 複数の AI エージェントが共通の⽬標に 向けてコラボレーションし、効率と効果を ⾼める 16
AutoDev ワークフロー https://arxiv.org/html/2403.08299v1za https://medium.com/@keshavpeswani/microsofts-autodev-automated-revolutionary-ai-driven-development-framework-c063588296c7 ⽬標の定義: ユーザーは AutoDev 内で コーディングタスクまたは⽬標 を定義 AI エージェントの実⾏: AI エージェントは、定義された⽬的を 達成するため、ファイルの編集、テスト の実⾏、コードリポジトリ内でのコマンド の実⾏等のアクションを⾃律的に実⾏ All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. フィードバック ループ: 評価環境は、AI エージェントの アクションの結果に関するフィード バックを提供し、継続的な改善と 反復を促進 • AutoDev は、リポジトリ内でいくつかのアクションを実⾏することで AI エージェントが特定の⽬的を達成できるようにする • 評価環境は提案された操作を実⾏し、その結果を AI エージェントに 提供する • 会話では、紫⾊のメッセージは AI エージェントからのもので、⻘⾊の メッセージは評価環境からの応答 17
AutoDev アーキテクチャ: https://arxiv.org/html/2403.08299v1za https://medium.com/@keshavpeswani/microsofts-autodev-automated-revolutionary-ai-driven-development-framework-c063588296c7 • • • • • ルールとアクションの構成: ユーザーは .yaml ファイルを通じてルールとアクションを構成し、AI エージェントが使⽤できるコマンド を定義 会話マネージャー: ユーザーと AI エージェント間の会話を監視し、中断を管理して スムーズなコミュニケーションを確保 エージェント スケジューラ: さまざまなコラボレーション アルゴリズムを使⽤して、AI エージェントを調整し、⽬標を達成するためにコラボレーション ツール ライブラリ: ファイルの編集、取得、テスト、Git 操作など、コードベースで AI エージェントが操作を実⾏するためのさまざまなコマンドを提供 評価環境: 安全な Docker コンテナ内で実⾏され、低レベルの複雑さを抽象化しながらコマンドを実⾏できる IDE 内で直接包括的なタスク実⾏を可能にし、開発者による⼿動の検証と実⾏の必要性を排除することで、従来の AI コーディングアシスタントを凌駕 All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 18
AutoDev の GitHub Repository (for IntelliJ, for VS Code) で環境構築 https://github.com/unit-mesh/auto-dev-vscode https://github.com/unit-mesh/auto-dev • ⾃律型 AI エージェントを 活⽤した完全に⾃動化 された開発フレームワーク • ネット上では AutoDev または Microsoft AutoDev 等と呼ばれる • ツールやソリューションで なく フレームワークと呼称 • 当該フレームワークを実現 する 具体的なプロダクト を既に開発している All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 19
AutoDev アーキテクチャ – GitHub Repository https://github.com/unit-mesh/auto-dev?tab=readme-ov-file#autodev-architecture All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 20
AutoDev 機能の概要 – GitHub Repository (IntelliJ) の例 https://github.com/unit-mesh/auto-dev?tab=readme-ov-file#autodev-feature-overview 特徴︓ •⾔語サポート: Java、Kotlin、JavaScript/TypeScript、Rust、Python、Golang、C/C++/OC、 その他... •⾃動開発モード • AutoCRUD (Springフレームワーク） DevTiプロトコル（などdevti://story/github/1102）を 使⽤すると、モデル-コントローラー-サービス-リポジトリコードが⾃動⽣成される • AutoSQL (必須のデータベース プラグイン) コンテキスト認識型の SQL ⽣成 • AutoPage (React) コンテキスト認識型 Web ページ⽣成 • AutoArkUI (HarmonyOS) HarmonyOS ArkUI コードを⾃動⽣成 • ⾃動テスト ユニット テストの意図を作成し、ユニット テストを⾃動実⾏して、テスト修正を試みる • AutoDocument ドキュメントを⾃動⽣成 •Copilot モード • AutoDev は、バグの発⾒、コードの説明、例外のトレース、コミットの⽣成などに役⽴つ • パターン固有。(Controller、Service) などのコード コンテキストに基づいてimport、AutoDev は 最適なコードを提案 • 関連コード。最近のファイルの変更に基づいて、AutoDev は類似チャンクを計算して最適なコード を⽣成 •AI とチャット 選択コードとコンテキスト認識コードでチャット All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. •カスタマイズ • プロンプトのカスタム指定 例︓コントローラー、サービス、リポジトリ、モデルなど Custom Intention Action 独⾃の意図を持つアクションを追加できる • Custom LLM Server LLMサーバーをカスタマイズするには、次の⼿順に従う • - Settings -> Tools -> AutoDev Custom Living documentation 注釈などの独⾃のリビングドキュメントを ・ カスタマイズ • チーム AI コードベースでチーム プロンプトをカスタマイズし、チームに配布 • プロンプトのオーバーライド コードベースで AutoDev のプロンプトをオーバーライド 可能 •開発期間 VCS コミット メッセージ、リリース ノートなどを⽣成/改善 • • コードレビュー コードレビュー コンテンツを⽣成 • スマートリファクタリング AI ベースの名前変更、コード臭を考慮したリファクタリング、 リファクタリングの提案など Dockerfile プロジェクトに基づいて、Dockerfile を⽣成 • CI/CD 構成 ビルド ツールに基づいて、次のような CI/CD 構成ファイルを⽣成 • 例︓.github/workflows/build.yml • ターミナル ターミナルツールウィンドウでは、カスタム⼊⼒を使⽤してシェル/コマンドを ⽣成できる •カスタム AI エージェント • 実⾏可能な AI エージェント⾔語: DevIns。 • カスタム AI エージェント。独⾃の AI エージェントを AutoDev に統合できる •モデル • 組み込み LLM 微調整 • UnitEvalは LLM の結果を評価する • UnitGen は code-llm の微調整データを⽣成 AutoDev の微調整モデル: HuggingFaceからダウンロード 21
AutoDev for IntelliJ の実⾏デモ https://youtu.be/gVBTBdFV5hA All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 22
Devin/OpenDevin All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 23
Devin ⾃律的にシステム開発を実現する能⼒を持つ AI によるソフトウェアエンジニア https://anakin.ai/ja-jp/blog/devin-ai-programmer/ • ⼈間が課題を与えるとそれ を基に開発計画を⽴てる • GitHub リポジトリにある Readme などの情報を参 照して得られた情報を基に ⾃動的に環境を構築し、 ドキュメントから API 仕様 を参照し、それを基にして コーディングを⾏う • デバッグでは必要に応じて print ⽂などでエラー箇所 を特定しつつ問題を解決 • 動作したらデプロイを⾏う All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 24
OpenDevin: Code Less, Make More https://github.com/OpenDevin/OpenDevin All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 25
OpenDevin の紹介︓AI を活⽤した意欲的なソフトウェア開発プラットフォーム- 1 https://ai.gopubby.com/introduction-to-opendevin-the-aspiring-ai-powered-software-development-platform-11ffc69e60cc AI を活⽤したオープンソースのソフトウェア開発プラットフォーム § ⽬的は複雑なエンジニアリングタスクを⾃律的に処理し、⼈間のユーザーと積極的に協⼒すること 主要な特徴 ⾃然⾔語理解︓ • ⾃然⾔語での指⽰を理解し、それを効率的なコードに変換できる • これにより、複雑な構⽂や専⾨知識が不要になり、開発プロセスがよりユーザーフレンドリーに 包括的な開発ツール︓ • チャットインターフェース︓リアルタイムで AI とコミュニケーションし、問題を解決したり、ガイダンスを貰える • コマンドターミナル︓AI 環境内でコマンドを実⾏し、効率的にタスクを管理できる • ワークフロープランナー ︓プロジェクトを整理し、マイルストーンを設定して開発プロセスを最適化する • コードエディタ︓直感的なインターフェースを使⽤して、コードを記述、改良、デバッグする • 統合ブラウザ︓オンラインリソース、ドキュメント、ライブラリにアクセスし、シームレスな開発体験を提供する 積極的なコード貢献︓ • サポートに留まらず、機能的な Python スクリプトなどを⽣成し、プロジェクトに積極的に貢献 • 時間と労⼒を節約し、⾼品質なコード出⼒が保証される All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 26
OpenDevin の紹介︓AI を活⽤した意欲的なソフトウェア開発プラットフォーム- 2 https://ai.gopubby.com/introduction-to-opendevin-the-aspiring-ai-powered-software-development-platform-11ffc69e60cc アーキテクチャ︓ • OpenDevin のシステムアーキテクチャは、フロントエンドとバックエンドの2つの主要なコンポーネントで構成 – フロントエンド︓開発者がタスクを⼊⼒し、コード提案を表⽰し、プロジェクト設定を管理するユーザーインターフェース。 – バックエンド︓ LLM とのインタラクション、エージェントの実⾏、ワークスペース管理などのコア機能を処理 使⽤例︓ • OpenDevin の多様な機能により、以下のようなソフトウェア開発シナリオでの利⽤が可能 – 複雑なタスクの簡略化︓ユーザーの仕様やフィードバックに基づいてコードプロトタイプを迅速に⽣成し、反復する – ⾃動コード⽣成︓ボイラープレートコードや標準アルゴリズムの実装など、反復的なコーディングタスクを⾃動化する – バグ検出と修正︓既存のコードにおけるバグをAIで検出し、修正提案を⾏う – コードリファクタリング: 既存のコードを⾃動的にリファクタリングし、品質と保守性を向上させる – 学習と教育: 新しいプログラミング⾔語やコンセプトの学習を⽀援し、インタラクティブな説明とコード例を提供する)。 All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 27
OpenDevin のインストール⽅法と使い⽅のデモ https://www.youtube.com/watch?v=dKD4a_sv69o All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 28
OpenDevin のインストール⽅法と使い⽅ https://www.youtube.com/watch?v=dKD4a_sv69o 1. バックエンドの構成 • VS Code で適当なフォルダ (ex; /username/opendevin) 上で Git Clone cd opendevin → Open Folder → OpenDevin conda create –n od python=3.10 → yes (Proceed) conda activate od • docs.docker.com/engine/install → install Docker Engine (macOS) docker psdocker pull ghcr.io/opendevin/sandbox:v0.1 • OpenAI → API Key → ex, Name : od_yt export OPENAI_API_KEY=skxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx export WORKSPACE_DIR="~/username/opendevin" 3. フロントエンドの構成 pwd /sshotar/opendevin → cd frondend brew install npm npm install npm run start -- -- port 3001 http://localhost:3001/ にアクセス • OpenDevin が起動、モデルを確認する → • GPT4 を選択 (GPT4o でもいい） • 例︓Hello World と⾔う簡単な Web サイトを作ってみる 2. Python等のインストール python –m pip install –r requirements.txt which python • /usr/local/anaconda3/envs/od/bin/python (例) /usr/local/anaconda3/envs/od/bin/python –m pip install –r requirements.txt • このプロジェクトでは（特に依存関係の JSON では) Rust が必要 • ⼊ってないと orjson でエラー curl --proto ’=https’ –tlsv1.2 -sSf https://sh.rustup.rs | sh • Terminal 再起動 pip uninstall orjson pip install --nocache-dir –only-binary :all: orjson uvicorn opendevin.server.listen:app –port 3000 • フリーズしたら ctrl + Z で再実⾏、ダメな場合はターミナルの再起動 • うまくいけば port 3000 でリッスンするプロジェクトが起動 • • Planner、Browser、Code それぞれのタブが機能しているか確認 Terminal に切り替え Port 8000 でリンクをクリックして起動（バグがある可能性⾼い） • モデルの切り替えは Readme.md にある通り export するだけ All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 29
［速報］マイクロソフト、⾃律型 AI ソフトウェアエンジニア 「Devin」の Cognition AI と提携を発表。Azure 上で Devin を提供へ https://www.publickey1.jp/blog/24/aidevincognition_aiazuredevin.html • Microsoft Build 2024 で、⾃律型 AI ソフトウェアエンジニア Devin を提供する Cognition AI と提携を発表 • 両社が共同で Devin を顧客に提供し、コード移⾏やモダナイ ゼーションなどの複雑な作業を⽀援する⾒通し • 提供される Devin は Microsoft Azure 上で実⾏される All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 30
GitHub Copilot Workspace All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 31
GitHub Copilot / Copilot Chat 2023年5⽉27時点での最新版 • • • • Visual Studio Code 1.89.1 GitHub Copilot v1.194.0 GitHub Copilot Chat v0.15.2 Billing 有効、GPT-4 有効 All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 32
GitHub、「Copilot Workspace」 テクニカルプレビューを開始 ほとんど全ての開発⼯程を AI で⾃動化 https://www.publickey1.jp/blog/24/githubcopilot_workspaceai.html All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 33
GitHub Issue から Copilot Workspace を起動しコード修正のデモ https://youtu.be/L5Xny6yehUg All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 34
Join the Copilot Workspace Waitlist https://github.com/github-copilot/workspace_waitlist_signup All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 35
最新 AI 駆動開発ツールの潮流 All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 36
最新 AI 駆動開発ツールの潮流 特⻑と注意点 • • 殆どのツールが似たようなコンセプトで同じことができる • エージェント同⼠が⾃律して協調動作して開発プロセス全体を推進 • 構築難易度は様々であるものの、Docker / Python の仮想環境 で構築可能なもの、GitHub Codespace で展開できるもの、ツール に拡張機能として追加されるもの、等々 • ローカルの場合、Python の仮想環境の構築が肝（Open Interpreter 等から同じ状況） VS Code を Llama3 と組み合わせてローカルな CoPilot を構築した例 最近の注⽬トピックとしては︓ • 企業として、社内の開発コードのリソースを、使⽤している外部のクラ ウド上の LLM が学習してしまわないかどうか、という懸念を聞く • この懸念を解消するためには、LLM をローカルで動かす必要があって、 それができるのかどうか、できるとすればどういうコンポーネントを組み合 わせるべきかを提案すべき • ⾦融等、官公庁、製造業等の中で特に⾼いインテリジェンスレベルが 要求される組織には特に重要 • 例えば Llama3 のようなローカルに実装できるオープンソース LLM を 使うことにより、企業の開発ノウハウのプライバシーを守る事ができる、 という例として評価できる可能性はある All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. Llama3で開発チーム向けのCopilotを構築する https://note.com/ippei_suzuki_us/n/n5113ff8bdcdc 37
参考資料 NVIDIA Fine-Tuned Models NVIDIA Foundation Models INTRODUCING VMware Private AI Foundation with NVIDIA Third party & Community Models NVIDIA RAG LLM Operator NVIDIA GPU Operator NVIDIA NIM NVIDIA NeMo Retriever Deep Learning VMs Vector Database Postgres + pgvector Catalog Setup Wizard GPU Monitoring AI Enterprise Generally Available 選択可能な LLM 3 8 All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. ベアメタル並の パフォーマンス 迅速な Time-To-Value 38
参考資料 Improved RAG Starter Pack: Path to Building Productiongrade Apps on VMware Private AI Foundation https://core.vmware.com/blog/improved-rag-starter-pack-path-building-production-grade-apps-vmware-private-ai-foundation https://github.com/vmware-private-ai/VMware-generative-ai-reference-architecture/tree/main/Starter-Packs/Improved_RAG All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 39
参考資料 Interop Tokyo 2024 LLM を活⽤して独⾃の⽣成 AI アプリを効率よく安全に開発する⽅法 https://forest.f2ff.jp/introduction/9033?project_id=20240601 ⽣成 AI を社内業務やビジネスに活⽤する動きが急増して います。しかしユースケースに適した独⾃の⽣成 AI アプリを 開発するにはプライバシーへの配慮や機密データの取り扱い など解決すべき課題に直⾯します。 本セッションでは有名な LLM を活⽤しつつ安全なプライベート 環境で効率よく⽣成 AI アプリを開発する⽅法と、それを実現 する基盤についてお話しします。 NVIDIA 社と VMware が共同開発したプライベート AI 基盤 「VMware Private AI Foundation with NVIDIA」 の最新情報と活⽤メリットをわかりやすくお伝えします。 All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. ＜VMware Booth 展⽰内容＞ 今年の最⼤の⽬⽟は、VMware Private AI Foundation with NVIDIA 初展⽰です。 ご期待ください。その他展⽰内容については以下のサイトをご覧ください。 40 https://f2ff.jp/2024/interop/exhibitor/show.php?id=2204&lang=ja
Agenda まとめ l 最新 AI 駆動開発ツールのご紹介 l Devin/OpenDevin l AutoDev l SWE Agent l GitHub Copilot Workspace l 最新 AI 駆動開発ツールの潮流 All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 41
JJUG（⽇本 Java ユーザーグループ）主催 ナイトセミナー Spring AI 特集 https://jjug.doorkeeper.jp/events/173507 • 5/30 20:00 ~、オンラインのみ。下記のような⽅にピッタリの⼊⾨編的コンテンツ • • 「Python もいいけど Java で ⽣成 AI アプリ開発したいな」と思う⽅ この機会に Spring AI を始めたい⽅ Java で開発する OpenAI 連携アプリファーストステップ 鈴⽊ 章太郎 プリンシパルエンタープライズアーキテクト ソリューションアーキテクト本部 ヴイエムウェア株式会社 2024/05/30 All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. https://blogs.vmware.com/vmware-japan/product/spring All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries. 42
Thank You All Rights Reserved. The term “Broadcom” refers to Broadcom Inc. and/or its subsidiaries.