Cloudflare AI Search

>100 Views

September 26, 25

スライド概要

Niigata5分テック #22の発表資料です

シェア

またはPlayer版

埋め込む »CMSなどでJSが使えない場合

(ダウンロード不可)

関連スライド

各ページのテキスト
1.

Cloudflare AI Search formerly AutoRAG Niigata 5min Tech #22 @circled9

2.

自己紹介 松井 正志 (Matsui Masashi) 株式会社モニクル Bluesky: @kaffeine.jp Twitter: @circled9

3.

まずRAGの話から

4.

LLMの限界 • LLMはトレーニング時点までの情報しか知らない • Knowledge Cutoffと呼ばれる • 非公開な情報も知らない • 社内文書やSlackのメッセージの情報は知らない

5.

ではどうするか

6.

LLMが知らないなら教えればいい

7.

RAG • Retrieval-Augumented Generationの略 • 検索拡張生成などと訳される • 質問に関連する文書を添付することで、LLMの回答の精度を上げる手 法 • 要するに「これ読んで質問に答えて」って頼む感じ

8.

一般的なRAGの実装 • 文書をベクトル化してベクトルデータベースに保存する • 質問文に近い文書をベクトルデータベースで検索する • 検索結果をプロンプトに組み込んでLLMに質問する

9.

https://developers.cloudflare.com/ai-search/concepts/what-is-rag/

10.

作ったことあるけど 正直ちょっと面倒

11.

できるけどやりたくない • 実装するのも動く環境を用意するのも面倒 • 色々なドキュメントのフォーマットに対応するのが面倒 • テキストファイル、PDF、Word文書、etc... • 車輪の再発明になりがち • やることはそんなに変わらない

12.

AI Search

13.

AI Search • Cloudflareの提供するフルマネージドなRAGのサービス • 昨日からAI Searchという名前になった • 一昨日までAutoRAGという名前だった

14.

AI Searchのいい感じなところ • 色々なファイルをいい感じに変換して保存してくれる • 質問のクエリもいい感じに書き換えてくれる(らしい) • 環境構築もいい感じにやってくれる

15.

AI Searchのざっくりとした流れ • 文書をR2にアップロードする • 文書がいい感じにVectorizeに保存される • Workers BingingやREST APIで質問したり検索したりできる

16.

https://developers.cloudflare.com/ai-search/concepts/how-ai-search-works/

17.

https://developers.cloudflare.com/ai-search/concepts/how-ai-search-works/

18.

めっちゃ楽

19.

まとめ • RAGの実装は自分で作れなくはないけど面倒 • AI Searchを使うと面倒なRAGの環境を簡単に用意できる • AutoRAGはAI Searchという名前になった