1.6K Views
August 09, 24
スライド概要
Cloudflare Workers Tech Talks in Tokyo #3用スライド
普段JSをかかないRubyエンジニアが Cloudflare workers(pages)を使う理由 2024.08.01 Cloudflare Workers Tech Talks in Tokyo #3 Copyright © CALL DOCTOR All Rights Reserved.
Index 1 自己紹介 2 Cloudflare workersを使う理由 3 実例(時間次第) 4 まとめ Copyright © CALL DOCTOR All Rights Reserved. 2
自己紹介 Copyright © CALL DOCTOR All Rights Reserved.
自己紹介 株式会社コールドクター 開発本部 ゼネラルマネージャー Kiyohiro Endo 普段はRailsを書いたり、インフラをいじったりして ます。 最近の趣味はAIおどろきおじさん。 https://github.com/kiyo-e https://x.com/endy24502977 Copyright © CALL DOCTOR All Rights Reserved. 4
普段JSをかかないRubyエンジニアが Cloudflare workers(pages)を使う理由 Copyright © CALL DOCTOR All Rights Reserved.
めっちゃある ・安い ・スケーラブル ・サクッと認証つけられる ・起動が早い ・開発体験がいい ・多機能 ・各機能が有機的に繋がってる ・使いたくなる機能がどんどん増えてる などなど… Copyright © CALL DOCTOR All Rights Reserved. 6
めっちゃある ・安い 特にこれ ・スケーラブル ・サクッと認証つけられる ・起動が早い ・開発体験がいい ・多機能 ・各機能が有機的に繋がってる ・使いたくなる機能がどんどん増えてる などなど… Copyright © CALL DOCTOR All Rights Reserved. 7
PoCから本番投入まで 細かいことを気にせず開発できる Copyright © CALL DOCTOR All Rights Reserved.
PoC時に気になること ・今すぐデプロイしたい… ・CPUとかメモリとかネットワークとか面倒… ・でも動かないと困るし… ・でも認証はつけておきたい… ・開発時のログはリアルタイムでサクッと見たい ・すぐに反映されて欲しい… ・データを一時的に保存しておくところとか欲しい… 9
本番時に気になること ・アクセス数ってどのくらいになるんだっけ… ・コストってどのくらいだ? ・冗長性ちゃんとしなきゃ… ・開発時と本番で環境分けたい… ・ 10
まあCloudflareなら大体大丈夫だろ Copyright © CALL DOCTOR All Rights Reserved.
めっちゃある ・安い この辺に対する ・スケーラブル 信頼感がすごい ・サクッと認証つけられる ・起動が早い ・開発体験がいい ・多機能 ・各機能が有機的に繋がってる ・使いたくなる機能がどんどん増えてる などなど… Copyright © CALL DOCTOR All Rights Reserved. 12
あまり気にせず開発したものが Production Readyになってる Copyright © CALL DOCTOR All Rights Reserved.
PoC的に始めた例 ・Mail to Webhook ・Azure OpenAI Service Proxy ・Mixture-of-Agents実装 ・社内向けURL短縮サービス ・Slack Bot ・BetterChatGPT ・uptimeflare 14
実際に使ってる(た)例 ◎Mail to Webhook ◎Azure OpenAI Service Proxy ・Mixture-of-Agents実装 ◎社内向けURL短縮サービス ◎BetterChatGPT ◎uptimeflare ◎Slack Bot 15
Mail to Webhook
こういうメールを
こういうJSONに変換して
postする
{
"sent_at" => "2024-03-26 11:06:48",
"fax_number" => "0300000000",
"env" => "staging",
"uid" => "aaa000",
"id" => "aaa000",
}
16
Azure OpenAI Service Proxy ・Azure OpenAI ServiceのAPIをProxyするworker ・GPT-4のAPIを使いたい人が自由に使えるようにしたかった ・OpenAI ServiceはAPIキーが最大2つまでなので管理面で問題が ・proxy用のworkerを作成 ・メンバーごとのキーをKVに保存 ・一致するキーがKVがあれば、環境変数に埋めたOpenAI ServiceのAPI キーに書き換えてリクエストし直す 17
Mixture-of-Agents実装 ・LLMの性能をあげる方法の一つとして提案された ・最初に複数のLLMに回答を生成させる ・それぞれの答えを参考に、まとめ役のLLMが回答する ・小さいモデルでも大きいモデルを超えられるとか ・GPT-4o、Gemini、claudeでやらせたら最強じゃん!と思って実装 ・間に合えば、Workers AIでデモやりたい… 18
社内向けURL短縮サービス ・@yusukebeの実装を参考に管理画面をつけた ・認証はCloudflare access頼り 19
BetterChatGPT ・ChatGPTクローン ・当時はteamプランや学習のオプトアウトが用意され てなかったの ・絶対に他の人が何か作ると思ってたので、サクッと動 かせるものを、OSSで探してきた ・認証はCloudflare access頼り ・他に便利なものが出てきたので今は使ってない 20
Uptimeflare ・いわゆるStatusページ ・社内向けに作りたかったが、大体有料だった ・Cloudflare前提の良さそうなものがOSSにあった ・認証はCloudflare access頼り 21
Slack Bot ・やってる人、無限にいると思うので省略 22
まとめ Copyright © CALL DOCTOR All Rights Reserved.
普段JSをかかないRubyエンジニアが Cloudflare workers(pages)を使う理由 Copyright © CALL DOCTOR All Rights Reserved.
Developer Experienceが最高だから
ご清聴ありがとうございました