ChatGPTのページ一覧
スロットリングとは
ChatGPTに
聞いてみた
※ 上記は、 ChatGPT による回答です。
#JPAUGOsaka
33
補足
ChatGPT に聞いてみた
●
●
スラングのようなもの
より一般的な名称
○ 状態の同期問題
○ キャッシュの整合性問題
©2024 Kyash Inc.
36
バージョンアップもChatGPT頼り
●
コマンドを叩く
●
エラーが出る
●
エラーをChatGPTに貼る
●
ChatGPTに言われるままに作業
●
エラーが出る、からの無限ループ
まとめ
●
ChatGPTは麻薬
●
SMTPは滅びるべき
●
過疎ってるシステムはメンテが楽
●
アップデートはさぼっちゃダメだぞ
●
●
その場のノリでサービスを立ちあげると後で困ること
もあるよ
悪いおじさんに捕ま...
その１
ChatGPT機能検証による生成AIの傾向
• 著名な実証研究の例：
• MITのS. Noy(2023)等によるChatGPTの生産性向上測定実験
研究２ • Stanford大のE. Brynjolfsson(2023)等による顧客問合せシステムへ
のChatGPT...
面倒なことをChatGPTにやらせる仕組み（概要）
引用元：面倒なことはChatGPTにやらせよう（講談社）
ChatGPTは、様々な拡張機能（外部ツール等）を
使うことで能力を拡張できる
面倒なことをChatGPTにやらせる仕組み（詳細）
引用元：面倒なことはChatGPTにやらせよう（講談社）
内部的な仕組みは、実は割とシンプル
Code Cooker
ChatGPT以外のLLMに面倒なことをやらせる自作ソフト
GUI付きで面倒なことをやらせられます。詳しくはZennの記事参照
LLMに面倒なことをやらせるソフト「Code Cooker」の紹介
面倒なことをChatGPTにやらせる仕組み
再掲
引用元：面倒なことはChatGPTにやらせよう（講談社）
4.6 ChatGPT
4.6 ChatGPT
ChatGPT (2023, OpenAI)
(特徴)
大規模言語モデルを対話形式で操作
(指示チューニング) + (RLHF) + (対話形式のデータセット)の組で学習
情報は公式ブログ(https://openai.com/blog/chatgp...
4.6 ChatGPT
報酬モデル :
初めに、ユーザとモデルとの会話を収集したデータセットを構築 (モデル側の
メッセージは実際のモデルからの出力を使用)
→ データセットの中からモデルの実際の出力をランダムに選択
→同...
2023年AI元年
ChatGPTの誕生を皮切りに生成AIブームに
さまざまな生成AIプロダクトが誕生
「2024年問題」に本気で取り組む！ 言葉だけじゃないDXを目指すAI活用の現在地 - 生成AIからAIエージェントへ -の#P7
GPTs
自分好みのChatGPTを作成できる機能
欲しい情報源（テキスト、ファイルなど）をアップロードする
と、その情報源を利用して回答してくれるようになる
他人がつくったGPTを使うこともできる
画像生成、添削、論...
「2024年問題」に本気で取り組む！ 言葉だけじゃないDXを目指すAI活用の現在地 - 生成AIからAIエージェントへ -の#P58
Kaggle関係
カレーちゃん（ChatGPT本の共著者）や石原さん（u++さん）が
書いている本がおすすめ
#FullstackAIDev2024
GPT-3.5 / ChatGPT という
LLMによるブレイクスルーが
起こってから 2年ぐらい経った
2022.11
© 2012-2024 BASE, Inc.
「オフラインでも TypeScriptから使える AI」
13
9.3
ChatGPTにクイズを答えさせる
◼ OpenAI API
⚫ OpenAI APIの主要なパラメータ
➢ model
使用するChatGPTのモデルを指定。
書籍ではgpt-3.5-turbo、
本スライドではgpt-4o-miniを使用。
➢ messages
発話者を表す...
9.3
ChatGPTにクイズを答えさせる
◼ OpenAI API
⚫ OpenAI APIの主要なパラメータ
➢ max_tokens
指定した数だけトークンを出力したところで
生成処理が停止する。
➢ stop
終端文字列を指定。
指定した文字列を出力...
9.3
ChatGPTにクイズを答えさせる
◼ OpenAI API
⚫ OpenAI APIのその他のパラメータ
➢ top_p (0.0 ~ 1.0)：出力に用いるトークンの選択肢を制限する。
0.3なら上位30%のトークン、
1.0なら全てのトークンを対象に...
9.3
ChatGPTにクイズを答えさせる
◼ 効率的なリクエストの送信
⚫ コルーチン
APIにリクエストを送信する際、レスポンスを
受信するまで次のリクエストの送信や他の処理を
実行することができない。
そのため、効...
9.3
ChatGPTにクイズを答えさせる
◼ 効率的なリクエストの送信
11
9.3
ChatGPTにクイズを答えさせる
◼ クイズデータセットによる評価
12
9.3
ChatGPTにクイズを答えさせる
◼ クイズデータセットによる評価
13
9.3
ChatGPTにクイズを答えさせる
◼ おまけ
言語モデルの幻覚（ハルシネーション）を防ぐプロンプトのテクニックとして、
「落ち着いて考えてみてください」「ハルシネーションしないでください」
という文言を入...
金融特化 LLM
ChatGPT以降
進化
大規模化
波が起き、金融特化LLM
2021〜2022年
2019~2020年
金融特化LLM
金融特化LLM
黎明期
金融分野で LLMに 専門用
語や文脈理解に限界があり、
FinBERT（2019）という金...