1.9K Views
January 12, 21
スライド概要
ヤフオク!やYahoo!知恵袋をはじめとしたヤフーの多くのサービスにはレコメンデーションが導入されています。サービスによって求められる用途は異なり、扱うデータもさまざまです。ヤフーでは多くのサービスの期待に応える汎用レコメンデーションエンジンを構築しています。
本セッションでは、汎用レコメンデーションエンジンについてお話しし、また、最新のレコメンデーションロジック等を用いたデータサイエンスによるビジネス課題の解決事例についても紹介します。
Yahoo! JAPAN Tech Conference 2021 は2021年1月22日に開催しました。
https://techconference.yahoo.co.jp/2021/
2023年10月からSpeaker Deckに移行しました。最新情報はこちらをご覧ください。 https://speakerdeck.com/lycorptech_jp
ヤフーを支える レコメンデーションエンジン ~データサイエンスによるビジネス課題の解決事例~ ヤフー株式会社 テクノロジーグループ サイエンス統括本部 サイエンス2本部 石上 裕之・武田 悠佑 ©2021 Yahoo Japan Corporation All rights reserved.
このセッションについて ヤフーの多くのサービスで導入している レコメンデーションエンジンと 実際の導入ロジックについてお話しします ©2021 Yahoo Japan Corporation All rights reserved.
石上 裕之 テクノロジーグループ サイエンス統括本部 サイエンス2本部 2016年度新卒入社 レコメンデーションエンジンPJにて 開発運用チームのリーダーを担当 コーヒーとキーボードにこだわりがある Copyrights 2019 Yahoo Japan Corporation. All Rights Reserved. ©2021 Yahoo Japan Corporation All rights reserved.
アジェンダ 1. 汎用レコメンデーションエンジン 2. レコメンデーション改善施策事例 ©2021 Yahoo Japan Corporation All rights reserved.
アジェンダ 1. 汎用レコメンデーションエンジン 2. レコメンデーション改善施策事例 ©2021 Yahoo Japan Corporation All rights reserved.
今日話すこと 多くのサービスを持つヤフーで レコメンデーション導入を進めるために何が必要だったか ©2021 Yahoo Japan Corporation All rights reserved.
ヤフーにおけるレコメンデーション レコメンデーション ユーザの興味・関心があるコンテンツの提示 ユーザのサービス体験の向上 ©2021 Yahoo Japan Corporation All rights reserved.
ヤフーにおけるレコメンデーション レコメンデーション導入の課題 ヤフーのサービス全て(100+)で レコメンデーションを導入するのは難しい どんなロジックがユーザに刺さる? どのようにシステムを構築すればよい? 構築したシステムの運用はどうしよう… 汎用レコメンデーションエンジン ©2021 Yahoo Japan Corporation All rights reserved.
汎用レコメンデーションエンジン 汎用レコメンデーションエンジン 各サービスの ユーザ行動ログ レコメンデーション エンジン (機械学習システム) レコメンデーション ニュース 知恵袋 ... ©2021 Yahoo Japan Corporation All rights reserved.
汎用レコメンデーションエンジン 汎用レコメンデーションエンジンの利用実績 モデル数:50+ サービス数:20+ リクエスト数:5億 requests/day ©2021 Yahoo Japan Corporation All rights reserved. 10
汎用レコメンデーションエンジン 汎用レコメンデーションエンジンの特徴 1. 利用シーンに合ったレコメンデーション 2. サービスに依存しない入出力仕様 3. スケーラブルな機械学習システム ©2021 Yahoo Japan Corporation All rights reserved. 11
汎用レコメンデーションエンジン 1. 利用シーンに合ったレコメンデーション Item to Item - アイテムに着目したレコメンデーション - 利用シーン:関連商品 / よく一緒に購入されている商品 User to Item - ユーザに着目したレコメンデーション - 利用シーン:『あなたにおすすめ』 ©2021 Yahoo Japan Corporation All rights reserved. 12
汎用レコメンデーションエンジン 2. サービスに依存しない入出力仕様 入力:各サービスのユーザ行動ログ - 社内の整備されたログを使用 出力:レコメンデーションリスト - アイテムIDのリストを返却するAPI - アイテムID/ユーザIDをパラメータにリクエスト ©2021 Yahoo Japan Corporation All rights reserved. 13
汎用レコメンデーションエンジン 3. スケーラブルな機械学習システム 各ステップでスケールする仕組みとなっていることが求められる 1:データ整形&モデル学習 2:レコメンデーション配信 ・モデルを簡単に増やせる ・大量のリクエストを捌ける 社内のKubernetes/Hadoopクラスタの利用 ©2021 Yahoo Japan Corporation All rights reserved. 14
汎用レコメンデーションエンジン 3. スケーラブルな機械学習システム:データ整形&モデル学習 Kubernetes/Hadoopクラスタ利用 + Airflowによるバッチジョブ管理 モデルの提供方法は複数用意 →配信側で吸収 データ整形 モデル学習 推論結果 put モデル ジョブ管理 ©2021 Yahoo Japan Corporation All rights reserved.
汎用レコメンデーションエンジン 3. スケーラブルな機械学習システム:レコメンデーション配信 推論結果の配信 - DBに保存した推論結果を返却 モデルによる配信 - リクエストごとに計算した結果を返却 モデルの提供方法は複数用意 →配信側で吸収 推論結果 配信 サービス モデル pull ©2021 Yahoo Japan Corporation All rights reserved.
汎用レコメンデーションエンジン 汎用レコメンデーションエンジンの特徴(再掲) 1. 利用シーンに合ったレコメンデーション 2. サービスに依存しない入出力仕様 3. スケーラブルな機械学習システム ©2021 Yahoo Japan Corporation All rights reserved. 17
アジェンダ 1. 汎用レコメンデーションエンジン 2. レコメンデーション改善施策事例 ©2021 Yahoo Japan Corporation All rights reserved.
武田 悠佑 テクノロジーグループ サイエンス統括本部 2019年度新卒入社 レコメンデーションエンジンPJにて エンジニアとしてモデリングを担当 趣味はポータブルオーディオ Copyrights 2019 Yahoo Japan Corporation. All Rights Reserved. ©2021 Yahoo Japan Corporation All rights reserved.
レコメンデーション改善施策 汎用レコメンデーションエンジンにおける改善施策 今回は2つの事例を紹介 1. Item to Itemレコメンデーションへの新アルゴリズム導入 - レコメンデーションにより多くの情報を反映 2. User to Itemレコメンデーションにおけるカバレッジ改善 - レコメンデーションを提示できるユーザーの範囲を拡大 ©2021 Yahoo Japan Corporation All rights reserved.
Item to Itemレコメンデーションへの新アルゴリズム導入 これまでのItem to Itemレコメンデーション 従来の手法は頻度集計に基づく実績ベースのアルゴリズム 特徴: - 実績値に基づく精度の高いレコメンデーションを実現 課題: - N件のアイテムをレコメンデーションするという保証が難しい - アイテムに紐づくメタデータを扱えない(タイトル, カテゴリ情報, etc.) - アイテムに対するアクションの違いを考慮できない(閲覧, 購入, etc.) ©2021 Yahoo Japan Corporation All rights reserved.
Item to Itemレコメンデーションへの新アルゴリズム導入 課題に対する改善アプローチ N件のアイテムをレコメンデーションするという保証が難しい →ベクトル検索の採用 アイテムに紐づくメタデータを扱えない →fastText (Mikolov+) の利用 アイテムに対するアクションの違いを考慮できない →Interaction - Specific Embeddings (Zhao+ WWW ‘20) の適用 ©2021 Yahoo Japan Corporation All rights reserved.
Item to Itemレコメンデーションへの新アルゴリズム導入 ベクトル検索の採用 ベクトル検索: アイテムをベクトル空間へと埋め込んだ上で 入力されたアイテムに対して指定個数分の 近傍アイテムを探索・出力する手法 特徴: どのアイテムに対しても任意個の近傍を取得可能 →レコメンデーションの返却件数を保証可能に ベクトル空間における 近傍アイテム探索イメージ 入力 ©2021 Yahoo Japan Corporation All rights reserved.
Item to Itemレコメンデーションへの新アルゴリズム導入 fastTextの利用 fastText: 文字情報を考慮したベクトル表現をアイテムにあたえる手法 →文字情報である商品タイトルやカテゴリ等のメタデータを 考慮してアイテムをベクトル空間へと埋め込むことが可能に ©2021 Yahoo Japan Corporation All rights reserved.
Item to Itemレコメンデーションへの新アルゴリズム導入 Interaction-Specific Embeddingsの適用 Interaction-Specific Embeddings: アイテムのベクトル表現を得る際にユーザのアクションを考慮する手法 →アクションの違いを反映したレコメンデーションが実現可能に 机A を「閲覧した」 ユーザへのオススメ 机B 机C を「買った」 ユーザへのオススメ 椅子A 椅子B ©2021 Yahoo Japan Corporation All rights reserved.
Item to Itemレコメンデーションへの新アルゴリズム導入 新アルゴリズムの特徴 ベクトル検索という枠組みを採用した上でアイテムをベクトル空間へと 埋め込む手法としてfastText, Interaction-Specific Embeddingsを利用 ・レコメンデーションの返却件数の保証 ・メタデータを考慮したレコメンデーションの実現 ・アイテムに対するアクションの違いをレコメンデーションへと反映 ©2021 Yahoo Japan Corporation All rights reserved.
Item to Itemレコメンデーションへの新アルゴリズム導入 導入事例 ヤフオク!の商品詳細ページ内 「お探しの商品からのおすすめ」欄 ※ 図はイメージ ショルダーバッグ 入札件数 残り時間 0 入札履歴 1 日 詳細 現在価格 5,000円(税0円) 送料 落札者負担 配送方法の詳細 入札する 即決価格 10,000円(税0円) 送料 落札者負担 配送方法の詳細 今すぐ落札する 中略 お探しの商品からのおすすめ 送料無料 もうすぐ終了 本日終了 ショルダーバッグ ショルダーバッグ ショルダーバッグ ショルダーバッグ ショルダーバッグ ショルダーバッグ 現在 2,000円 即決 30,000円 現在 10,000円 現在 5,000円 現在 1,000円 現在 15,000円 ©2021 Yahoo Japan Corporation All rights reserved.
User to Itemレコメンデーションにおけるカバレッジ改善 User to Itemレコメンデーションの課題と改善アプローチ 従来の手法: 当該サービスの閲覧履歴を元にユーザが次に閲覧するアイテムを予測 課題: 当該サービスの訪問実績がない新規ユーザに対してはレコメンデーション不可能 アプローチ: ヤフーの他サービスの利用実績をユーザの特徴として利用することで レコメンデーションが可能なユーザの範囲を拡大 ©2021 Yahoo Japan Corporation All rights reserved.
User to Itemレコメンデーションにおけるカバレッジ改善 従来手法(学習・推論) 閲覧 サービス内の特徴 レコメンデーションエンジン 写真:アフロ, GYRO_PHOTOGRAPHY/イメージマート ©2021 Yahoo Japan Corporation All rights reserved.
User to Itemレコメンデーションにおけるカバレッジ改善 新手法(学習) 閲覧 サービス内の特徴 レコメンデーションエンジン 他サービスの利用実績 情報抽出 他サービスの特徴 写真:アフロ, GYRO_PHOTOGRAPHY/イメージマート ©2021 Yahoo Japan Corporation All rights reserved.
User to Itemレコメンデーションにおけるカバレッジ改善 新手法(推論) 未観測 他サービスの利用実績 情報抽出 他サービスの特徴 レコメンデーションエンジン 写真:アフロ, GYRO_PHOTOGRAPHY/イメージマート ©2021 Yahoo Japan Corporation All rights reserved.
User to Itemレコメンデーションにおけるカバレッジ改善 新手法(推論) 閲覧 未観測 他サービスの利用実績 レコメンデーションエンジン 写真:アフロ, GYRO_PHOTOGRAPHY/イメージマート ©2021 Yahoo Japan Corporation All rights reserved.
User to Itemレコメンデーションにおけるカバレッジ改善 User to Itemレコメンデーションの新手法の特徴 レコメンデーションエンジンの学習に当該サービスの閲覧履歴だけでなく ヤフーの他サービスの利用実績をユーザの特徴として利用 ・より多くのユーザに対してレコメンデーションすることが可能に ・レコメンデーションの性能も従来法と同等以上を達成 ©2021 Yahoo Japan Corporation All rights reserved.
User to Itemレコメンデーションにおけるカバレッジ改善 導入事例 Yahoo! JAPANトップページ内 「あなたにおすすめの施設」欄 ※ 図はイメージ トラベル ヤフオク! ショッピング あなたにおすすめの施設 Yahoo!トラベル 五つ星ホテル 五つ星ホテル 五つ星ホテル 五つ星ホテル 五つ星ホテル 五つ星ホテル 写真:アフロ, PantherMedia/イメージマート ©2021 Yahoo Japan Corporation All rights reserved.
レコメンデーションで日本をもっと便利に レコメンデーションによってユーザごとにサービス体験をパーソナライズし 求めるコンテンツへ1stepでアクセスできる便利な世界を実現しています ©2021 Yahoo Japan Corporation All rights reserved.
21 Yahoo! JAPAN Tech Conference 2021 ©2021 Yahoo Japan Corporation All rights reserved.