Yahoo! JAPANの不正投稿対策 #yjmu

>100 Views

November 21, 18

スライド概要

profile-image

2023年10月からSpeaker Deckに移行しました。最新情報はこちらをご覧ください。 https://speakerdeck.com/lycorptech_jp

シェア

埋め込む »CMSなどでJSが使えない場合

関連スライド

各ページのテキスト
1.

Yahoo! JAPANの 不正投稿対策 2018年11月21日 セキュリティ&コアテクノロジー部 Content Abuse Prevention 西村知紘

2.

西村 知紘 2年目エンジニア スクラムマスター 大学ではトマトを栽培 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

3.

ぼくたちの仕事 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

4.

なにをしているのか 不正利用対策 プラットフォームを提供 4 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

5.

2種類のアビューズ 5 • 大量アクセス • 不正投稿 • BOT判定 • 有害URL • 有害IP • ウイルススキャン トラフィック コンテンツ Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

6.

どこで使われているのか ユーザ生成コンテンツ 6 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

7.

Yahoo!ニュース 記事に対するコメントに 含まれるNGワードを検出 機械学習による判定も併用 7 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

8.

ワイキュー 視聴者が全10問のゲームに 挑戦し、全問正解者で 賞金20万円を山分けする 8 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

9.

どれくらい使われているのか 700,000 requests/day (2018年11月時点) 9 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

10.

不正投稿判定のしくみ Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

11.

システム構成 NGワード 有害URL 不正投稿判定 リクエスト 投稿 ユーザ サービス 判定結果 担当者 不正投稿判定API 11 NGワードや 有害URLの登録 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed . 管理ツール

12.

特徴 学習 データ 作成 導入から改善サイクル モデル 作成 サンプル 収集 モデル 評価 12 までの過程を効率化 リリース Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

13.

もう少し詳しく 13 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

14.

まとめ Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

15.

まとめ 不正コンテンツ対策 • ユーザ生成コンテンツを扱うサービスがメイン • 700,000 requests/day 不正投稿判定 • NGワード、有害URL、機械学習による判定 • 機械学習の導入から改善サイクルを効率よく回せる 15 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .