Yahoo! JAPANの不正投稿対策　#yjmu

Yahoo! JAPANの 不正投稿対策 2018年11月21日 セキュリティ＆コアテクノロジー部 Content Abuse Prevention 西村知紘

西村 知紘 2年目エンジニア スクラムマスター 大学ではトマトを栽培 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

ぼくたちの仕事 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

なにをしているのか 不正利用対策 プラットフォームを提供 4 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

2種類のアビューズ 5 • 大量アクセス • 不正投稿 • BOT判定 • 有害URL • 有害IP • ウイルススキャン トラフィック コンテンツ Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

どこで使われているのか ユーザ生成コンテンツ 6 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

Yahoo!ニュース 記事に対するコメントに 含まれるNGワードを検出 機械学習による判定も併用 7 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

ワイキュー 視聴者が全10問のゲームに 挑戦し、全問正解者で 賞金20万円を山分けする 8 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

どれくらい使われているのか 700,000 requests/day (2018年11月時点) 9 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

不正投稿判定のしくみ Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

システム構成 NGワード 有害URL 不正投稿判定 リクエスト 投稿 ユーザ サービス 判定結果 担当者 不正投稿判定API 11 NGワードや 有害URLの登録 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed . 管理ツール

特徴 学習 データ 作成 導入から改善サイクル モデル 作成 サンプル 収集 モデル 評価 12 までの過程を効率化 リリース Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

もう少し詳しく 13 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

まとめ Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .

まとめ 不正コンテンツ対策 • ユーザ生成コンテンツを扱うサービスがメイン • 700,000 requests/day 不正投稿判定 • NGワード、有害URL、機械学習による判定 • 機械学習の導入から改善サイクルを効率よく回せる 15 Co p y rig ht © 2 0 1 7 Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .