---
title: Yahoo! JAPANの不正投稿対策　#yjmu
tags:  #yjmu  
author: [Yahoo!デベロッパーネットワーク](https://www.docswell.com/user/ydnjp)
site: [Docswell](https://www.docswell.com/)
thumbnail: https://bcdn.docswell.com/page/LEL94KKPJR.jpg?width=480
description: Yahoo! JAPANの不正投稿対策　#yjmu by Yahoo!デベロッパーネットワーク
published: November 21, 18
canonical: https://www.docswell.com/s/ydnjp/5RJ9RZ-2018-11-21-121800
---
# Page. 1

![Page Image](https://bcdn.docswell.com/page/LEL94KKPJR.jpg)

Yahoo! JAPANの
不正投稿対策
2018年11月21日
セキュリティ＆コアテクノロジー部 Content Abuse Prevention
西村知紘


# Page. 2

![Page Image](https://bcdn.docswell.com/page/4JMZK222EW.jpg)

西村 知紘
2年目エンジニア
スクラムマスター
大学ではトマトを栽培
Co p y rig ht © 2 0 1 7
Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .


# Page. 3

![Page Image](https://bcdn.docswell.com/page/PJR6XMM579.jpg)

ぼくたちの仕事
Co p y rig ht © 2 0 1 7
Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .


# Page. 4

![Page Image](https://bcdn.docswell.com/page/PEXM6VVX7X.jpg)

なにをしているのか
不正利用対策
プラットフォームを提供
4
Co p y rig ht © 2 0 1 7
Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .


# Page. 5

![Page Image](https://bcdn.docswell.com/page/3EKG1QQ9JD.jpg)

2種類のアビューズ
5
• 大量アクセス
• 不正投稿
• BOT判定
• 有害URL
• 有害IP
• ウイルススキャン
トラフィック
コンテンツ
Co p y rig ht © 2 0 1 7
Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .


# Page. 6

![Page Image](https://bcdn.docswell.com/page/L73NQPP975.jpg)

どこで使われているのか
ユーザ生成コンテンツ
6
Co p y rig ht © 2 0 1 7
Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .


# Page. 7

![Page Image](https://bcdn.docswell.com/page/87DW9LL8JG.jpg)

Yahoo!ニュース
記事に対するコメントに
含まれるNGワードを検出
機械学習による判定も併用
7
Co p y rig ht © 2 0 1 7
Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .


# Page. 8

![Page Image](https://bcdn.docswell.com/page/VJP9Z22WE8.jpg)

ワイキュー
視聴者が全10問のゲームに
挑戦し、全問正解者で
賞金20万円を山分けする
8
Co p y rig ht © 2 0 1 7
Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .


# Page. 9

![Page Image](https://bcdn.docswell.com/page/2EVMWDD9EQ.jpg)

どれくらい使われているのか
700,000
requests/day
(2018年11月時点)
9
Co p y rig ht © 2 0 1 7
Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .


# Page. 10

![Page Image](https://bcdn.docswell.com/page/57GGDYY47L.jpg)

不正投稿判定のしくみ
Co p y rig ht © 2 0 1 7
Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .


# Page. 11

![Page Image](https://bcdn.docswell.com/page/4EQX1MMR7P.jpg)

システム構成
NGワード
有害URL
不正投稿判定
リクエスト
投稿
ユーザ
サービス
判定結果
担当者
不正投稿判定API
11
NGワードや
有害URLの登録
Co p y rig ht © 2 0 1 7
Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .
管理ツール


# Page. 12

![Page Image](https://bcdn.docswell.com/page/KJ46RVVQ71.jpg)

特徴
学習
データ
作成
導入から改善サイクル
モデル
作成
サンプル
収集
モデル
評価
12
までの過程を効率化
リリース
Co p y rig ht © 2 0 1 7
Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .


# Page. 13

![Page Image](https://bcdn.docswell.com/page/LE1VQ33L7G.jpg)

もう少し詳しく
13
Co p y rig ht © 2 0 1 7
Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .


# Page. 14

![Page Image](https://bcdn.docswell.com/page/GEWLMPPQ72.jpg)

まとめ
Co p y rig ht © 2 0 1 7
Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .


# Page. 15

![Page Image](https://bcdn.docswell.com/page/47ZMQKK3E3.jpg)

まとめ
不正コンテンツ対策
• ユーザ生成コンテンツを扱うサービスがメイン
• 700,000 requests/day
不正投稿判定
• NGワード、有害URL、機械学習による判定
• 機械学習の導入から改善サイクルを効率よく回せる
15
Co p y rig ht © 2 0 1 7
Ya ho o Ja p a n Co rp o ra tio n. A ll R ig hts R eserv ed .