---
title: [DL輪読会]Attention is not Explanation (NAACL2019)
tags:  #deep learning  
author: [Deep Learning JP](https://www.docswell.com/user/DeepLearning2023)
site: [Docswell](https://www.docswell.com/)
thumbnail: https://bcdn.docswell.com/page/KJ42DW8QE1.jpg?width=480
description: 2019/04/12 Deep Learning JP:  http://deeplearning.jp/seminar-2/
published: April 22, 19
canonical: https://www.docswell.com/s/DeepLearning2023/5JL6PM-dlattention-is-not-explanation-naacl2019
---
# Page. 1

![Page Image](https://bcdn.docswell.com/page/KJ42DW8QE1.jpg)

DEEP LEARNING JP
[DL Papers]
“Attention is not Explanation (NAACL2019)”
Yoshifumi Seki, Gunosy
http://deeplearning.jp/


# Page. 2

![Page Image](https://bcdn.docswell.com/page/LE1MZY2L7G.jpg)

書誌情報
● タイトル: Attention is not Explanation
● 著者:Sarthank Jain, Byron C. Wallace
○ Northeastern University
●
投稿先
○ NAACL2019
● 選定理由
○ Twitter等で話題になっていた
○ Attentionの結果がExplanationだと解釈して利用するシステムを研究開発しており、クリティカルだっ
た
2


# Page. 3

![Page Image](https://bcdn.docswell.com/page/GEW39GRQE2.jpg)

大まかな概要
● 言語処理タスクにおいてAttentionの重みは、モデルの説明性と関連すると言われて
いるが明確な証明はない
● ３つのNLPタスクでAttentionを意味を検証してみる
● Gradient、Leave-One-Outで相関をみた
○ ぜんぜん相関してないから、あかんのでは？
● 異なるAttentionをあててみた
○ 並び替える -&gt; 結果があまり変わらない
○ Attentionを大きく変えつつ、結果をあまり変えないようにAdversarial Attentionしてみる -&gt; できた！
● AttentionのHeatmapは解釈性として使うのはほとんど意味ないのでは？
3


# Page. 4

![Page Image](https://bcdn.docswell.com/page/47ZV9LR3E3.jpg)

4


# Page. 5

![Page Image](https://bcdn.docswell.com/page/YJ65KWRZ7V.jpg)

モデル: Bi-RNN
● input x \in R^{T × |V| }
○ composed one hot encoded word each position
● x_e \in R^{T × d}
○ embedding matrix Eによる埋め込み(次元d)
● h = Enc(x_e) \in R^{T × m}
○ 隠れ層
● y = σ(θ, h_α) \in R^|y|
○ h_α = Σ α_t h_t
5


# Page. 6

![Page Image](https://bcdn.docswell.com/page/GJ5YPM89J4.jpg)

タスクとデータセット
6


# Page. 7

![Page Image](https://bcdn.docswell.com/page/9E2G69K5ER.jpg)

AttentionとFeature Importanceの相関
● AttentionとGradientの順序をKendall距離で比較
○ Kendall距離: 2つのリストの不一致なものの数
● Leave one out =&gt; 単語を系列から覗いたときの精度を比較する
○
7


# Page. 8

![Page Image](https://bcdn.docswell.com/page/D7YV94N67M.jpg)

結果=&gt; 相関係数低め
8


# Page. 9

![Page Image](https://bcdn.docswell.com/page/VENMLYV1J8.jpg)

結果 =&gt; 分布全体、これでも低いことがわかる
9


# Page. 10

![Page Image](https://bcdn.docswell.com/page/Y79N4P6Y73.jpg)

疑問点
● AttentionってSoftmaxかかっているから、全部の位置関係見るKendall距離ってどう
なの？
○ 小さいところのごちゃごちゃした順番の違いに過剰反応しそう
● Averageの相関係数高いの当たり前だよね？MLPのWeightだから実質一緒だし
○ averageはaxivの[v1]にはない =&gt; つまり投稿バージョンにはない
■ 多分査読で、相関係数をなにかと比較すべきみたいなコメントにより追加された？
○ Attentionの相関係数が何と比べて低いのかという議論は不十分
● LLO、RNNでやったら順序情報なくなるからAttentionの意味めっちゃ変わるので
は、、、？
● 例えば一番高いのだけ一致しているとか見てみるといいのかな
○ コード公開されているので、時間見つけてやってみたい
10


# Page. 11

![Page Image](https://bcdn.docswell.com/page/G78KQDZKJD.jpg)

Counterfactual Attention Weight
● Attention Permutation
● Adversarial Attention
11


# Page. 12

![Page Image](https://bcdn.docswell.com/page/L7LZXMDPER.jpg)

Permuting Attention Weight
● Attentionをランダムにシャッフルして結果を求める
○ hは変えない
● 出力結果の差のMedianを求める
12


# Page. 13

![Page Image](https://bcdn.docswell.com/page/4EMVLYP2EW.jpg)

結果 =&gt; Attentionによって結果は大きく変化しない
13


# Page. 14

![Page Image](https://bcdn.docswell.com/page/PER2K91579.jpg)

Adversarial Attention
● 結果が大きく変化しないようにAttentionを変化させる
14


# Page. 15

![Page Image](https://bcdn.docswell.com/page/P7XDLQYXJX.jpg)

15


# Page. 16

![Page Image](https://bcdn.docswell.com/page/37KXL939JD.jpg)

16


# Page. 17

![Page Image](https://bcdn.docswell.com/page/LJ353WG975.jpg)

17


# Page. 18

![Page Image](https://bcdn.docswell.com/page/8JDD4K18JG.jpg)

18


# Page. 19

![Page Image](https://bcdn.docswell.com/page/VEPXMKQWJ8.jpg)

Discussion and Conclusion
● AttentionのHeatmapがモデルの解釈性に与える意味はあまりないと言える
● Limitation
○ Gradientが解釈性として正しいと主張するつもりはない
○ 今回の実験は一部のAttention機構のみが対象である。次はSeq2seqをやるつもり
19


# Page. 20

![Page Image](https://bcdn.docswell.com/page/27VL9V59EQ.jpg)

お気持ち
● 言わんとすることはわからんでもないけど主張が強いのでは？と思った
○ そもそもAttentionはそこまで結果に強い影響与えないのはよく言われていて、補正としての意味合い
が強い
○ 補正なんだから、Gradientとの相関強くないのはそうだし、相関のとり方もうーん
○ permutationは、hを固定してAttentionを変化させても結果があまり変わらないということだけど、これ
は解釈性ではなく、Attentionがタスクの精度に与える影響の議論
■ タスク依存、もしくは小さな改善という話なのでは
○ Adversarialはhとθ固定してそのように学習してるんだから、都合よく影響少ないとこ探せばいいよね、
という感じ。
■ 0.69てイプシロンとして適切なの？
■ そもそも学習してるけど、どんぐらいAttention変えられたの？
● とはいえ、簡単に解釈性とかいうのはよくないのはそうだねという気持ち
20


