4. 本研究で訓練するDNNの構成:
2文のエンコーダに基づく3値分類
A soccer game with multiple males playing. Some men are playing a sport.
文のエンコーダ 文のエンコーダ
(Premise) (Hypothesis)
𝑢𝑢 𝑣𝑣
× ー
512次元の隠れ層とsoftmax層(3値分類)
Premiseの
ベクトル
Hypothesisの
ベクトル
含意,矛盾,中立のスコア(教師信号)
2文のエンコード結果を
統合したベクトル
×は要素ごとの積
-は要素ごとの差の絶対値
4Conneau+ (2017) Supervised Learning of Universal Sentence Representations