Submit Search
Upload
Duolingo.pptx
•
1 like
•
3,873 views
S
syou6162
Follow
DuolingoがACLで発表した論文の簡単な紹介
Read less
Read more
Engineering
Report
Share
Report
Share
1 of 8
Download now
Download to read offline
Recommended
深層リカレントニューラルネットワークを用いた日本語述語項構造解析
深層リカレントニューラルネットワークを用いた日本語述語項構造解析
Hiroki Ouchi
NL20161222invited
NL20161222invited
Tetsuya Sakai
「HOME'Sデータセット」を活用した不動産物件画像への深層学習の適用の取り組み
「HOME'Sデータセット」を活用した不動産物件画像への深層学習の適用の取り組み
Yoji Kiyota
Decoupled Neural Interfaces輪読資料
Decoupled Neural Interfaces輪読資料
Reiji Hatsugai
GPUとSSDがPostgreSQLを加速する~クエリ処理スループット10GB/sへの挑戦~ [DB Tech Showcase Tokyo/2017]
GPUとSSDがPostgreSQLを加速する~クエリ処理スループット10GB/sへの挑戦~ [DB Tech Showcase Tokyo/2017]
Kohei KaiGai
PRML第6章「カーネル法」
PRML第6章「カーネル法」
Keisuke Sugawara
ニューラルチューリングマシン入門
ニューラルチューリングマシン入門
naoto moriyama
Convolutional Neural Netwoks で自然言語処理をする
Convolutional Neural Netwoks で自然言語処理をする
Daiki Shimada
Recommended
深層リカレントニューラルネットワークを用いた日本語述語項構造解析
深層リカレントニューラルネットワークを用いた日本語述語項構造解析
Hiroki Ouchi
NL20161222invited
NL20161222invited
Tetsuya Sakai
「HOME'Sデータセット」を活用した不動産物件画像への深層学習の適用の取り組み
「HOME'Sデータセット」を活用した不動産物件画像への深層学習の適用の取り組み
Yoji Kiyota
Decoupled Neural Interfaces輪読資料
Decoupled Neural Interfaces輪読資料
Reiji Hatsugai
GPUとSSDがPostgreSQLを加速する~クエリ処理スループット10GB/sへの挑戦~ [DB Tech Showcase Tokyo/2017]
GPUとSSDがPostgreSQLを加速する~クエリ処理スループット10GB/sへの挑戦~ [DB Tech Showcase Tokyo/2017]
Kohei KaiGai
PRML第6章「カーネル法」
PRML第6章「カーネル法」
Keisuke Sugawara
ニューラルチューリングマシン入門
ニューラルチューリングマシン入門
naoto moriyama
Convolutional Neural Netwoks で自然言語処理をする
Convolutional Neural Netwoks で自然言語処理をする
Daiki Shimada
J Module1 Intro
J Module1 Intro
KaoruKonishi
Moca j
Moca j
Arai Ran
20141119 eLC Disruptive Innovation in Education.
20141119 eLC Disruptive Innovation in Education.
Hiroki Inoue
Tefl20140729 14key
Tefl20140729 14key
youwatari
Retrieva seminar jelinek_20180822
Retrieva seminar jelinek_20180822
Jiro Nishitoba
EDUPUB Phoenix 2015 報告
EDUPUB Phoenix 2015 報告
Japan Electronic Publishing Association
データベースソフトウェアの活用
データベースソフトウェアの活用
Kenichi Kamiya
2014.07.02 EDUPUB:eLearning系の動向
2014.07.02 EDUPUB:eLearning系の動向
Japan Electronic Publishing Association
自分の目的に合った統計量と そのバラ付きを計算しよう ~NPSを例に~(統計学勉強会)
自分の目的に合った統計量と そのバラ付きを計算しよう ~NPSを例に~(統計学勉強会)
syou6162
オープンセミナー岡山 これから始めるデータ活用
オープンセミナー岡山 これから始めるデータ活用
syou6162
正確な意思決定を阻む 問題・障害との向き合い方
正確な意思決定を阻む 問題・障害との向き合い方
syou6162
カスタマーサクセスのためのデータ整備人の活動記録
カスタマーサクセスのためのデータ整備人の活動記録
syou6162
Mackerel Drink Up #9 ロール内異常検知の正式化
Mackerel Drink Up #9 ロール内異常検知の正式化
syou6162
Mackerelのロール内異常検知の設計と運用
Mackerelのロール内異常検知の設計と運用
syou6162
教師なし学習によるMackerelの異常検知機能について〜設計/運用/評価の観点から〜
教師なし学習によるMackerelの異常検知機能について〜設計/運用/評価の観点から〜
syou6162
機械学習を活用したサービスにおける工夫紹介
機械学習を活用したサービスにおける工夫紹介
syou6162
機械学習を使った趣味サービスにおける工夫紹介
機械学習を使った趣味サービスにおける工夫紹介
syou6162
今日から始める機械学習〜はてなの事例〜
今日から始める機械学習〜はてなの事例〜
syou6162
機械学習を用いたMackerelの異常検知機能について
機械学習を用いたMackerelの異常検知機能について
syou6162
Mackerel Anomaly Detection at PyCon mini Osaka
Mackerel Anomaly Detection at PyCon mini Osaka
syou6162
はてなにおける機械学習の取り組み
はてなにおける機械学習の取り組み
syou6162
はてなにおける機械学習の取り組み
はてなにおける機械学習の取り組み
syou6162
More Related Content
Similar to Duolingo.pptx
J Module1 Intro
J Module1 Intro
KaoruKonishi
Moca j
Moca j
Arai Ran
20141119 eLC Disruptive Innovation in Education.
20141119 eLC Disruptive Innovation in Education.
Hiroki Inoue
Tefl20140729 14key
Tefl20140729 14key
youwatari
Retrieva seminar jelinek_20180822
Retrieva seminar jelinek_20180822
Jiro Nishitoba
EDUPUB Phoenix 2015 報告
EDUPUB Phoenix 2015 報告
Japan Electronic Publishing Association
データベースソフトウェアの活用
データベースソフトウェアの活用
Kenichi Kamiya
2014.07.02 EDUPUB:eLearning系の動向
2014.07.02 EDUPUB:eLearning系の動向
Japan Electronic Publishing Association
Similar to Duolingo.pptx
(8)
J Module1 Intro
J Module1 Intro
Moca j
Moca j
20141119 eLC Disruptive Innovation in Education.
20141119 eLC Disruptive Innovation in Education.
Tefl20140729 14key
Tefl20140729 14key
Retrieva seminar jelinek_20180822
Retrieva seminar jelinek_20180822
EDUPUB Phoenix 2015 報告
EDUPUB Phoenix 2015 報告
データベースソフトウェアの活用
データベースソフトウェアの活用
2014.07.02 EDUPUB:eLearning系の動向
2014.07.02 EDUPUB:eLearning系の動向
More from syou6162
自分の目的に合った統計量と そのバラ付きを計算しよう ~NPSを例に~(統計学勉強会)
自分の目的に合った統計量と そのバラ付きを計算しよう ~NPSを例に~(統計学勉強会)
syou6162
オープンセミナー岡山 これから始めるデータ活用
オープンセミナー岡山 これから始めるデータ活用
syou6162
正確な意思決定を阻む 問題・障害との向き合い方
正確な意思決定を阻む 問題・障害との向き合い方
syou6162
カスタマーサクセスのためのデータ整備人の活動記録
カスタマーサクセスのためのデータ整備人の活動記録
syou6162
Mackerel Drink Up #9 ロール内異常検知の正式化
Mackerel Drink Up #9 ロール内異常検知の正式化
syou6162
Mackerelのロール内異常検知の設計と運用
Mackerelのロール内異常検知の設計と運用
syou6162
教師なし学習によるMackerelの異常検知機能について〜設計/運用/評価の観点から〜
教師なし学習によるMackerelの異常検知機能について〜設計/運用/評価の観点から〜
syou6162
機械学習を活用したサービスにおける工夫紹介
機械学習を活用したサービスにおける工夫紹介
syou6162
機械学習を使った趣味サービスにおける工夫紹介
機械学習を使った趣味サービスにおける工夫紹介
syou6162
今日から始める機械学習〜はてなの事例〜
今日から始める機械学習〜はてなの事例〜
syou6162
機械学習を用いたMackerelの異常検知機能について
機械学習を用いたMackerelの異常検知機能について
syou6162
Mackerel Anomaly Detection at PyCon mini Osaka
Mackerel Anomaly Detection at PyCon mini Osaka
syou6162
はてなにおける機械学習の取り組み
はてなにおける機械学習の取り組み
syou6162
はてなにおける機械学習の取り組み
はてなにおける機械学習の取り組み
syou6162
異常検知ナイト LT登壇資料 はてな id:syou6162
異常検知ナイト LT登壇資料 はてな id:syou6162
syou6162
今日からできる構造学習(主に構造化パーセプトロンについて)
今日からできる構造学習(主に構造化パーセプトロンについて)
syou6162
Kernel20110619
Kernel20110619
syou6162
Optimization In R
Optimization In R
syou6162
Syou6162 Dbcls
Syou6162 Dbcls
syou6162
半教師あり学習
半教師あり学習
syou6162
More from syou6162
(20)
自分の目的に合った統計量と そのバラ付きを計算しよう ~NPSを例に~(統計学勉強会)
自分の目的に合った統計量と そのバラ付きを計算しよう ~NPSを例に~(統計学勉強会)
オープンセミナー岡山 これから始めるデータ活用
オープンセミナー岡山 これから始めるデータ活用
正確な意思決定を阻む 問題・障害との向き合い方
正確な意思決定を阻む 問題・障害との向き合い方
カスタマーサクセスのためのデータ整備人の活動記録
カスタマーサクセスのためのデータ整備人の活動記録
Mackerel Drink Up #9 ロール内異常検知の正式化
Mackerel Drink Up #9 ロール内異常検知の正式化
Mackerelのロール内異常検知の設計と運用
Mackerelのロール内異常検知の設計と運用
教師なし学習によるMackerelの異常検知機能について〜設計/運用/評価の観点から〜
教師なし学習によるMackerelの異常検知機能について〜設計/運用/評価の観点から〜
機械学習を活用したサービスにおける工夫紹介
機械学習を活用したサービスにおける工夫紹介
機械学習を使った趣味サービスにおける工夫紹介
機械学習を使った趣味サービスにおける工夫紹介
今日から始める機械学習〜はてなの事例〜
今日から始める機械学習〜はてなの事例〜
機械学習を用いたMackerelの異常検知機能について
機械学習を用いたMackerelの異常検知機能について
Mackerel Anomaly Detection at PyCon mini Osaka
Mackerel Anomaly Detection at PyCon mini Osaka
はてなにおける機械学習の取り組み
はてなにおける機械学習の取り組み
はてなにおける機械学習の取り組み
はてなにおける機械学習の取り組み
異常検知ナイト LT登壇資料 はてな id:syou6162
異常検知ナイト LT登壇資料 はてな id:syou6162
今日からできる構造学習(主に構造化パーセプトロンについて)
今日からできる構造学習(主に構造化パーセプトロンについて)
Kernel20110619
Kernel20110619
Optimization In R
Optimization In R
Syou6162 Dbcls
Syou6162 Dbcls
半教師あり学習
半教師あり学習
Duolingo.pptx
1.
A Trainable Spaced Repe00on Model for Language Learning • Duolingoの社員がACLという国際会議で発表した論文 – h:p://www.aclweb.org/anthology/P/P16/P16-1174.pdf •
ユーザーが単語を学習するときに、その単語を次に 出すタイミングはいつがいいか – 計量心理学の分野(忘却曲線) • Duolingoでユーザーが学習した結果を元に機械学習 (回帰問題)を使うと、忘却曲線の半減期を正しく推定 • ユーザーがさらにサービスを活用してくれるように • データとコード公開 – h:ps://github.com/duolingo/halflife-regression
2.
Duolingoについて • 2012年に立ち上げ。150万ユーザーが使ってい る語学サイト • 21言語のコースがあって、80以上の言語が現在 開発中 •
ユーザーに合わせて動的にレッスンが生成され る – h:p://www.lifehacker.jp/ 2015/08/150809duolingo_hideki_shima.html – h:p://www.lifehacker.jp/ 2015/08/150825duolingo_hagiwara1.html
3.
スクリーンショット
4.
既存手法:ライトナーシステム • h:ps://ja.wikipedia.org/wiki/ライトナーシステ ム • 1回正解したら次に提示するのは2日後、2回 連続なら4日後、...、4回連続なら`2^4`=16日 後にその単語を提示 図は論文より 引用
5.
提案手法 • 忘却曲線をベースに、ユーザーが単語を覚えている 確率を回帰で予測する問題に定式化 • 指数の方の部分を線形なモデルで表現 •
パラメータはclosed-formで求められないので、 AdaGradを使ってitera0veに最適化 p: 単語を覚えている確率。実際にはセッショ ン中に単語を正しく覚えていた割合を使う Δ: 前回学習時からの時間 h: ユーザーの長期記憶に対する強度 x: 特徴量ベクトル Θ: パラメータベクトル l: 損失関数 λ: 正則化パラメータ
6.
特徴量 • Interac0on features – ユーザーがその単語を何回見たか、何回正解し たか、間違ったか • Lexeme tag features – 品詞や時制、三単元のSなどをsparseな特徴量と して表現 – マイナーな言語(現在21言語あるらしい)でもでき るようになっているのは言語マニアな社員がたく さんいるからか...
7.
図は論文より 引用
8.
結果 • 6週間、100万ユーザーで比較実験 • Any(crowdsourced transla0ons, online forum discussionsを含む)とLessonが増えて、Prac0ce が減った
図は論文より 引用
Download now