~ ビギナーズセミナー 私の研究のすゝめ方 ~
企業研究者の研究のすゝめ方
安藤 厚志
0
NTTメディアインテリジェンス研究所
2020. 3. 15
ASJ beginner’s seminar in VR
Copyright©2020 NTT corp. All Rights Reserved.
安藤 厚志 (あんどう あつし)
– 社会人7年目、博士課程2年目
– 経歴
• 2013.3 名古屋大学大学院 情報科学研究科 博士前期課程 修了
• 2013.4- 日本電信電話株式会社入社、現在に至る
• 2018.4- 名古屋大学大学院 情報学研究科 博士後期課程 在学中
– 主な研究
• 通話における顧客満足度推定 (INTERSPEECH’17, Trans. ASLP’20)
• 音声からの感情分類 (INTERSPEECH’17, ICASSP’18, INTERSPEECH’19)
• 音声からの質問検出 (INTERSPEECH’18, ASJ’19 粟屋賞)
– 現在の業務内容
• 非言語/パラ言語情報認識技術の研究
• 実用化に向けたソフトウェア開発
• 事業案件対応 (実データ分析、モデルチューニング、…)
自己紹介
1
Copyright©2020 NTT corp. All Rights Reserved. 2
実用化の例
https://www.ntt-tx.co.jp/whatsnew/2019/190326.html
Copyright©2020 NTT corp. All Rights Reserved.
• 私の研究の進め方
– 全体の流れ
– 各ステップの概要
– 私の失敗例
• 効率的に研究を進めるためのTips
– タスクの管理
– モチベーションの維持
※ ご紹介する方法が絶対的な正解というわけではありません。
あくまで一つの例としてお聞き頂けますと幸いです
本日お話しすること
3
Copyright©2020 NTT corp. All Rights Reserved.
タスク選定→従来手法の分析→新手法の検討→論文化
従来法分析
私の研究の進め方
4
サーベイ
タスク検討
従来手法の
実装/評価
従来手法の
誤り分析
アプローチ
検討
新手法の
実装/評価
新手法の
誤り分析
論文執筆
方法論の
検討
サーベイ
論文投稿
タスク選定 新手法検討 論文化
Copyright©2020 NTT corp. All Rights Reserved.
実用に合ったタスクを選ぶことが、良い研究開発の第一歩
• 何をしたいか = 「研究の種」からスタート
– 例)通話から顧客の満足度を推定できないか?
• 研究の種に関連しそうな先行研究をサーベイ
– 最新国際会議の予稿集を中心に30-50本読み
タスク設定, 研究課題, アプローチなどをまとめる
• 先行研究に基づき, 研究の種をタスクに落とし込む
– 例)通話ごと・顧客発話ごとの満足度3値分類 (満足/普通/不満)
– ①先行研究の多さ (多くの需要があるか)
②先行研究の制約条件 (現実的なリソースで運用可能か)
③先行研究の精度/到達点 (数年後には実用化可能か) などを考慮
5
タスク選定
サーベイ
タスク検討
タスク選定
Copyright©2020 NTT corp. All Rights Reserved.
従来手法の課題の追究が「失敗しにくい」研究を生む
• 従来手法の実装/評価の後には必ず誤り分析を実施
– 従来手法で誤りがあったデータを100~サンプル確認,
誤り原因を思いつく限りたくさん書く
– 誤り原因を集計、改善効果を定量化
• 例)クラス分類誤り100サンプルのうち
雑音が大きいデータが50%、
音声が途中で切れるデータが30%、 …
– 改善効果の高い課題にアプローチすることで,
失敗しにくい研究になる
6
従来手法の分析
従来法分析
従来手法の
実装/評価
従来手法の
誤り分析
Copyright©2020 NTT corp. All Rights Reserved.
サーベイに基づき、実用的な方法論を採用する
• アプローチを実現する上で、実用的かつ
有効性の高そうな方法論をサーベイし採用
– 例)低遅延が重視される実用では単純な手法
(例: ウィナーフィルタリング)
精度が重視される実用では複雑な方法
(例: ニューラル音声強調)
– タスク選定時と同様に、運用面やコスト面を
考慮して方法論を選ぶ
– 普段から多くの論文を読んでおき,
方法論の引き出しを増やしておくとベスト
7
新手法の検討
アプローチ
検討
新手法の
実装/評価
新手法の
誤り分析
方法論の
検討
サーベイ
新手法検討
Copyright©2020 NTT corp. All Rights Reserved.
論文執筆中には大量のサーベイをしない
• ここまでの段階で十分なサーベイができていれば
論文執筆は可能なはず
• 論文の書き方はここでは説明しません
– ニュービック先生のチュートリアル※1や、
松尾先生のページ※2が大変参考になります
8
論文化
論文執筆
論文投稿
論文化
※1 http://www.phontron.com/slides/neubig15nlptutorial.pdf
※2 http://ymatsuo.com/japanese/ronbun_jpn.html
Copyright©2020 NTT corp. All Rights Reserved.
古い従来手法を用いてしまい, 最新手法との比較ができない
or アプローチは面白いが, 方法論がいまいち
9
自身の失敗例①: サーベイが足りない
従来法分析
サーベイ
タスク検討
従来手法の
実装/評価
従来手法の
誤り分析
アプローチ
検討
新手法の
実装/評価
新手法の
誤り分析
論文執筆
方法論の
検討
サーベイ
論文投稿
タスク選定 新手法検討 論文化
タスクが実用的でなく
研究を頑張ったのに
現場では使われない
従来手法が古く
最新手法と比較できない
方法論が悪く
改善が小さい
Copyright©2020 NTT corp. All Rights Reserved.
思い込みから有効性の低いアプローチを選んでしまい
有効な新手法がなかなか見つからない
10
自身の失敗例②: 誤り分析をしない
従来法分析
サーベイ
タスク検討
従来手法の
実装/評価
従来手法の
誤り分析
アプローチ
検討
新手法の
実装/評価
新手法の
誤り分析
論文執筆
方法論の
検討
サーベイ
論文投稿
新手法検討 論文化
思い込みからアプロー
チを立ててしまい、
有効性が低いことに
後で気づく
アプローチ検討に
何度も戻る
タスク選定
Copyright©2020 NTT corp. All Rights Reserved.
• 私の研究の進め方:
タスク選定→従来手法の分析→新手法の検討→論文化
• 各ステップで気をつけていること
– タスク選定
• サーベイやヒアリングを通じ、実用性の高いタスクを選ぶ
– 従来手法の分析
• 誤り分析を通じて改善効果を予測、失敗しにくい課題を選ぶ
– 新手法の検討
• 方法論選びでも実用性考慮。普段から論文を読む
– 論文化
• 論文を書くときに大量のサーベイをしなくてもよいよう研究
11
私の研究の進め方 まとめ
Copyright©2020 NTT corp. All Rights Reserved.
• 研究活動を阻害する要因は非常に多い…
– 研究時間がない
• 研究以外でやるべきことが多く、研究時間が取れない
– モチベーションが維持できない
• 集中力が続かない、やる気が出ない
• 何をしたらよいか分からない
• 研究時間を作るためのタスク管理方法、
研究に対するモチベーション維持方法をお話しします
– タスク管理
• 毎朝ToDoリストを作り込む
• 複数の作業を同時並行で進める
– モチベーション維持
• ライバルを見つける
• 最終目的を振り返る
12
2. 研究を効率的に進めるためのTips
Copyright©2020 NTT corp. All Rights Reserved.
その日にすべきことの計画と時間配分を見積もり,
「次に何をするか」を考える隙を作らない
• 出社後すぐにToDoリスト作成を行う
– 2週間先までスケジュールをチェックし、
作業工程の分割、作業工程ごとの締切設定、今日やることを決める
• 以降はToDoリストに沿って機械的に作業を進める
– 「次なにするんだっけ」を考える隙を作らず、集中力を維持
13
タスク管理① 毎朝ToDoリストを作り込む
大, 中, 小項目に分ける
大項目: 目的
中項目: 作業内容
小項目: 作業工程
完了しても
項目を消さない
Copyright©2020 NTT corp. All Rights Reserved.
自分と計算機or他者が同時作業するようタスク調整
• 自分一人では一人分の仕事しかできない
– 一人分以上の生産性を出すためには?
• (他者と連携して仕事する場合) 他者を活用
• 計算機を活用
• 自分+αが作業をし続けられるようタスク優先度を調整
– 例)統計モデル学習を計算機で行いつつ、自分はゼミ資料作成
開発書類チェックを他社に依頼しつつ、自分はコーディング
14
タスク管理② 複数の作業を同時に行う
Copyright©2020 NTT corp. All Rights Reserved.
ライバルの仕事から学び、やる気を引き出す
• 年代が近く、尊敬できる人をライバルに定める
– 先輩/後輩、別研究室メンバなど複数のライバルを作ると◎
• 集中力が切れたときにはライバルの業績や論文を見る
– 「自分も頑張ろう!」とやる気が出る
15
モチベ維持① ライバルを見つける
Copyright©2020 NTT corp. All Rights Reserved.
「本当は何がしたいのか」を思い出す
• 目の前のタスク処理に追われていると、
「何のためにこの作業をしてるんだっけ?」に陥りやすい
• ときどき最終目的を振り返ることが効果的
– 例)従来手法の一部を実装することは、学位を取ることが目的
説明資料を作ることは、出世して高給を取ることが目的
16
モチベ維持② 最終目的を振り返る
Copyright©2020 NTT corp. All Rights Reserved.
• 企業研究者 (の一人) の研究のすゝめ方
– タスク選定→従来手法の分析→新手法の検討→論文化
– まとまった数のサーベイを行い、実用性の高いタスクを選ぶ
– 誤り分析により、失敗しにくいアプローチを選ぶ
• 研究を効率的に進めるために
– タスク管理を効率化
• ToDoリストを作り込む
• 複数の作業を同時に行えるよう、優先度をコントロール
– モチベーションを維持
• ライバルを見つける
• 最終目的をときどき振り返る
17
まとめ

企業研究者の研究のすゝめ方

  • 1.
    ~ ビギナーズセミナー 私の研究のすゝめ方~ 企業研究者の研究のすゝめ方 安藤 厚志 0 NTTメディアインテリジェンス研究所 2020. 3. 15 ASJ beginner’s seminar in VR
  • 2.
    Copyright©2020 NTT corp.All Rights Reserved. 安藤 厚志 (あんどう あつし) – 社会人7年目、博士課程2年目 – 経歴 • 2013.3 名古屋大学大学院 情報科学研究科 博士前期課程 修了 • 2013.4- 日本電信電話株式会社入社、現在に至る • 2018.4- 名古屋大学大学院 情報学研究科 博士後期課程 在学中 – 主な研究 • 通話における顧客満足度推定 (INTERSPEECH’17, Trans. ASLP’20) • 音声からの感情分類 (INTERSPEECH’17, ICASSP’18, INTERSPEECH’19) • 音声からの質問検出 (INTERSPEECH’18, ASJ’19 粟屋賞) – 現在の業務内容 • 非言語/パラ言語情報認識技術の研究 • 実用化に向けたソフトウェア開発 • 事業案件対応 (実データ分析、モデルチューニング、…) 自己紹介 1
  • 3.
    Copyright©2020 NTT corp.All Rights Reserved. 2 実用化の例 https://www.ntt-tx.co.jp/whatsnew/2019/190326.html
  • 4.
    Copyright©2020 NTT corp.All Rights Reserved. • 私の研究の進め方 – 全体の流れ – 各ステップの概要 – 私の失敗例 • 効率的に研究を進めるためのTips – タスクの管理 – モチベーションの維持 ※ ご紹介する方法が絶対的な正解というわけではありません。 あくまで一つの例としてお聞き頂けますと幸いです 本日お話しすること 3
  • 5.
    Copyright©2020 NTT corp.All Rights Reserved. タスク選定→従来手法の分析→新手法の検討→論文化 従来法分析 私の研究の進め方 4 サーベイ タスク検討 従来手法の 実装/評価 従来手法の 誤り分析 アプローチ 検討 新手法の 実装/評価 新手法の 誤り分析 論文執筆 方法論の 検討 サーベイ 論文投稿 タスク選定 新手法検討 論文化
  • 6.
    Copyright©2020 NTT corp.All Rights Reserved. 実用に合ったタスクを選ぶことが、良い研究開発の第一歩 • 何をしたいか = 「研究の種」からスタート – 例)通話から顧客の満足度を推定できないか? • 研究の種に関連しそうな先行研究をサーベイ – 最新国際会議の予稿集を中心に30-50本読み タスク設定, 研究課題, アプローチなどをまとめる • 先行研究に基づき, 研究の種をタスクに落とし込む – 例)通話ごと・顧客発話ごとの満足度3値分類 (満足/普通/不満) – ①先行研究の多さ (多くの需要があるか) ②先行研究の制約条件 (現実的なリソースで運用可能か) ③先行研究の精度/到達点 (数年後には実用化可能か) などを考慮 5 タスク選定 サーベイ タスク検討 タスク選定
  • 7.
    Copyright©2020 NTT corp.All Rights Reserved. 従来手法の課題の追究が「失敗しにくい」研究を生む • 従来手法の実装/評価の後には必ず誤り分析を実施 – 従来手法で誤りがあったデータを100~サンプル確認, 誤り原因を思いつく限りたくさん書く – 誤り原因を集計、改善効果を定量化 • 例)クラス分類誤り100サンプルのうち 雑音が大きいデータが50%、 音声が途中で切れるデータが30%、 … – 改善効果の高い課題にアプローチすることで, 失敗しにくい研究になる 6 従来手法の分析 従来法分析 従来手法の 実装/評価 従来手法の 誤り分析
  • 8.
    Copyright©2020 NTT corp.All Rights Reserved. サーベイに基づき、実用的な方法論を採用する • アプローチを実現する上で、実用的かつ 有効性の高そうな方法論をサーベイし採用 – 例)低遅延が重視される実用では単純な手法 (例: ウィナーフィルタリング) 精度が重視される実用では複雑な方法 (例: ニューラル音声強調) – タスク選定時と同様に、運用面やコスト面を 考慮して方法論を選ぶ – 普段から多くの論文を読んでおき, 方法論の引き出しを増やしておくとベスト 7 新手法の検討 アプローチ 検討 新手法の 実装/評価 新手法の 誤り分析 方法論の 検討 サーベイ 新手法検討
  • 9.
    Copyright©2020 NTT corp.All Rights Reserved. 論文執筆中には大量のサーベイをしない • ここまでの段階で十分なサーベイができていれば 論文執筆は可能なはず • 論文の書き方はここでは説明しません – ニュービック先生のチュートリアル※1や、 松尾先生のページ※2が大変参考になります 8 論文化 論文執筆 論文投稿 論文化 ※1 http://www.phontron.com/slides/neubig15nlptutorial.pdf ※2 http://ymatsuo.com/japanese/ronbun_jpn.html
  • 10.
    Copyright©2020 NTT corp.All Rights Reserved. 古い従来手法を用いてしまい, 最新手法との比較ができない or アプローチは面白いが, 方法論がいまいち 9 自身の失敗例①: サーベイが足りない 従来法分析 サーベイ タスク検討 従来手法の 実装/評価 従来手法の 誤り分析 アプローチ 検討 新手法の 実装/評価 新手法の 誤り分析 論文執筆 方法論の 検討 サーベイ 論文投稿 タスク選定 新手法検討 論文化 タスクが実用的でなく 研究を頑張ったのに 現場では使われない 従来手法が古く 最新手法と比較できない 方法論が悪く 改善が小さい
  • 11.
    Copyright©2020 NTT corp.All Rights Reserved. 思い込みから有効性の低いアプローチを選んでしまい 有効な新手法がなかなか見つからない 10 自身の失敗例②: 誤り分析をしない 従来法分析 サーベイ タスク検討 従来手法の 実装/評価 従来手法の 誤り分析 アプローチ 検討 新手法の 実装/評価 新手法の 誤り分析 論文執筆 方法論の 検討 サーベイ 論文投稿 新手法検討 論文化 思い込みからアプロー チを立ててしまい、 有効性が低いことに 後で気づく アプローチ検討に 何度も戻る タスク選定
  • 12.
    Copyright©2020 NTT corp.All Rights Reserved. • 私の研究の進め方: タスク選定→従来手法の分析→新手法の検討→論文化 • 各ステップで気をつけていること – タスク選定 • サーベイやヒアリングを通じ、実用性の高いタスクを選ぶ – 従来手法の分析 • 誤り分析を通じて改善効果を予測、失敗しにくい課題を選ぶ – 新手法の検討 • 方法論選びでも実用性考慮。普段から論文を読む – 論文化 • 論文を書くときに大量のサーベイをしなくてもよいよう研究 11 私の研究の進め方 まとめ
  • 13.
    Copyright©2020 NTT corp.All Rights Reserved. • 研究活動を阻害する要因は非常に多い… – 研究時間がない • 研究以外でやるべきことが多く、研究時間が取れない – モチベーションが維持できない • 集中力が続かない、やる気が出ない • 何をしたらよいか分からない • 研究時間を作るためのタスク管理方法、 研究に対するモチベーション維持方法をお話しします – タスク管理 • 毎朝ToDoリストを作り込む • 複数の作業を同時並行で進める – モチベーション維持 • ライバルを見つける • 最終目的を振り返る 12 2. 研究を効率的に進めるためのTips
  • 14.
    Copyright©2020 NTT corp.All Rights Reserved. その日にすべきことの計画と時間配分を見積もり, 「次に何をするか」を考える隙を作らない • 出社後すぐにToDoリスト作成を行う – 2週間先までスケジュールをチェックし、 作業工程の分割、作業工程ごとの締切設定、今日やることを決める • 以降はToDoリストに沿って機械的に作業を進める – 「次なにするんだっけ」を考える隙を作らず、集中力を維持 13 タスク管理① 毎朝ToDoリストを作り込む 大, 中, 小項目に分ける 大項目: 目的 中項目: 作業内容 小項目: 作業工程 完了しても 項目を消さない
  • 15.
    Copyright©2020 NTT corp.All Rights Reserved. 自分と計算機or他者が同時作業するようタスク調整 • 自分一人では一人分の仕事しかできない – 一人分以上の生産性を出すためには? • (他者と連携して仕事する場合) 他者を活用 • 計算機を活用 • 自分+αが作業をし続けられるようタスク優先度を調整 – 例)統計モデル学習を計算機で行いつつ、自分はゼミ資料作成 開発書類チェックを他社に依頼しつつ、自分はコーディング 14 タスク管理② 複数の作業を同時に行う
  • 16.
    Copyright©2020 NTT corp.All Rights Reserved. ライバルの仕事から学び、やる気を引き出す • 年代が近く、尊敬できる人をライバルに定める – 先輩/後輩、別研究室メンバなど複数のライバルを作ると◎ • 集中力が切れたときにはライバルの業績や論文を見る – 「自分も頑張ろう!」とやる気が出る 15 モチベ維持① ライバルを見つける
  • 17.
    Copyright©2020 NTT corp.All Rights Reserved. 「本当は何がしたいのか」を思い出す • 目の前のタスク処理に追われていると、 「何のためにこの作業をしてるんだっけ?」に陥りやすい • ときどき最終目的を振り返ることが効果的 – 例)従来手法の一部を実装することは、学位を取ることが目的 説明資料を作ることは、出世して高給を取ることが目的 16 モチベ維持② 最終目的を振り返る
  • 18.
    Copyright©2020 NTT corp.All Rights Reserved. • 企業研究者 (の一人) の研究のすゝめ方 – タスク選定→従来手法の分析→新手法の検討→論文化 – まとまった数のサーベイを行い、実用性の高いタスクを選ぶ – 誤り分析により、失敗しにくいアプローチを選ぶ • 研究を効率的に進めるために – タスク管理を効率化 • ToDoリストを作り込む • 複数の作業を同時に行えるよう、優先度をコントロール – モチベーションを維持 • ライバルを見つける • 最終目的をときどき振り返る 17 まとめ