Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

[DLHacks] DLHacks説明資料

7,651 views

Published on

Deep Learning JP:
http://deeplearning.jp/hacks/

Published in: Technology
  • Be the first to comment

[DLHacks] DLHacks説明資料

  1. 1. DLHacks 説明資料 2017年9月時点 松尾研 曽根岡侑也 1
  2. 2. DLHacks 概要 • 目的
 最新論文を実装できる人に最短でなるための修業の場 • 活動内容 - 各自論文を読んで実装し共有 - 毎週の勉強会(1名ずつ発表)で解説・ノウハウシェア - その他、実装で役に立つTipsも共有 - Slack + Githubで随時相談 - 計算リソースの提供 • コミット必須 2
  3. 3. 3 研究活動世 の 中 の 論 文 ビジネス 個々人が別々に調査・実装 DL Hacksでのサポート
  4. 4. DL Hacksでのサポート 4 世 の 中 の 論 文 ① フ ィ ル タ リ ン グ よ さ げ な 論 文 ② 実 装 Reddit Twitter リソースA リソースB リソースC ・ ・ ・ 論文選択と実装のサポート 研究活動 ビジネス
  5. 5. 参加者がやること 5 論文リストやその他リソースから自分の興味に応じて
 実装する論文を選択 or こちらで推薦 論文選択 選択した論文をTensorFlowやPytorchで実装 計算機リソース等のインフラは提供 実装 実装後に週次勉強会で論文と実装を発表・フィードバック その後、githubやブログで公開 発表
  6. 6. サポート①:論文フィルタリング 6 自分で探す松尾研提供 松尾研研究員等がリストを作成
 • 岩澤 有祐
 松尾研特任研究員
 • 鈴木雅大
 松尾研博士3年
 • その他研究室内で話題の論文 • 学会 - NIPS, ICML, ICLR等 • SNS - Reddit - Twitter - その他 • まとめサイト - Creative AI - GAN Zoo - Arxiv-Sanity   など
  7. 7. サポート②:実装 • 計算機リソース提供 - GPUマシン1台確保 • ノウハウ共有 - 勉強会での共有・フィードバック - Slackでの随時質問 - Githubでのコードレビュー 7
  8. 8. 目標:世界のトップは3日で実装 8 Attention Is All You Need 6/12 arxiv投稿 TensorFlow 6/17 実装開始 19 完了 韓国人 Chainer 6/14 実装開始 17 完了 PFN Star:67(現在302) Reddit:5位 Star:126 Reddit:45位 (6/19 13時時点)
  9. 9. DL Seminersよりコミット必要 • 3~4ヶ月に1回発表 • 目安:最初は最低80時間ほどかかるかも - DL基礎講座修了レベル ✕ 最近の論文(TextGAN) - 論文精読:20 ~ 30時間 - frameworkの勉強:30時間 - 実装:30時間~ • TextCNN:10時間 • TextGAN:30時間 - データテスト:10時間 9
  10. 10. 進め方 1.実装する論文と各自の発表日時を決める 2.毎週のミーティングで進捗共有(必須) - 必ず進捗を持ってきてください 3.毎週のミーティングで実装発表 - 月曜日20:30~@φカフェ 4.ブログなどにして外部発信(1に戻る) 10
  11. 11. 勉強会の時間構成 11 実装発表 45分 論文発表 15分 LT 15分 進捗報告・相談 15分 【担当】スケジュールで決まっている人 • 10分:発表論文のRecap • 35分:実装&質問
 (再現だけでなく+αがあるといい) 【担当】次の週実装発表する人 • 次週発表する論文の内容 【担当】有志 • 実装していて気づいたTipsなどの共有 【担当】全員 • 現在やっていること、困りごとの共有 • 以前に発表したもののアップデートなど • 最近やっている取組など

×