Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.
ディープラーニング用語集
自動運転車や高度な予防医療から、
ファッションに関する適確なアドバイスまで、
これらすべてを実現するのが、ディープラーニングです。
ディープラーニングについてさらに理解を深めていただけるよう、
RE-WORK 社が公開した A-Z 用語集のキーワードを
関連資料と併せてご紹介します。
人工ニューラル ネットワーク (ANN) とは
「人間の脳のニューロン構造を
大まかに模した処理装置」
出典: ウィスコンシン大学マディソン校
ARTIFICIAL NEURAL NETWORKS (ANN’S)
NVIDIA の応用研究
DM...
ビッグ データとは
「日々のビジネスで発生する膨大な量の
構造化および非構造化データ」
出典:『SAS Insights』
BIG DATA
各業界における AI を活用した分析
金融 (英語) 通信 (英語) IoT (英語)
畳み込みニューラル ネットワークとは
「標準的な多層ニューラル ネットワークで、
1 つ以上の畳み込み層が、1 つ以上の
全結合層へとつながっている構成」
出典: UFLDL
CONVOLUTIONAL NEURAL NETWORKS
NVID...
ディープラーニングとは
「コンピューターが経験したことを学習し、
概念の階層を通じて世界を理解する
機械学習の方式」
出典: イアン・グッドフェロー氏、ヨシュア・ベンジオ氏、アーロン・カービル氏
DEEP LEARNING
ディープラーニングの...
エンベディング (埋め込み) とは
「入力された情報の表現方法、または
エンコード。たとえば、ニューラル ワード
エンベディングは、ある単語を表現する
ベクトルを意味する」
出典: Deeplearning4j
EMBEDDING
研究発表
埋...
フィードフォワード ネットワークとは
「入力から出力へ信号が 1 方向に流れる
ネットワーク。フィードバック (ループ) がない
ため、出力が同じ層に影響することはない」
出典: インぺリアル カレッジ
FEEDFORWARD NETWORK
...
敵対的生成ネットワークとは
「教師なし機械学習に用いられるアルゴリズム。
ゼロ サム ゲームのフレームワーク内で
相対して学習する 2 つのニューラル
ネットワークで構成される」
出典: イアン・グッドフェロー氏
GENERATIVE ADVE...
ハイウェイ ネットワークとは
「情報ハイウェイと呼ばれる高速な通信網を
利用して、速度を落とさずに複数の
RNN 層に情報を流すアーキテクチャ」
出典: Deeplearning4j
HIGHWAY NETWORKS
研究発表
VQA (ビジュ...
初期化とは
「ディープ モデルのトレーニングは実に難しく、初期化の方法が
アルゴリズムに大きく影響する。アルゴリズムの収束は初期値に左右され、
不安定な初期値は数値の問題やエラーが発生する原因にもなり得る」
出典: イアン・グッドフェロー氏
I...
ジッターとは
「トレーニング時に入力に追加される人工的な
ノイズ。ニューラル ネットワークの規則化や
規則の強化のために用いられる」
出典: Aidoc 社 CTO、マイケル・ブラギンスキー氏
JITTER
チュートリアル
ジッターとは (英語)
K 平均法アルゴリズムとは
「ラベル付けされていない (カテゴリやグループが未定義の) データに対して
用いられる教師なし学習の方法。グループの数を変数 K とし、データ内の
グループを見つけ出すために用いられる」
出典: DataScienc...
損失関数とは
「個々の推論に対して損失値を算出する関数。
推論が正しければ損失値は小さく、推論から
外れると損失値は大きくなる」
出典: Aidoc 社 CTO、マイケル・ブラギンスキー氏
LOSS FUNCTION
NVIDIA の応用研究
...
多層パーセプトロン (MLP) とは
「線形に分離できないデータを非線形の活性化関数を用いて処理する、
複数の全結合層を持つフィードフォワード ネットワーク。多層ニューラル
ネットワークの基本型、または、2 層以上で構成されるディープ ニューラ...
自然言語処理とは
「人間の言語 (英語、スペイン語、日本語など) の構造や意味を理解して、
コンピューターがユーザーと自然に対話できるようにする技術」
出典: Gartner Research
NATURAL LANGUAGE PROCESSI...
ワンショット ラーニングとは
「コンピューターが経験したことを学習し、
概念の階層を通じて世界を理解する
機械学習の方式何千ものサンプルを学習
する従来の機械学習モデルに対して、1 つ
またはごく少量のトレーニング サンプルをアル
ゴリズムに学...
プーリングとは
「畳み込みニューラル ネットワークに
存在する層の一種で、ニューロンからの
情報を近接する受容野に連携する」
出典: Aidoc 社 CTO、マイケル・ブラギンスキー氏
POOLING
ブログ
Parallel Forall –...
Q ネットワークとは
「DQN (ディープ Q ネットワーク) と呼ばれる新しい人工知能。
エンドツーエンドの強化学習を用いて、高次元のセンサーから直接、
攻略法を学習できる」
出典: スティグ・ピーターセン著 (2015 年)『Human-l...
強化学習とは
「機械学習の一種で、目的指向型の学習方法。
強化学習アルゴリズムでは、数多くの行動の
選択とその結果で得られる報酬を学習し、
報酬を最大化することを目的とする」
出典: Deeplearning4j
REINFORCEMENT L...
ソフトマックス回帰とは
「ニューラル ネットワークの出力層として入力を分類する関数。
スコアのベクトルを累乗してから定数で割って正規化することで、
ベクトルをクラス確率に変換する」
出典: Deeplearning4j
SOFTMAX REGR...
転移学習とは
「関連タスクやドメイン内のラベル付けされた既存データを利用して
新しいモデルをトレーニングすること。ソース ドメインのソース タスクを
解決する際に獲得した知識を蓄積し、他の問題に応用する」
出典: セバスチャン・ルダー氏
TRA...
教師なし学習とは
「ラベルのない入力データで構成される
データセットから推論結果を導く、
機械学習アルゴリズムの一種」
出典: MathWorks
UNSUPERVISED LEARNING
ブログ
教師なし学習を芸術分野に活用
変分オートエンコーダーとは
「学習済みの近似的推論を用いた、
勾配法のみでトレーニング可能な
有向モデル」
出典: イアン・グッドフェロー氏
VARIATIONAL AUTOENCODER
ブログ
オートエンコーダー モデルを用いてコンピュータ...
重み減衰とは
「大きな重みに対して、重みの 2 乗 (L2)
または絶対値 (L1) のペナルティまたは
制限を課すこと」
出典: ジェフリー・ヒントン著
『Neural networks for machine learning』
WEIGH...
XAVIER の初期化とは
「 X と Y の分散を変更せずに、重みを初期化する手法。
このプロセスを、XAVIER の初期化と呼ぶ」
出典: プラティク・ジョシ氏
XAVIER INITIALIZATION
研究発表
ディープ フィードフォワ...
ヨシュア・ベンジオ氏とヤン・ルカン氏は
「ディープラーニングの進歩に多大な貢献をしたパイオニア。
10 月にモントリオールで開催されるディープラーニング サミットにて、
「パネル オブ パイオニア」として登壇する予定」
出典: RE-WORK ...
ゼロショット ラーニングとは
「ラベル付きサンプルを一切使用しない、
究極の転移学習の方法」
出典: イアン・グッドフェロー氏
ZERO-SHOT LEARNING
研究発表
クロスモーダル転移によるゼロショット ラーニング (英語)
詳細を確認する
ディープラーニングと AI に関する最新情報を
ぜひチェックしてください
Upcoming SlideShare
Loading in …5
×

NVIDIA ディープラーニング用語集

7,795 views

Published on

自動運転車、高度な予防医療から、ファッションに関する適確なアドバイスまで、これらすべてを実現するのがディープラーニングです。ディープラーニングについてさらに理解を深めていただけるよう、A から Z までの用語集を作成しました。関連資料を併せてご紹介しているので、より詳しい解説が必要な際にも非常に役立ちます。ぜひご活用ください。

Published in: Technology
  • Be the first to comment

NVIDIA ディープラーニング用語集

  1. 1. ディープラーニング用語集
  2. 2. 自動運転車や高度な予防医療から、 ファッションに関する適確なアドバイスまで、 これらすべてを実現するのが、ディープラーニングです。
  3. 3. ディープラーニングについてさらに理解を深めていただけるよう、 RE-WORK 社が公開した A-Z 用語集のキーワードを 関連資料と併せてご紹介します。
  4. 4. 人工ニューラル ネットワーク (ANN) とは 「人間の脳のニューロン構造を 大まかに模した処理装置」 出典: ウィスコンシン大学マディソン校 ARTIFICIAL NEURAL NETWORKS (ANN’S) NVIDIA の応用研究 DMA エンジンの圧縮 (英語) 表情認識 (英語) 動画の分類 (英語)
  5. 5. ビッグ データとは 「日々のビジネスで発生する膨大な量の 構造化および非構造化データ」 出典:『SAS Insights』 BIG DATA 各業界における AI を活用した分析 金融 (英語) 通信 (英語) IoT (英語)
  6. 6. 畳み込みニューラル ネットワークとは 「標準的な多層ニューラル ネットワークで、 1 つ以上の畳み込み層が、1 つ以上の 全結合層へとつながっている構成」 出典: UFLDL CONVOLUTIONAL NEURAL NETWORKS NVIDIA の応用研究 ハンド ジェスチャの検知と分類 (英語) リソース効率化に関する推論 (英語)
  7. 7. ディープラーニングとは 「コンピューターが経験したことを学習し、 概念の階層を通じて世界を理解する 機械学習の方式」 出典: イアン・グッドフェロー氏、ヨシュア・ベンジオ氏、アーロン・カービル氏 DEEP LEARNING ディープラーニングの応用 金融業界の変革 (英語) がんの検出 (英語) 自動運転車におけるディープラーニング
  8. 8. エンベディング (埋め込み) とは 「入力された情報の表現方法、または エンコード。たとえば、ニューラル ワード エンベディングは、ある単語を表現する ベクトルを意味する」 出典: Deeplearning4j EMBEDDING 研究発表 埋め込み型ニューラル ネットワークの構築 (英語)
  9. 9. フィードフォワード ネットワークとは 「入力から出力へ信号が 1 方向に流れる ネットワーク。フィードバック (ループ) がない ため、出力が同じ層に影響することはない」 出典: インぺリアル カレッジ FEEDFORWARD NETWORK チュートリアル DIGITS でフィードフォワード ネットワークを構築 (英語)
  10. 10. 敵対的生成ネットワークとは 「教師なし機械学習に用いられるアルゴリズム。 ゼロ サム ゲームのフレームワーク内で 相対して学習する 2 つのニューラル ネットワークで構成される」 出典: イアン・グッドフェロー氏 GENERATIVE ADVERSARIAL NETWORKS 敵対的生成ネットワークの起源 イアン・グッドフェロー氏のポッドキャスト (英語) GTC 17 トーク – 敵対的生成ネットワーク (英語)
  11. 11. ハイウェイ ネットワークとは 「情報ハイウェイと呼ばれる高速な通信網を 利用して、速度を落とさずに複数の RNN 層に情報を流すアーキテクチャ」 出典: Deeplearning4j HIGHWAY NETWORKS 研究発表 VQA (ビジュアル質問応答) のためのハイウェイ ネットワーク (英語)
  12. 12. 初期化とは 「ディープ モデルのトレーニングは実に難しく、初期化の方法が アルゴリズムに大きく影響する。アルゴリズムの収束は初期値に左右され、 不安定な初期値は数値の問題やエラーが発生する原因にもなり得る」 出典: イアン・グッドフェロー氏 INITIALIZATION 記事 ディープ ニューラル ネットワークにおける重みの初期化 (英語)
  13. 13. ジッターとは 「トレーニング時に入力に追加される人工的な ノイズ。ニューラル ネットワークの規則化や 規則の強化のために用いられる」 出典: Aidoc 社 CTO、マイケル・ブラギンスキー氏 JITTER チュートリアル ジッターとは (英語)
  14. 14. K 平均法アルゴリズムとは 「ラベル付けされていない (カテゴリやグループが未定義の) データに対して 用いられる教師なし学習の方法。グループの数を変数 K とし、データ内の グループを見つけ出すために用いられる」 出典: DataScience.Com K-MEANS ALGORITHM チュートリアル CUDA を実装した K 平均法クラスタリング アルゴリズム (英語)
  15. 15. 損失関数とは 「個々の推論に対して損失値を算出する関数。 推論が正しければ損失値は小さく、推論から 外れると損失値は大きくなる」 出典: Aidoc 社 CTO、マイケル・ブラギンスキー氏 LOSS FUNCTION NVIDIA の応用研究 画像復元における損失関数 (英語)
  16. 16. 多層パーセプトロン (MLP) とは 「線形に分離できないデータを非線形の活性化関数を用いて処理する、 複数の全結合層を持つフィードフォワード ネットワーク。多層ニューラル ネットワークの基本型、または、2 層以上で構成されるディープ ニューラル ネットワークのことを指す」 出典: deeplearning.net MULTILAYER PERCEPTRON (MLP) 研究発表 GPU を用いた多層パーセプトロン (英語)
  17. 17. 自然言語処理とは 「人間の言語 (英語、スペイン語、日本語など) の構造や意味を理解して、 コンピューターがユーザーと自然に対話できるようにする技術」 出典: Gartner Research NATURAL LANGUAGE PROCESSING ブログ NVIDIA Developer – 自然言語処理 (英語)
  18. 18. ワンショット ラーニングとは 「コンピューターが経験したことを学習し、 概念の階層を通じて世界を理解する 機械学習の方式何千ものサンプルを学習 する従来の機械学習モデルに対して、1 つ またはごく少量のトレーニング サンプルをアル ゴリズムに学習させる方式」 出典: スショヴァン・ハルダー氏 ONE-SHOT LEARNING 研究発表 OpenAI とカリフォルニア大学バークレー校によるワンショット模倣学習 (英語)
  19. 19. プーリングとは 「畳み込みニューラル ネットワークに 存在する層の一種で、ニューロンからの 情報を近接する受容野に連携する」 出典: Aidoc 社 CTO、マイケル・ブラギンスキー氏 POOLING ブログ Parallel Forall – ディープラーニングの概要: 基本概念 (英語)
  20. 20. Q ネットワークとは 「DQN (ディープ Q ネットワーク) と呼ばれる新しい人工知能。 エンドツーエンドの強化学習を用いて、高次元のセンサーから直接、 攻略法を学習できる」 出典: スティグ・ピーターセン著 (2015 年)『Human-level control through deep reinforcement learning』 Q-NETWORKS ブログ OpenAI Gym で Q ネットワークにブロック崩しをトレーニング (英語)
  21. 21. 強化学習とは 「機械学習の一種で、目的指向型の学習方法。 強化学習アルゴリズムでは、数多くの行動の 選択とその結果で得られる報酬を学習し、 報酬を最大化することを目的とする」 出典: Deeplearning4j REINFORCEMENT LEARNING ブログ ディープラーニングの概要: 強化学習 (英語)
  22. 22. ソフトマックス回帰とは 「ニューラル ネットワークの出力層として入力を分類する関数。 スコアのベクトルを累乗してから定数で割って正規化することで、 ベクトルをクラス確率に変換する」 出典: Deeplearning4j SOFTMAX REGRESSION チュートリアル スタンフォード大学 – ソフトマックス回帰 (英語)
  23. 23. 転移学習とは 「関連タスクやドメイン内のラベル付けされた既存データを利用して 新しいモデルをトレーニングすること。ソース ドメインのソース タスクを 解決する際に獲得した知識を蓄積し、他の問題に応用する」 出典: セバスチャン・ルダー氏 TRANSFER LEARNING 研究発表 特徴把握による転移学習を遠隔検知と貧困マッピングに活用 (英語)
  24. 24. 教師なし学習とは 「ラベルのない入力データで構成される データセットから推論結果を導く、 機械学習アルゴリズムの一種」 出典: MathWorks UNSUPERVISED LEARNING ブログ 教師なし学習を芸術分野に活用
  25. 25. 変分オートエンコーダーとは 「学習済みの近似的推論を用いた、 勾配法のみでトレーニング可能な 有向モデル」 出典: イアン・グッドフェロー氏 VARIATIONAL AUTOENCODER ブログ オートエンコーダー モデルを用いてコンピューターが服をデザイン (英語)
  26. 26. 重み減衰とは 「大きな重みに対して、重みの 2 乗 (L2) または絶対値 (L1) のペナルティまたは 制限を課すこと」 出典: ジェフリー・ヒントン著 『Neural networks for machine learning』 WEIGHT DECAY 研究発表 重み減衰による汎化性能向上 (英語)
  27. 27. XAVIER の初期化とは 「 X と Y の分散を変更せずに、重みを初期化する手法。 このプロセスを、XAVIER の初期化と呼ぶ」 出典: プラティク・ジョシ氏 XAVIER INITIALIZATION 研究発表 ディープ フィードフォワード ニューラル ネットワークのトレーニングの難しさについて (英語)
  28. 28. ヨシュア・ベンジオ氏とヤン・ルカン氏は 「ディープラーニングの進歩に多大な貢献をしたパイオニア。 10 月にモントリオールで開催されるディープラーニング サミットにて、 「パネル オブ パイオニア」として登壇する予定」 出典: RE-WORK 用語集 YOSHUA BENGIO & 業績 AI の活用で躍進するロボット工学、物理学、医学 – ヤン・ルカン氏 (英語) YANN LECUN ディープラーニングが AI を進化させる – ヨシュア・ベンジオ氏 (英語)
  29. 29. ゼロショット ラーニングとは 「ラベル付きサンプルを一切使用しない、 究極の転移学習の方法」 出典: イアン・グッドフェロー氏 ZERO-SHOT LEARNING 研究発表 クロスモーダル転移によるゼロショット ラーニング (英語)
  30. 30. 詳細を確認する ディープラーニングと AI に関する最新情報を ぜひチェックしてください

×