Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

[DL輪読会]Deep Learning 第20章 深層生成モデル

456 views

Published on

2018/01/29
Deep Learning JP:
http://deeplearning.jp/seminar-2/

Published in: Technology
  • Be the first to comment

[DL輪読会]Deep Learning 第20章 深層生成モデル

  1. 1. ����������������� ���� ���� ������� ���������������������� ��������� �� � �D ����������� ������� ���� ����
  2. 2. • – • • – ! ∈ 0,1 & ' = ( ) ( )
  3. 3. • – • • –
  4. 4. • – Z [Long and Servedio, 2010] → P(v)
  5. 5. ������������� • ������ �� � �� �� � �������� • ������ ������������ �∵ ���������
  6. 6. ���������������������� • ����������� – ���������� !(2$ ) ������� – ����������������������� • ������ ����������������� – ����������������������� – ��������������������������������� – ��������������� ���������� ������
  7. 7. • – – –
  8. 8. • – – – • –
  9. 9. �� � ���������� • ������� – ��������������������������� – ������������������ – �����������������������������
  10. 10. • – • •
  11. 11. ������ ������ • ����C ������������� �� � ������� – ������������������������������������� • �������C����C������� • ������������������������������ – �����C���������C������������������ • ���������� • ������������������������������������ • �����������C������ – ����C��������� ������������������ – ����C�������� ������������������
  12. 12. • !(# $ , # & |() – • – • !(# $ , # & |() – # $ , # & – –
  13. 13. • – !(#|%) (#|%) – log !(%; +) ℒ(%, ., /) – 0123(/) • –
  14. 14. �� � � ������� • ������������� – ����������� � ����������������������� – ������� ���������� • �������������� – �������� ������������� – ���������������������������������� ��������������� ����������������� • ���������� �������� ���������������� • �������������������������������������� ��������������
  15. 15. ������ ��������������� ����������������������������������� ����� ������ • ������������� ��������� ������������������ – ������������� �! − # ≈ 0 • ������������������������������������� ������������� – ���������������������� – ���� ���������������������
  16. 16. ���������������������� • ������������� ����������� ������������ – ������ ���������������������������� • ��������������������������������� – ������������������� • ������������������� – ��������������������� • ������������� – 5��������
  17. 17. jghp • ������������� – ��������G������������� ����������������������� – ���� ���������������������������������&�����&������������������ ������������G������������������& • kfb��dn����������dn – ���������������������������������������������&���������������������������� G • ����modn – ������������������������������&����������G����������� �����������������������������&
  18. 18. • • • • • • • • • • • • • • • •
  19. 19. • – •
  20. 20. • • • ! • – !
  21. 21. • – • – – –
  22. 22. ������ ������������� • ����������������������������������� – ��������������������������������������� ��� – ���������������������� – �������� ��������������������� ����� • ���������� • ��������������� • ��������������� – ! " �������������! # ������������
  23. 23. ������ ������������� • ����������������������������������� – ������ – ! " �! # ����������������������� • �������� • ������
  24. 24. ������ ������������� • ������������������������������������� – ����������������������� – ������������������������������ – �������
  25. 25. ������ ������������� • �������������������������� – ������ • ��� ������ ����! • ���� ����� ����" – ��������������������������� ! ⊙ " $⊺���� – ������� – !�����������������������
  26. 26. ���� ������������ • ������������������ – �������������������������������� • �������������������������� – �������������������������������������� • ���! + 1������������������������������ – ����������������
  27. 27. • !(#|%) – – !(% ' |% ( , … , %('+()) • – %(') • –
  28. 28. �� � ������������ • ��������������������� – log$(&|()����������������������������������� – ��������������������������������� ����� ����� • ��������������������������� ������������������������������������ ����� – ��������������������
  29. 29. • ! • ! – " • • " #(!, ") – #
  30. 30. • ! "# y y ~ & !, "# – y • z ~ & ); 0,1 - = ! + ") – ) •
  31. 31. ���� ������������� • ������������������� ������ – ��������� – !(y; %)P!(y; ', %)���������!(y|*)�����*�%P'������ ��!(y|*)���y����������� + ~ ! + * � + = . /; * ��������/����������� • .����������������������������� – 0������������ » ������������������������������ ����������������������*��������
  32. 32. • – ! • J(!) % – – &'[J(!)] –
  33. 33. ������ ����������������� • ��������������������b – ������������������������������ • ��������������������������� – ��������������� • �����J(#)��� • �������������� • ���������
  34. 34. • – • !" #" $ – –
  35. 35. ���������������� • ������������������ • ����������������������402����������� ��������������������� • ������������������������ – ������������������������������������������������������������
  36. 36. �� �� ��������������� • ���������������������������������� – ���������!���������������������� – ������������������������������
  37. 37. ��������������������� • ������������� – ��������������������������������������� ��������������� – ������������������������������������������ ���������
  38. 38. • – !(#; %(&) ) # ( # • • • – –
  39. 39. �� �� ���������������� • � ���������������� – !����"������������ – ���������������� • � �������������������� – !����"������������ – ����������� • ��������������������������������������� �����
  40. 40. • – –
  41. 41. • – ! ℒ($) • – – $(&|!) ()*+,-(&)
  42. 42. • – • – !"#(%&'('||%*+&,-)
  43. 43. • – –
  44. 44. • – ! = #(%; '(() ) – ! *(!; '(+) ) • – ,(#, *) • – '(() max + ,(#, *)
  45. 45. ��������������������-�� • -����������� – max $ %(', ))������������� • �� �% +, , = +,���-�������������������� • �����������������������������������������������������-�������-�������
  46. 46. • – – –
  47. 47. • – –
  48. 48. • – • ! ! • – • –
  49. 49. �������������������� • ���������������������������������� �������������������������� • ���������� – �������������� – �������������������������������
  50. 50. ���� � • �� – ����������������������������������� • �������������������������������������������������� – ������������������������������������������������������������������������� �������������������� • �������������������������������� – �������������������������������������������������������������������� • �������������������������������� – ������������������������������������������� ����������� ������� • �������������������������������� – ��������������������������������������������������������������� ��������������������������������������������� • ��������������������������������
  51. 51. ���� � • �������9�D�D� – 69D������������������9 ��D������9��D���������� – ���� ������������9�9��D���������������������������������������� ����69D�������������������������
  52. 52. ����������������� ���� ���� ������� �������������������2����� �� ���������� ����
  53. 53. ������������������ • ���������� – ������������������ – ������������������������� – ����������������������� ������������������������������������ – ��������������� ����������������������������� • ������ �������������� • ������ ��������� �����������������������������
  54. 54. • – – • – – • • FVBN FVBN
  55. 55. ������� ��������������� • ��������������� – �������������������������� – ����������������������������� – �������� ���������������� • � ����������������������������������� �������������������������������� ���
  56. 56. ������������� • – ����������� ���������������������������������� – ������������������������������� – ���������������������������������
  57. 57. ������������� • ���������������������������� – �������������������������� – ��������������������������������������� ������������������������������ • �������������������������� – ������������������������������������ ���������������������������������������� ������ – ������ ������� � �� ������������ �������� ����������
  58. 58. ����� ��������������� • ���������������������������������� – ������������������ �������������� ������������� – ������������������������������� • ��������������������������������������� ������������ • �����������������������������������
  59. 59. • – – C ω
  60. 60. • –
  61. 61. �������������������� • ������������ �������������������������-��� – -�������� �������������������� – ����������������������������������������� ��� ������������������������� • ������������������ �������������� ����� ��� – ��������������������������������
  62. 62. ����� ����������� ���������� ��� • ������������������������������������ – 2�������� �������� – ���� ����������������������� ���� – ��� � ��� �� ������������������������������������� ����������������2�������� ������������������������� – ��� � ��� �� ������� ����������������������������������� ������ • �� ��� – ��������������������������������������� �������� � ��������� – ������ ����������������������
  63. 63. • – – • • • – • – •
  64. 64. • – • – • – • – – • • – –
  65. 65. • • – – – •
  66. 66. ���� • �������9�D�D� – 69D������������������9 ��D������9��D���������� – ���� ������������9�9��D���������������������������������������� ����69D�������������������������

×