CloudStack徹底⼊入⾨門第7章〜~運⽤用と監視〜~Copyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.2013年年05⽉月14⽇日⽇日本...
■典型的な構成例例  -‐‑‒Management  Server-‐‑‒NFS  Server  (Primary/Secondary領領域)-‐‑‒Compute  Node(1台でも可→HAは無理理)  2	CloudStack構成例例M...
構築編構築編3	Copyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.
構築時のよくあるコト■SystemVMが起動しないGUIで確認するとProxy  Console  VMとSecondary  Storage  VMが「Starting」のまま4	2012-­‐11-­‐09	  05:52:31,071	 ...
SystemVMの動作(1)NFS・Compute  NodeをCloudStack  Agentとして登録すると    Compute  NodeがPrimaryStorage領領域をmountする・SystemVM起動(Deploy)時はP...
TipsSystemVMがひたすら作られて(s-‐‑‒XX-‐‑‒VMのXXがどんどんインクリメント)困った場合は「ゾーンの無効化」を⾏行行うと⽌止まります⽌止めてからmount状態等を確認しましょう  ここをクリック	Copyright  (...
運⽤用編運⽤用編7	Copyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.
仮想ルータの動作■仮想ルータ異異常・FWやLBの設定に失敗する・新しい仮想インスタンスを作成できない2012-­‐10-­‐15	  10:46:57,820	  WARN	  [network.firewall.FirewallManagerI...
仮想ルータの動作・仮想ルータは該当ネットワークで仮想インスタンスを初めて作成した際に、最初に作成される・その後、インスタンスを追加すると仮想ルータがdhcpでIPやGW情報を払い出す9	9	9	Management	  Server	  NFS...
仮想ルータの動作仮想インスタンスを作成したりネットワーク設定を⾏行行うためには該当ネットワークで仮想ルータが正常に起動している必要がある10	10	10	Management	  Server	  NFS	Compute Node	  (kvm...
仮想ルータの動作・仮想ルータのConsoleを表⽰示してみるKernel  Panicと表⽰示されて⽌止まっている可能性ありここをクリック
仮想ルータへのログイン・仮想ルータにログインしてみる仮想ルータとCompute  NodeはLink  Local  Networkで通信可能仮想ルータが起動しているCompute  Nodeにログインしそこから仮想ルータのリンクローカルアドレ...
仮想ルータへのログイン13	仮想ルータにホストからsshできます13	[root@node006	 ~]#	 ssh	 -i	 .ssh/id_rsa.cloud	 169.254.3.116	 -p	 3922	 Linux	 r-5-VM	...
仮想ルータへのログイン(Vmware)14	VMware  vSphereの場合はホストからではなく管理理サーバからログイン#  ssh  -‐‑‒i  /var/lib/cloud/management/.ssh/id_̲rsa  -‐‑‒p...
SystemVMの動作■SystemVM異異常・SnapShotを取得できないERROR	  [storage.snapshot.SnapshotManagerImpl]	  (Job-­‐Executor-­‐156:job-­‐65771)...
SecondarySystemVMにssh鍵認証でログイン16	[root@kvm02	  ~]#	  ssh	  -­‐i	  /root/.ssh/id_rsa.cloud	  169.254.1.108	  -­‐p	  3922	  L...
SecondarySystemVMで/が100%になっていないか?ファイルディスクリプタ数が制限値を超えていないか?   /var/log/messagesに何か問題が記録されていないか?17	root@s-­‐30-­‐VM:~#	  df	...
■SSVMで確認すべきログ18		  /var/log/cloud.log	  	  /var/log/cloud/cloud.out	  	  /usr/local/cloud/systemvm	  -­‐-­‐rw-­‐r-­‐-­‐r-­...
ログを⾒見見ろ、話はそれからだ■確認すべきログManagement  Server/var/log/cloud/management/management-‐‑‒server.log  →DEBUGレベルまで取得するとCloudStackの動き...
CloudStack  DB20	CloudStackで利利⽤用するDBでよく参照するtable20	Copyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Rese...
ご清聴ありがとうございました
Upcoming SlideShare
Loading in...5
×

Cloud stack徹底入門7章 20130514

1,055

Published on

Published in: Technology, Business
0 Comments
3 Likes
Statistics
Notes
  • Be the first to comment

No Downloads
Views
Total Views
1,055
On Slideshare
0
From Embeds
0
Number of Embeds
0
Actions
Shares
0
Downloads
0
Comments
0
Likes
3
Embeds 0
No embeds

No notes for slide

Cloud stack徹底入門7章 20130514

  1. 1. CloudStack徹底⼊入⾨門第7章〜~運⽤用と監視〜~Copyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.2013年年05⽉月14⽇日⽇日本CloudStackユーザー会(@MayumiK0)
  2. 2. ■典型的な構成例例  -‐‑‒Management  Server-‐‑‒NFS  Server  (Primary/Secondary領領域)-‐‑‒Compute  Node(1台でも可→HAは無理理)  2 CloudStack構成例例Management  Server  NFS Compute Node  (kvm01) Compute  Node  (kvm02) Secondary  Storage Primary  Storage ここは仮想サーバでも可 Copyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.
  3. 3. 構築編構築編3 Copyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.
  4. 4. 構築時のよくあるコト■SystemVMが起動しないGUIで確認するとProxy  Console  VMとSecondary  Storage  VMが「Starting」のまま4 2012-­‐11-­‐09  05:52:31,071  ERROR  [cloud.vm.VirtualMachineManagerImpl]  (consoleproxy-­‐1:null)  Failed  to  start  instance  VM[ConsoleProxy|v-­‐2-­‐VM]  2012-­‐11-­‐09  05:52:32,944  ERROR  [cloud.vm.VirtualMachineManagerImpl]  (secstorage-­‐1:null)  Failed  to  start  instance  VM[SecondaryStorageVm|s-­‐1-­‐VM]  2012-­‐11-­‐09  05:52:47,271  ERROR  [cloud.vm.VirtualMachineManagerImpl]  (consoleproxy-­‐1:null)  Failed  to  start  instance  VM[ConsoleProxy|v-­‐2-­‐VM]  2012-­‐11-­‐09  05:52:47,433  ERROR  [cloud.vm.VirtualMachineManagerImpl]  (secstorage-­‐1:null)  Failed  to  start  instance  VM[SecondaryStorageVm|s-­‐1-­‐VM]  2012-­‐11-­‐09  05:53:17,043  ERROR  [cloud.vm.VirtualMachineManagerImpl]  (consoleproxy-­‐1:null)  Failed  to  start  instance  VM[ConsoleProxy|v-­‐2-­‐VM]  2012-­‐11-­‐09  05:53:17,841  ERROR  [cloud.vm.VirtualMachineManagerImpl]  (secstorage-­‐1:null)  Failed  to  start  instance  VM[SecondaryStorageVm|s-­‐3-­‐VM] /var/log/cloud/management/management-‐‑‒server.logなんかものすごい勢いでSystemVMが作られては消えてゆく Copyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.
  5. 5. SystemVMの動作(1)NFS・Compute  NodeをCloudStack  Agentとして登録すると    Compute  NodeがPrimaryStorage領領域をmountする・SystemVM起動(Deploy)時はPrimaryStorage領領域に書き込む5 Copyright  (C)  2012  Japan  CloudStack  User  Group  All  Rights  Reserved.5 Management  Server  NFS Compute Node  (kvm01) Compute  Node  (kvm02) Secondary  Storage Primary  Storage [root@kvm01  ~]#  df  -­‐kh  Filesystem                        Size    Used  Avail  Use%  マウント位置 192.168.1.2:/export/primary                                                66G    8.5G      54G    14%  /mnt/cd80731a-­‐f898-­‐3ed1-­‐9538-­‐0f345d1bac6d SystemVM NFSの設定を誤るとmount領域のownerがnobody:nobodyになり  仮想イメージを書き込めない。そのためSystemVMをDeployできない 。  正しくroot:rootでmountされていることを確認しましょう  [root@kvm01  mnt]#  ls  -­‐lsa  /mnt/cd80731a-­‐f898-­‐3ed1-­‐9538-­‐0f345d1bac6d  合計 4727732              4  drwxr-­‐xr-­‐x.        3  root  root              4096  11月 14  11:53  2012  .
  6. 6. TipsSystemVMがひたすら作られて(s-‐‑‒XX-‐‑‒VMのXXがどんどんインクリメント)困った場合は「ゾーンの無効化」を⾏行行うと⽌止まります⽌止めてからmount状態等を確認しましょう  ここをクリック Copyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.
  7. 7. 運⽤用編運⽤用編7 Copyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.
  8. 8. 仮想ルータの動作■仮想ルータ異異常・FWやLBの設定に失敗する・新しい仮想インスタンスを作成できない2012-­‐10-­‐15  10:46:57,820  WARN  [network.firewall.FirewallManagerImpl]  (Job-­‐Executor-­‐49:job-­‐60965)  Failed  to  apply  firewall  rules  due  to  2012-­‐10-­‐15  12:20:01,434  WARN  [cloud.vm.UserVmManagerImpl]  (UserVm-­‐Scavenger-­‐1:null)  Failed  to  cleanup  resources  as  a  part  of  vm  VM[User|VM名]  expunge  2012-­‐10-­‐15  11:23:01,490  WARN  [cloud.network.NetworkManagerImpl]  (UserVm-­‐Scavenger-­‐1:null)  Problems  with  VirtualRouter  but  pushing  on  2012-­‐10-­‐15  11:28:13,031  WARN  [network.firewall.FirewallManagerImpl]  (UserVm-­‐Scavenger-­‐1:null)  Rules  are  not  completely  applied  2012-­‐10-­‐15  13:33:09,726  WARN  [cloud.vm.UserVmManagerImpl]  (UserVm-­‐Scavenger-­‐1:null)  Failed  to  cleanup  resources  as  a  part  of  vm  VM[User|VM名]  expunge  2012-­‐10-­‐15  15:21:06,520  WARN  [network.rules.RulesManagerImpl]  (UserVm-­‐Scavenger-­‐1:null)  Failed  to  disable  one  to  one  nat  for  the  ip  address  id187875 /var/log/cloud/management/management-‐‑‒server.logCopyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.
  9. 9. 仮想ルータの動作・仮想ルータは該当ネットワークで仮想インスタンスを初めて作成した際に、最初に作成される・その後、インスタンスを追加すると仮想ルータがdhcpでIPやGW情報を払い出す9 9 9 Management  Server  NFS Compute Node  (kvm01) Compute  Node  (kvm02) Secondary  Storage Primary  Storage 仮想ルータ 新規インスタンス Link  Local  Network Copyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.
  10. 10. 仮想ルータの動作仮想インスタンスを作成したりネットワーク設定を⾏行行うためには該当ネットワークで仮想ルータが正常に起動している必要がある10 10 10 Management  Server  NFS Compute Node  (kvm01) Compute  Node  (kvm02) Secondary  Storage Primary  Storage 仮想ルータ 新規インスタンス Link  Local  Network CloudStackではインスタンス(仮想ルータも同じ)がDeployされたらRunning状態と表⽰示される。Kernel  PanicしていてもRunningと表⽰示されている
  11. 11. 仮想ルータの動作・仮想ルータのConsoleを表⽰示してみるKernel  Panicと表⽰示されて⽌止まっている可能性ありここをクリック
  12. 12. 仮想ルータへのログイン・仮想ルータにログインしてみる仮想ルータとCompute  NodeはLink  Local  Networkで通信可能仮想ルータが起動しているCompute  Nodeにログインしそこから仮想ルータのリンクローカルアドレスにsshする    12 12 12 Management  Server  NFS Compute Node  (kvm01) Compute  Node  (kvm02) Secondary  Storage Primary  Storage 仮想ルータ インスタンス Link  Local  Network
  13. 13. 仮想ルータへのログイン13 仮想ルータにホストからsshできます13 [root@node006 ~]# ssh -i .ssh/id_rsa.cloud 169.254.3.116 -p 3922 Linux r-5-VM 2.6.32-5-686-bigmem #1 SMP Mon Jan 16 16:42:05 UTC 2012 i686 The programs included with the Debian GNU/Linux system are free software; the exact distribution terms for each program are described in the individual files in /usr/share/doc/*/copyright. Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent permitted by applicable law. Last login: Sun Dec 9 14:20:04 2012 from 169.254.0.1 Linux r-5-VM 2.6.32-5-686-bigmem #1 SMP Mon Jan 16 16:42:05 UTC 2012 i686 The programs included with the Debian GNU/Linux system are free software; the exact distribution terms for each program are described in the individual files in /usr/share/doc/*/copyright. Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent permitted by applicable law. root@r-5-VM:~# root@r-5-VM:~# date; ifconfig –a eth0 Link encap:Ethernet HWaddr 02:00:6b:3d:00:02 inet addr:10.1.1.1 Bcast:10.1.1.255 Mask:255.255.255.0 UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1 RX packets:11592 errors:0 dropped:0 overruns:0 frame:0 TX packets:8741 errors:0 dropped:0 overruns:0 carrier:0 collisions:0 txqueuelen:1000 RX bytes:972709 (949.9 KiB) TX bytes:2582211 (2.4 MiB) eth1 Link encap:Ethernet HWaddr 0e:00:a9:fe:03:74 inet addr:169.254.3.116 Bcast:169.254.255.255 Mask:255.255.0.0 UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1 RX packets:12285 errors:0 dropped:0 overruns:0 frame:0 TX packets:10166 errors:0 dropped:0 overruns:0 carrier:0 collisions:0 txqueuelen:1000 RX bytes:1937229 (1.8 MiB) TX bytes:1915520 (1.8 MiB) Copyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.
  14. 14. 仮想ルータへのログイン(Vmware)14 VMware  vSphereの場合はホストからではなく管理理サーバからログイン#  ssh  -‐‑‒i  /var/lib/cloud/management/.ssh/id_̲rsa  -‐‑‒p  3922  root@管理理IP仮想ルータの機能については以下も参考にどうぞ「CloudStack仮想ルータの謎に迫る」http://www.slideshare.net/samemoon/cloud-‐‑‒stackadventcalendar-‐‑‒20121212-‐‑‒1560114014 Proxy  Console  VMSecondary  Storage  VMも同様の⽅方法でsshできますCopyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.
  15. 15. SystemVMの動作■SystemVM異異常・SnapShotを取得できないERROR  [storage.snapshot.SnapshotManagerImpl]  (Job-­‐Executor-­‐156:job-­‐65771)  Failed  to  destroy  snapshot  id:7257  for  volume:  10221  due  to  failed  to  delete  snapshot  /mnt/SecStorage/05da41ca-­‐20b3-­‐3f1a-­‐a4af-­‐4e9279f3ed63/snapshots/117/10221/*/snapshots/1/117/10221/_20121024060343*  ,  err=Failed  to  delete  file  /mnt/SecStorage/05da41ca-­‐20b3-­‐3f1a-­‐a4af-­‐4e9279f3ed63/snapshots/117/10221/*/snapshots/1/117/10221/detached_20121024060343*,  err=java.io.IOExcepion:  Cannot  run  program  "/bin/bash":  java.io.IOExcepion:  error=24,  Too  many  open  files  ERROR  [storage.snapshot.SnapshotManagerImpl]  (Job-­‐Executor-­‐156:job-­‐65771)  Failed  to  destroy  snapshot  id:7257  for  volume:  10221  due  to  failed  to  delete  snapshot  /mnt/SecStorage/05da41ca-­‐20b3-­‐3f1a-­‐a4af-­‐4e9279f3ed63/snapshots/117/10221/*/snapshots/1/117/10221/detached_20121024060343*  ,  err=Failed  to  delete  file  /mnt/SecStorage/05da41ca-­‐20b3-­‐3f1a-­‐a4af-­‐4e9279f3ed63/snapshots/117/10221/*/snapshots/1/117/10221/_20121024060343*,  err=java.io.IOExcepion:  Cannot  run  program  "/bin/bash":  java.io.IOExcepion:  error=24,  Too  many  open  files /var/log/cloud/management/management-‐‑‒server.logCopyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.
  16. 16. SecondarySystemVMにssh鍵認証でログイン16 [root@kvm02  ~]#  ssh  -­‐i  /root/.ssh/id_rsa.cloud  169.254.1.108  -­‐p  3922  Linux  s-­‐30-­‐VM  2.6.32-­‐5-­‐686-­‐bigmem  #1  SMP  Mon  Jan  16  16:42:05  UTC  2012  i686    The  programs  included  with  the  Debian  GNU/Linux  system  are  free  solware;  the  exact  distribuion  terms  for  each  program  are  described  in  the  individual  files  in  /usr/share/doc/*/copyright.    Debian  GNU/Linux  comes  with  ABSOLUTELY  NO  WARRANTY,  to  the  extent  permiped  by  applicable  law.  Last  login:  Wed  Nov  14  10:57:33  2012  from  169.254.0.1  Linux  s-­‐30-­‐VM  2.6.32-­‐5-­‐686-­‐bigmem  #1  SMP  Mon  Jan  16  16:42:05  UTC  2012  i686    The  programs  included  with  the  Debian  GNU/Linux  system  are  free  solware;  the  exact  distribuion  terms  for  each  program  are  described  in  the  individual  files  in  /usr/share/doc/*/copyright.    Debian  GNU/Linux  comes  with  ABSOLUTELY  NO  WARRANTY,  to  the  extent  permiped  by  applicable  law.  root@s-­‐30-­‐VM:~#   SSVMの動作Copyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.
  17. 17. SecondarySystemVMで/が100%になっていないか?ファイルディスクリプタ数が制限値を超えていないか?   /var/log/messagesに何か問題が記録されていないか?17 root@s-­‐30-­‐VM:~#  df  -­‐k  Filesystem                      1K-­‐blocks            Used  Available  Use%  Mounted  on  /dev/vda1                            2015820        477092      1436332    25%  /  tmpfs                                      127288                  0        127288      0%  /lib/init/rw  udev                                        122804                88        122716      1%  /dev  tmpfs                                      127288                  0        127288      0%  /dev/shm  10.189.0.4:/export/secondary                                            2030981504  246022528  1681791104    13%  /mnt/SecStorage/155a7801-­‐ae4a-­‐31a3-­‐ba75-­‐e08d2a5f5d10 SSVMの動作Copyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.
  18. 18. ■SSVMで確認すべきログ18  /var/log/cloud.log    /var/log/cloud/cloud.out    /usr/local/cloud/systemvm  -­‐-­‐rw-­‐r-­‐-­‐r-­‐-­‐  1  root  staff  65017047  May    8  23:59  cloud.log.2013-­‐05-­‐08  -­‐rw-­‐r-­‐-­‐r-­‐-­‐  1  root  staff  68459274  May    9  23:59  cloud.log.2013-­‐05-­‐09  -­‐rw-­‐r-­‐-­‐r-­‐-­‐  1  root  staff  67827498  May  10  23:59  cloud.log.2013-­‐05-­‐10  -­‐rw-­‐r-­‐-­‐r-­‐-­‐  1  root  staff    3537291  May  11  02:18  cloud.log.2013-­‐05-­‐11  -­‐rw-­‐r-­‐-­‐r-­‐-­‐  1  root  staff    1884671  May  14  03:25  cloud.log    root@s-­‐1020-­‐VM:/usr/local/cloud/systemvm#  df  -­‐k  Filesystem                      1K-­‐blocks            Used  Available  Use%  Mounted  on  /dev/vda1                            2015820      1609048        304376    85%  /  tmpfs                                      127288                  0        127288      0%  /lib/init/rw  udev                                        122804                88        122716      1%  /dev  tmpfs                                      127288                  0        127288      0%  /dev/shm  10.189.0.4:/export/secondary/neotokyo                                            2030981504  321404544  1606408960    17%  /mnt/SecStorage/59b8f0e4-­‐da42-­‐3526-­‐9e58-­‐6091f0fa5bce   SSVMの動作Copyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.
  19. 19. ログを⾒見見ろ、話はそれからだ■確認すべきログManagement  Server/var/log/cloud/management/management-‐‑‒server.log  →DEBUGレベルまで取得するとCloudStackの動きが        わかりやすい  →コマンド名でgrep  (DeployVM等)  →job番号でコマンドの動きを確認/var/log/cloud/management/api-‐‑‒server.log  →GUIからどのようなコマンドが実⾏行行されたか記録されるCompute  Node/var/log/cloud/agent/agent.log19 Copyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.
  20. 20. CloudStack  DB20 CloudStackで利利⽤用するDBでよく参照するtable20 Copyright  (C)  2013  Japan  CloudStack  User  Group  All  Rights  Reserved.
  21. 21. ご清聴ありがとうございました

×