Download as PDF, PPTX
はてなのサービスの開発環境
- 1. はてなのサービスの開発環境 2014/02/07 Hatena EngineerSeminar #4 id:astj
- 2. アジェンダ • 自己紹介 • 開発環境の整備 •はてなブックマーク - vagrant • はてなブログ - plackup • Conclusion
- 3.
- 4.
- 5.
- 6. • Perl /Elasticsearch / JavaScript • ブックマーク 開発環境のメンテナンス(vagrant etc.) • B!KUMA メインエンジニア (~2015/01) • http://bkuma.hatena.ne.jp/
- 7. LET'STALK ! • はてなのエンジニア生活 •1年目いろいろ 懇親会でぜひ
- 8.
- 9. Hatena Engineer Seminar#2 https://speakerdeck.com/aereal/vagrant-to-chef-detukuruhatenabutukumakufalsekai-fa-huan-jing
- 10.
- 11. • サーバを起動し動作確認・開発 • デザイナーの手元にも整備 •テストコードの実行環境 • (調査スクリプトなどの動作環境) • (less, typescript などの自動コンパイル)
- 12. • 開発者のマシン上で直接実行 • plenv,carton... • 環境を仮想マシン内に構築 • Vagrant • 複雑/レガシーな環境への対応性 • パフォーマンスオーバーヘッド
- 13. • Vagrantによる複雑/レガシーな環境の仮想化 • はてなブックマーク •ホストマシン上で直接動作する環境 • はてなブログ
- 14.
- 15. Hatena Engineer Seminar#2 https://speakerdeck.com/aereal/vagrant-to-chef-detukuruhatenabutukumakufalsekai-fa-huan-jing
- 16.
- 17.
- 18.
- 19. はてなブックマーク • perl 5.8.8 •Ridge(自社製WAF) • MoCo(自社製ORM) • apache mod_perl2
- 20. はてなブックマーク • TypeScript (部分的) •less (部分的) gulp ...=>grunt=>gulp
- 21. はてなブックマーク • apache +nginx • MySQL • memcached • Elasticsearch (2014/06~) • (内製サブシステム)
- 22. 本番サーバ構成 • CentOS • chef •rpm • 社内でrpmをビルド・ホスティング • CPAN モジュール • etc...
- 23.
- 24.
- 25. • "コマンド一発で環境が立ち上がる" • gulp,アプリケーション, memcached, ... • 複数のプロセスをProcletで管理 • "foreman for perl"
- 26. my $proclet =Proclet->new(! color => $opts->{color},! );! ! $proclet->service(! tag => 'app',! code => sub {! Ridge::Daemon->run('Hatena::Bookmark', +{! root => $RootDir,! port => $opts->{port},! fast => $opts->{fast},! verbose => $opts->{verbose},! reboot_on_reload => $opts->{reboot},! });! },! );! ! $proclet->service(! tag => 'gulp',! code => sub {! exec qw(script/tools/node node_modules/.bin/gulp devel);! },! );! ! $proclet->run;
- 27.
- 28. • CPAN モジュールの複雑な依存関係 •cpanm --installdepsだけで わない • 古いCPANモジュールを使い続ける必要性 • 多様な手元環境 • OS X,Windows, Linux(Debian)...
- 29. cpanm trouble!! • cpanm--installdepsではうまく依存管理できない • テストが落ちることが分かっているモジュール • 厳密にバージョンロックできない • Carton導入? • もうCPANにない古いモジュール • 本番では使わない
- 30.
- 32. • VM(など)による仮想環境の構築 • VirtualBox(,VMWare, Docker...) • Chef でプログラマブルなセットアップ • "秘伝のVMイメージ"の回避へ
- 33. Vagrant box Ubuntu cloudimages http://cloud-images.ubuntu.com ! • Vagrant ready・信頼性 • 必然的にaptベースの構成管理
- 34.
- 35. cpanm trouble!! • cpanm--installdepsではうまく依存管理できない • テストが落ちることが分かっているモジュール • 厳密にバージョンロックできない • Carton導入? • もうCPANにない古いモジュール • 本番では使わない 再掲
- 36. cpanm Workaround backpanにしかないモジュールを先に入れる cpanm --installdepsで大まかにえる 厳密にバージョンロックするモジュールは後から
- 37. cpanm Workaround backpanにしかないモジュールを先に入れる cpanm --installdepsで大まかにえる 厳密にバージョンロックするモジュールは後から
- 38. セットアップ&起動 $ git clonegit://HOGE/dev-Hatena-Bookmark.box $ ./bin/server $ vagrant up $ vagrant ssh script/bookmark.up
- 39. セットアップ&起動 $ git clonegit://HOGE/dev-Hatena-Bookmark.box $ ./bin/server $ vagrant up $ vagrant ssh script/bookmark.up less/ts コンパイル (gulp) nginx proxy (一部/後述) アプリケーションプロセス
- 40. セットアップ&起動 $ git clonegit://HOGE/dev-Hatena-Bookmark.box $ ./bin/server $ vagrant up $ vagrant ssh script/bookmark.up less/ts コンパイル (gulp) nginx proxy (一部/後述) アプリケーションプロセス Proclet
- 41.
- 42. app MySQL memcached (misc subsystems)Elasticsearch (worker) nginxproxy PRODUCTION MySQL memcached (misc subsystems)Elasticsearch worker nginx proxy 開発用サーバ LOCAL app apache proxy
- 43.
- 44.
- 45.
- 46. • 古いUbuntu向けのaptリポジトリ提供終了 • "apt-getできずミドルウェアが入らない" •Ubuntu base boxのバージョンを上げる • CPANモジュールの非互換変更 • バージョン固定リストに追加
- 47.
- 48. PRODUCTION LOCAL Distribution CentOSUbuntu Provisioning chef (by op.) chef (by dev.) Package sys. yum apt CPAN module rpm (by op.) (direct)
- 49. PRODUCTION LOCAL Distribution CentOSCentOS ? Provisioning chef (by op.) chef (by dev.) Package sys. yum yum CPAN module rpm (by op.) rpm (by op.)
- 50. • chef officialな CentOS base box の利用 • https://github.com/chef/bento • 社内 rpm サーバの利用 • cookbook の部分共用 • まずはコピペから
- 51.
- 52.
- 54. nginx proxy http://b.hatena.ne.jp/XXX http://bkuma.hatena.ne.jp/YYY PRODUCTION apacheproxy application /-/HOGE/YYY/XXXX
- 55.
- 56.
- 57.
- 58.
- 59.
- 60. • 手元マシンを選ばない環境構築の実現 • 本番の環境に近づける •継続的なメンテナンスの必要性 • 本番環境との一部構成共通化に期待 • あるいはアーキテクチャ自体の刷新...
- 62. • 招待ベータリリース(2011/11) • オープンベータ(2011/12) •正式リリース(2013/01)
- 64.
- 65. • perl 5.14.2 •ぼくのかんがえたさいこうのフレームワーク • plack (Starlet + Start::Server) • Carton • less (grunt)
- 66. • nginx (+aws ELB) • MySQL 5.5 • Solr • memcached • redis
- 67. PRODUCTION nginx proxy plack app MySQL memcachedredis solr worker DNS
- 68. nginx proxy plack app MySQL memcachedredis solr worker PRODUCTION plack app MySQL memcached redis (no solr) worker LOCAL DNS nginx proxy DNS NO VM
- 69. $ brew installmysql55 redis nginx phantomjs casperjs… $ script/setup セットアップ $ carton install $ mysql < db/schema.sql ...
- 70. $ carton exec-- script/epicup Proclet plackup, nginx, dns, worker, redis, grunt...
- 71. http://hatenablog.com/ http://blog.hatena.ne.jp/ http://YOU.hatenablog.com/ http://e.local.hatena.com/http://local.hatena.ne.jp/ http://YOU.e.local.hatena.com/
- 72. • "/etc/hosts にこれ書いて"でよいのか? •動的に複数のドメインの展開 • Net::DNS::Nameserver • /etc/resolver/
- 73. plack app MySQL memcachedredis (no solr) worker nginx proxy (no DNS) Module Module Module Module Module Module JavaScript 必要なコンポーネントを用いてテスト $ carton exec -- prove -lvr t/
- 74.
- 75. Conclusion • VMに依存しない環境志向 • 複雑度によってはVMによる手間の削減 •複雑度の完全な封じ込みは未達成
- 76.