Let's make your CDN with RUBY

Rubyによるお手軽CDN作成のすすめLet’s make CDN withRuby
荒木靖宏
ARAKI Yasuhiro
<ar@debian.org>
DebianProject
First of all, thanks ruby!
http://wiki.debian.org/DebianGeoMirror

Self introduction
Name:
荒木靖宏ARAKI, Yasuhiro
Debian Project Member
Ph.D student of Univ. of Tokyo
Researcher of Hewlett-Packard Labs
現在求職中です。
I am seeking a JOB.
CV is available

Why CDN?
ftp.jp.debian.org stopped frequently
Storage Trouble
結局ここ二ヶ月くらいで ftp.jp.debian.orgには下記のトラブルが起き，ハードウェア，OS 共に丸ごと入れ替わってしまいました．これ以上トラブルが起きないことを切に願っております・・・．1, サーバのハードウェアが壊れた -> 代替サーバに交換2, ストレージ(1)のディスクが壊れた -> ストレージ(1)を切り離して残りのストレージでやりくり3, ストレージ(2)のディスク x 3 が壊れた -> 予備のディスクに交換4, ストレージ(2)本体が壊れた -> 新ストレージを手配，ストレージ(2) からデータを移行
Electricity Shutdown
[debian-users:45154] ftp.jp.debian.org 障害現在発生している ftp.jp.debian.orgの障害のため，みなさまにご迷惑をおかけしており申し訳ありません．現状としては，サーバを何度再起動してもすぐに落ちてしまうため，代替機を準備中です．すみませんが，もうしばらくお待ちください．
fscking!!!!!

cdn.debian.net

Since 2007, Feb
42 countries, more than 120 hosts
Keep alive every 2 min
Geo routing w/ GeoIP
Weighted DNS Round-Robin

cdn.debian.net
Surrogate@topstudio
debianprimary
Surrogate＠kyushu-u,hokudai
Surrogate@Kyoto-u
Surrogate@naist
ftp.XX.debian.org
ftp.us.debian.org
Japan primary
= hanzubon.jp
rsync
Content Location Manager = deb.cdn.araki.net
Japan mirrors
CDN Control Plane
rsync
rsync
rsync
rsync
apt-get update &&
apt-get dist-upgrade
rsync

Pros
Run without server modify
You can use any server without modify.
Run for simple client
cf. No need“REDIRCT”
◎　gem use redirect
×　apt

gem use redirect
cfardm-2:~/Downloads$ gem source -l
*** CURRENT SOURCES ***
http://gems.rubyforge.org/
cfardm-2:~/Downloads$ curl http://gems.rubyforge.org/
<html>
<body>
<h1>Welcome to the RubyGems distribution website</h1>
To download the yaml index select <a href="yaml">yaml</a><br><br>
To view the available gems via your browser select <a href="http://gems.rubyforge.org/gems/">gems</a><br><br>
To download and install RubyGems please visit <a href="http://rubygems.rubyforge.org">rubygems</a>
</html>

Cons
Smart Client does not need this CDN!
In some case, server rejects HTTP ping.

Programs
DNS type CDN based on DNS-Balance
Original Author: Yokota-san!
Modify points
Check HTTP response code
Temporally ignore slow response server
use rsynctracefile
/debian/project/trace/#{tracefile}
Country and Continent detection by GeoIP.

Gather surrogate candidates
Same directory structure (Mandatory）
Good:
ftp.XX.debian.org/debian
Bad:
ftp.jaist.jp/pub/Linux/Debian
now changed to “/debian”

LETS MAKE YOUR CDN

Prepare script

svn co https://osdn.debian.or.jp/repos/cdn/trunk/

Prepare configuration
vi JPN_hoge_cdn_araki_net.rb
$tracefile = 'hanzubon.jp' # hanzubon 2007apr5
$first_surrogate = '61.115.118.67'
$surrogates = {
'203.178.137.175' => '9000', # naist
'150.65.7.130' => '9', # jaist
}

Let’s work
cdkeepd && ruby ./keepd.rb
set cron
*/2 * * * * ruby check-surrogates.rb
ruby ./dns_balance.rb
or
/etc/init.d/dns_balance_keepd start
/etc/init.d/dns_balance start

Future work
Now testing..
SSLDRbfor information sharing and remote control
Tweet
Apply others and Code clean
Available on REQUEST!

cdn.debian.or.jpの信頼性
更新頻度
2分に一度
DNS cacheは60秒
1997年2月8日の動作開始以来ノンストップです
cdn.debian.or.jpはのDNSは3箇所
ファイルの信頼性は他のdebianミラーと同じ
md5/sha1 sumを見てaptが選別

Country – Access in 3 month

サーバのえらびかた

世界150カ国、月間100万以上で使われています（誇張あり）

fin
Reference& code

cdn.debian.or.jpの実装
動作部分は以下
サロゲートへのrsync
ネットワークの情報収集
ネットワークがボトルネックじゃどうしょうもない
サロゲートのステータスを管理
眠ってるサロゲートにはサービスさせない
クライアントをサロゲートに誘導する
DNSでcdn.debian.or.jpを解決すると
cdn.debian.or.jpのリストを返す

approach
Load balance by DNS＋cache
Why DNS?
Client Protocol: DNS,HTTPand FTP
Almost all mirrors provide HTTP only
apt (Debian client) can not use REDIRECT
よってDNSに頼ることに
キャッシュはミラーサーバがあるじゃん
ミラーサーバには手を入れないことにした
今あるものに乗っかりたい