Download to read offline
More Related Content
Similar to 運用中の大規模オンラインゲームで 8年ぶりにPHPバージョンアップをした話
運用中の大規模オンラインゲームで 8年ぶりにPHPバージョンアップをした話
- 2. 2 2012年 KLab株式会社 に入社 2016年からBLEACHBrave Soulsにサーバサイドエンジニアとして参画。 2021年からサーバチームのリーダーをしています。 前職は、金融システムや物流管理のシステムを作っていました。 福田 陽介 エンジニア KLabGames事業本部 KLab株式会社 画像
- 3. 3 今日話すこと ● 前提説明（ゲームの説明・バージョンアップの理由） ● 開発方針（修正箇所洗い出し・ブランチについて） ●後回しにしたこと ● 運用中プロジェクトでPHP8.1切り替えをどう進行したか ● バージョン移行後に起こったトラブル ● 数値で見る実績と効果 ● まとめ
- 4.
- 5.
- 6. 6 サービスの特徴 ● 2015-07-23にリリースされ、8周年を迎えた ● リクエスト数：1000- 7000 rps ● アップデート周期：1〜2ヶ月に1度、機能追加を実施 ● ゲームサーバ、運用ツール、バッチがPHPで実装されている BLEACH Brave Soulsとは
- 7. 7 ● バージョンアップ前のPHPバージョンは ○ 5.5.13 ■2014-01-26 リリース ■ EOLは 2016-07-10 なぜPHPバージョンアップをしたかったか？
- 8.
- 9.
- 10. 10 ● PHPのセキュリティサポート懸念 ● 導入しようとしたライブラリでPHP7.x以上が条件 ●運用ツールのレスポンスタイムが遅い なぜPHPバージョンアップをしたかったか？
- 11. 11 ● PHPのセキュリティサポート懸念 ● 導入しようとしたライブラリでPHP7.x以上が条件 ●運用ツールのレスポンスタイムが遅い ● PHPの新しい機能や記法を使いたい なぜPHPバージョンアップをしたかったか？
- 12. 12 ● PHPのセキュリティサポート懸念 ● 導入しようとしたライブラリでPHP7.x以上が条件 ●運用ツールのレスポンスタイムが遅い ● PHPの新しい機能や記法を使いたい → PHP8.1 にして全部解決や！ なぜPHPバージョンアップをしたかったか？
- 13. 13 ● PHPのセキュリティサポート懸念 ● 導入しようとしたライブラリでPHP7.x以上が条件 ●運用ツールのレスポンスタイムが遅い ● PHPの新しい機能や記法を使いたい → PHP8.1 にして全部解決や！ ただし、期間は6ヶ月。 2023年1月スタートで2023年6月末にリリースしたい。 なぜなら7月末に周年イベントで負荷が高くなる。 その1ヶ月前までには、PHP8.1を安定動作させておきたい。 なぜPHPバージョンアップをしたかったか？ なん...だと...
- 14.
- 15. 15 ● 修正対象箇所の洗い出し ○ PHP_CodeSnifferを使ってPHP8.1のコード記法に適していない 箇所を洗い出した ● ひととおり修正し終わったあとで、ユニットテストを実施 まず修正箇所を洗い出そう！
- 16. 16 ● 洗い出した修正箇所:196件 ○ error:130件 ○warning:66件 まずはこれを足がかりに進めることに まず修正箇所を洗い出そう！
- 17.
- 18.
- 19.
- 20.
- 21.
- 22.
- 23.
- 24.
- 25.
- 26.
- 27.
- 28.
- 29.
- 30.
- 31.
- 32.
- 33. 33 ● @expectedException アノテーション ○PHPUnitで例外のテストを書きたい時に使用する ○ PHPUnit9 で廃止 事前リリースした具体例 @expectedException の廃止
- 34. 34 ● @expectedException アノテーション ○PHPUnitで例外のテストを書きたい時に使用する ○ PHPUnit9 で廃止 ● 対応方法 /* - * @expectedException ValidationException */ public function testCannotPlay() { + $this->expectException(ValidationException::class); $this->game->play(); // should throw an exception } 事前リリースした具体例 @expectedException の廃止
- 35. 35 ● @expectedException アノテーション ○PHPUnitで例外のテストを書きたい時に使用する ○ PHPUnit9 で廃止 ● 対応方法 /* - * @expectedException ValidationException */ public function testCannotPlay() { + $this->expectException(ValidationException::class); $this->game->play(); // should throw an exception } 事前リリースした具体例 @expectedException の廃止 古いPHPUnitでは この書き方はできない
- 36. 36 ● @expectedException アノテーション ○PHPUnitで例外のテストを書きたい時に使用する ○ PHPUnit9 で廃止 ● 対応方法 /* - * @expectedException ValidationException */ public function testCannotPlay() { + $this->setExpectedException(ValidationException::class); $this->game->play(); // should throw an exception } 事前リリースした具体例 @expectedException の廃止 PHPUnit4.5でも使える setExpectedExceptionに書 き換える
- 37. 37 ● @expectedException アノテーション ○PHPUnitで例外のテストを書きたい時に使用する ○ PHPUnit9 で廃止 ● 対応方法 /* - * @expectedException ValidationException */ public function testCannotPlay() { + $this->expectException(ValidationException::class); $this->game->play(); // should throw an exception } 事前リリースした具体例 @expectedException の廃止 リリース時に expectException に 一括置き換えする
- 38. 38 ● PHPUnit_Framework_TestCase が PHPUnitFrameworkTestCaseになった ○ PHPUnit6で追加 事前リリースした具体例 名前空間対応
- 39. 39 ● PHPUnit_Framework_TestCase が PHPUnitFrameworkTestCaseになった ○ PHPUnit6で追加 ● 対応方法 事前リリースした具体例 名前空間対応 -class BleachUnitTestCase extends PHPUnit_Framework_TestCase +class BleachUnitTestCase extends PHPUnitFrameworkTestCase {
- 40. 40 ● PHPUnit_Framework_TestCase が PHPUnitFrameworkTestCaseになった ○ PHPUnit6で追加 ● 対応方法 ● エイリアスを使うことでPHPUnit4.5でも名前空間っぽい記載が できる 事前リリースした具体例 名前空間対応 -class BleachUnitTestCase extends PHPUnit_Framework_TestCase +class BleachUnitTestCase extends PHPUnitFrameworkTestCase { +class_alias('PHPUnit_Framework_TestCase', 'PHPUnitFrameworkTestCase');
- 41.
- 42. 42 PHPバージョンアップはやることが多い ● ゲームサーバだけでなく、バッチ処理もPHP8.1対応 ● PHP7.3からMCrypt削除されたためOpenSSLに移行 ●xhprof代替の新パフォーマンスモニタリングの導入 ● PHPUnit10でwithConsecutiveの廃止
- 43. 43 PHPバージョンアップはやることが多い ● ゲームサーバだけでなく、バッチ処理もPHP8.1対応 ● PHP7.3からMCrypt削除されたためOpenSSLに移行。 ●新パフォーマンスモニタリングの導入（xhprof代替） ● PHPUnit10でwithConsecutiveの廃止 締め切りに間に合わない！
- 44. 44 PHPバージョンアップはやることが多い ● ゲームサーバだけでなく、バッチ処理もPHP8.1対応 ● PHP7.3からMCrypt削除されたためOpenSSLに移行。 ●新パフォーマンスモニタリングの導入（xhprof代替） ● PHPUnit10でwithConsecutiveの廃止
- 45. 45 PHPバージョンアップはやることが多い ● ゲームサーバだけでなく、バッチ処理もPHP8.1対応 → バッチ処理は独立しているため、後日1つずつPHP8.1対応。 ●PHP7.3からMCrypt削除されたためOpenSSLに移行。 ● 新パフォーマンスモニタリングの導入（xhprof代替） ● PHPUnit10でwithConsecutiveの廃止
- 46. 46 PHPバージョンアップはやることが多い ● ゲームサーバだけでなく、バッチ処理もPHP8.1対応 → バッチ処理は独立しているため、後日1つずつPHP8.1対応。 ●PHP7.3からMCrypt削除されたためOpenSSLに移行。 →PECLでMCryptをインストールして一旦使い続ける ● 新パフォーマンスモニタリングの導入（xhprof代替） ● PHPUnit10でwithConsecutiveの廃止
- 47. 47 PHPバージョンアップはやることが多い ● ゲームサーバだけでなく、バッチ処理もPHP8.1対応 → バッチ処理は独立しているため、後日1つずつPHP8.1対応。 ●PHP7.3からMCrypt削除されたためOpenSSLに移行。 →PECLでMCryptをインストールして一旦使い続ける ● 新パフォーマンスモニタリングの導入（xhprof代替） →リリース後に考える ● PHPUnit10でwithConsecutiveの廃止
- 48. 48 ● ゲームサーバだけでなく、バッチ処理もPHP8.1対応 → バッチ処理は独立しているため、後日1つずつPHP8.1対応。 ●PHP7.3からMCrypt削除されたためOpenSSLに移行。 →PECLでMCryptをインストールして一旦使い続ける ● 新パフォーマンスモニタリングの導入（xhprof代替） →リリース後に考える ● PHPUnit10でwithConsecutiveの廃止 →一旦削除 PHPバージョンアップはやることが多い
- 49. 49 ● ゲームサーバだけでなく、バッチ処理もPHP8.1対応 → バッチ処理は独立しているため、後日1つずつ8.1対応。 ●PHP7.3からMCrypt削除されたためOpenSSLに移行。 →PECLでMCryptをインストールして一旦使い続ける ● 新パフォーマンスモニタリングの導入（xhprof代替） →リリース後に考える ● PHPUnit10でwithConsecutiveの廃止 →一旦削除 PHPバージョンアップはやることが多い ＃あとでやる やることはたくさんあるので、 必須で対応しなければならないことに集中する
- 50.
- 51. 51 1. 開発環境について 2. どう進行したか？ 3.運用環境での出た問題 運用中プロジェクトでPHP8.1切り替えをどう進行したか
- 52.
- 53. 53 通常運用時のフロー 1. 開発環境について ①開発者やデバッグチームは開発環境に アップロードされたマスタデータを 元にプログラムを開発したり、データを チェックしたりします。
- 54.
- 55.
- 56.
- 57.
- 58.
- 59.
- 60.
- 61.
- 62.
- 63.
- 64.
- 65.
- 66. 66 3. 運用環境で出た問題(MessagePackの変更) なにが起こったか？ →DBからのデータ読み込みに失敗するようになった なぜ？ →失敗していたのはMessagePackを使用していた箇所。 msgpackのバージョンアップ0.5.5 ->2.2.0 の際 文字列の新シリアライズ方式(str8)が採用されたため。
- 67. 67 3. 運用環境で出た問題(MessagePackの変更) なにが起こったか？ →DBからのデータ読み込みに失敗するようになった なぜ？ →失敗していたのはMessagePackを使用していた箇所。 msgpackのバージョンアップ0.5.5 ->2.2.0 の際 文字列の新シリアライズ方式(str8)が採用されたため。 新しいバージョンで保存したデータを古いバージョンで 読み込むことができなくなった （msgpack v0.5.6から変わった）
- 68.
- 69.
- 70. 70 暫定対処 並行稼働期間は新シリアライズ方式(str8)の設定をOFFにする msgpack 0.5.5も 2.2.0も同じデータ形式で保存される 3. 運用環境で出た問題(MessagePackの変更)
- 71. 71 暫定対処 並行稼働期間は新シリアライズ方式(str8)の設定をOFFにする msgpack 0.5.5も 2.2.0も同じデータ形式で保存される 3. 運用環境で出た問題(MessagePackの変更) php.ini msgpack.use_str8_serialization = Off
- 72.
- 73.
- 74.
- 75.
- 76. 76 バグ修正のためプログラムを本番環境にデプロイした際 約3%の確率でSegmentation fault が起こるようになった。 →バグ修正したプログラムが原因かと考えRevertしてデプロイす るも解消せず →Webサーバの再起動をするとなぜか解消した →$a = 1 + 1; のような関係ない差分をデプロイしても発生 巨大PHPファイルのJITが時々壊れる問題
- 77.
- 78.
- 79.
- 80.
- 81.
- 82.
- 83.
- 84.
- 85.
- 86.
- 87.
- 88.
- 89.
- 90. 90 ● 164人日 ○ リーダ：1名（26人日） ○メインの実装担当：1名（71人日） ○ インフラ等相談役：3名（42人日+10人日+15人日） 工数
- 91.
- 92.
- 93.
- 94.
- 95.
- 96.
- 97.
- 98.
- 99. 99 バグチケット件数 ● デバッグ期間中に報告されたバグチケットは2件だけ ○ いずれもサーバ設定に関連するもので、PHPバージョンアップの 修正に起因するものはなかった。 ○→ユニットテストを通す過程で、PHP_CodeSnifferでは検知でき ていなかった修正漏れなどが見つかり対応できた。 ○ → デバッグ前にユニットテストを通したことで、修正必要な部分 は対応しきれていた。
- 100. 100 バグチケット件数 ● デバッグ期間中に報告されたバグチケットは2件だけ ○ いずれもサーバ設定に関連するもので、PHPバージョンアップの 修正に起因するものはなかった。 ○→ユニットテストを通す過程で、PHP_CodeSnifferでは検知でき ていなかった修正漏れなどが見つかり対応できた。 ○ → デバッグ前にユニットテストを通したことで、修正必要な部分 は対応しきれていた。 ○ ユニットテストのバージョンアップは大変だけど大切
- 101. 101 ● ゲームサーバAPIの平均レスポンスタイム ○ 0.238秒 → 0.139秒 (42％改善) バージョンアップの効果 PHP8.1切り替えタイミング
- 102. 102 ● ユニットテストの処理時間 ○ アプデ前後で変更のなかったテストを一部抽出 ○496秒 → 247秒 (50％改善) バージョンアップの効果
- 103.
- 104.
- 105. 105 開発方針 ● PHP_CodeSniffer を使ってPHP8.1のコード記法に適していない 箇所を洗い出した ●ひととおり修正し終わったあとで、ユニットテストを実施 ● PHP5.5でも動作するものは事前にリリースすることでPHP8.1ブ ランチの差分を最小にし、Conflictリスクを低下 まとめ
- 106.
- 107. 107 バージョンアップ後に起こったトラブル ● 本番環境デプロイ時に3%の確率でSegmentation faultが発生 する障害 ○opcache.jit の設定をOFFにすることで暫定対応 ● PHP8.1が早すぎてタイムアウトのテストができない問題 ○ キャラ数を10倍に増やすことで対応 まとめ
- 108. 108 数値で見る実績と効果 ● 164人日 ● ゲームサーバ42％改善 ● ユニットテスト 50％改善 ● 運用ツール 40％改善 まとめ
- 109. 109 まとめ PHPバージョンアップの修正箇所 ● 全体の67％がテストコードの修正だった ● テストを通す過程で、PHP_CodeSnifferでは検知できていな かった箇所などが見つかり対応できた。 ●テストコードのおかげで、デバッグ時のバグが抑えられた。 ○ ユニットテストのバージョンアップは大変だけど大切
- 110.
- 111.