Recommended
More Related Content
What's hot
What's hot (20)
Similar to テーブルコンペと比べて分かる画像コンペ入門
Similar to テーブルコンペと比べて分かる画像コンペ入門 (20)
テーブルコンペと比べて分かる画像コンペ入門
- 5. ・Segmentation ・雲の形が4種類のどれかを当てる ・Sugar（砂糖） ・Flower（花） ・Fish（魚） ・Gravel（砂利） 取り組んだコンペ Understanding Cloud Organization from Satellite Images 通称：雲コンペ
- 6. まずはEDAかな・・・ Segmentation in PyTorch using convenient tools https://www.kaggle.com/artgor/segmentation-in-pytorch-using-convenient-tools
- 13. 2015.4 ~ 日系SIer システムエンジニア • インフラ系システムの保守・運用 2018.10 ~ 日系SIer データサイエンティスト • 電力需要予測 • 蓄電池劣化予測 • 業務改善コンサル • 航空機揺れ予測 2019.8 ~ 日本IBM データサイエンティスト @sinchir0 齋藤 慎一朗 自己紹介 イマココ
- 16. テーブルコンペと画像コンペの比較 テーブルコンペ 画像コンペ 環境構築 ・Kernel ・GCP,AWS,Azure ・GCP,AWS,Azure ・Colab,Paperspace 前処理 ・標準化、正規化 ・欠損値補間 ・DataAugmentation ・画像のリサイズ 特徴量生成 ・Target Encoding ・Count Encoding ・自動 モデル ・LightGBM ・Neural Network ・Unet ・FPN パラメータ ・max_depth ・learning_rate ・batch_size ・threshold 予測 - ・TTA 後処理 ・アンサンブル ・アンサンブル ・マスクの削除 ※全て代表例
- 17. テーブルコンペと画像コンペの比較 テーブルコンペ 画像コンペ 環境構築 ・Kernel ・GCP,AWS,Azure ・GCP,AWS,Azure ・Colab,Paperspace 前処理 ・標準化、正規化 ・欠損値補間 ・DataAugmentation ・画像のリサイズ 特徴量生成 ・Target Encoding ・Count Encoding ・自動 モデル ・LightGBM ・Neural Network ・Unet ・FPN パラメータ ・max_depth ・learning_rate ・batch_size ・threshold 予測 - ・TTA 後処理 ・アンサンブル ・アンサンブル ・マスクの削除 ※全て代表例 テーブルコンペ 画像コンペ 環境構築 ・Kernel ・GCP,AWS,Azure ・GCP,AWS,Azure ・Colab,Paperspace
- 23. テーブルコンペと画像コンペの比較 テーブルコンペ 画像コンペ 環境構築 ・Kernel ・GCP,AWS,Azure ・GCP,AWS,Azure ・Colab,Paperspace 前処理 ・標準化、正規化 ・欠損値補間 ・DataAugmentation ・画像のリサイズ 特徴量生成 ・Target Encoding ・Count Encoding ・自動 モデル ・LightGBM ・Neural Network ・Unet ・FPN パラメータ ・max_depth ・learning_rate ・batch_size ・threshold 予測 - ・TTA 後処理 ・アンサンブル ・アンサンブル ・マスクの削除 ※全て代表例 テーブルコンペ 画像コンペ 前処理 ・標準化、正規化 ・欠損値補間 ・DataAugmentation ・画像のリサイズ
- 25. DataAugmentation コードの重要部分 p=0.5の意味： HorizontalFlipの発生確率。 p=0.5の場合は、HorizontalFlipを各画像に行う確率が50%の状態 似ている画像を増やし、精度向上・過学習を防止 Augmentations (albumentations.augmentations) https://albumentations.readthedocs.io/en/latest/api/augmentations.html augmentation = albu.Compose([albu.HorizontalFlip(p=0.5)])
- 29. テーブルコンペと画像コンペの比較 テーブルコンペ 画像コンペ 環境構築 ・Kernel ・GCP,AWS,Azure ・GCP,AWS,Azure ・Colab,Paperspace 前処理 ・標準化、正規化 ・欠損値補間 ・DataAugmentation ・画像のリサイズ 特徴量生成 ・Target Encoding ・Count Encoding ・自動 モデル ・LightGBM ・Neural Network ・Unet ・FPN パラメータ ・max_depth ・learning_rate ・batch_size ・threshold 予測 - ・TTA 後処理 ・アンサンブル ・アンサンブル ・マスクの削除 ※全て代表例 テーブルコンペ 画像コンペ 特徴量生成 ・Target Encoding ・Count Encoding ・自動
- 30. 特徴量生成 LightGBMで行うような特徴量生成は行わない。 モデルの途中において、自動的に特徴量が生成される。 ここら辺がテーブルコンペ でいう特徴量に該当？ U-Netのネットワーク U-Net: Convolutional Networks for Biomedical Image Segmentation https://arxiv.org/abs/1505.04597
- 31. テーブルコンペと画像コンペの比較 テーブルコンペ 画像コンペ 環境構築 ・Kernel ・GCP,AWS,Azure ・GCP,AWS,Azure ・Colab,Paperspace 前処理 ・標準化、正規化 ・欠損値補間 ・DataAugmentation ・画像のリサイズ 特徴量生成 ・Target Encoding ・Count Encoding ・自動 モデル構築 ・LightGBM ・Neural Network ・Unet ・FPN パラメータ ・max_depth ・learning_rate ・batch_size ・threshold 予測 - ・TTA 後処理 ・アンサンブル ・アンサンブル ・マスクの削除 ※全て代表例 テーブルコンペ 画像コンペ モデル ・LightGBM ・Neural Network ・Unet ・FPN
- 32. モデル 構築済みモデルを使用する場合、主に３つを指定する segmentation-models-pytorch https://pypi.org/project/segmentation-models-pytorch/ Segmentation in PyTorch using convenient tools https://www.kaggle.com/artgor/segmentation-in-pytorch-using-convenient-tools 入力画像 ①Model ②Encoder (Backbone) Decoder 出力画像 そのまま 出力画像 加工後 ③Encoderの学習済重み(Weights)
- 33. モデル 構築済みモデルを使用する場合、主に３つを指定する segmentation-models-pytorch https://pypi.org/project/segmentation-models-pytorch/ Segmentation in PyTorch using convenient tools https://www.kaggle.com/artgor/segmentation-in-pytorch-using-convenient-tools 入力画像 ①Model ②Encoder (Backbone) Decoder 出力画像 そのまま 出力画像 加工後 ①Model ②Encoder (Backbone) Decoder ③Encoderの学習済重み(Weights)
- 34. モデル - ①Model segmentationタスク用モデルの例として、下記のようなものがある。 ・Unet ・FPN U-Net: Convolutional Networks for Biomedical Image Segmentation https://arxiv.org/abs/1505.04597 Review: FPN — Feature Pyramid Network (Object Detection) https://towardsdatascience.com/review-fpn-feature-pyramid-network-object-detection-262fc7482610 他には・・・ ・Linknet ・PSPNet など
- 35. モデル 構築済みモデルを使用する場合、主に３つを指定する segmentation-models-pytorch https://pypi.org/project/segmentation-models-pytorch/ Segmentation in PyTorch using convenient tools https://www.kaggle.com/artgor/segmentation-in-pytorch-using-convenient-tools 入力画像 ①Model ②Encoder (Backbone) Decoder 出力画像 そのまま 出力画像 加工後 ③Encoderの学習済重み(Weights) Decoder ②Encoder (Backbone)
- 36. モデル - ②Encoder(Backbone) ネットワークの畳み込みの部分を表す。 Backboneのイメージ(画像はFaster R-CNN) Mask R-CNN https://www.slideshare.net/windmdk/mask-rcnn ココ
- 37. モデル - ②Encoder(Backbone) Backboneに適用するモデルを変更することで、精度向上に繋がる可能性がある。 Mask R-CNN https://www.slideshare.net/windmdk/mask-rcnn Backboneに適用するモデル ・VGG? ・Densenet? ・DPN? ・Inception? ・Resnet?Backboneのイメージ(画像はFaster R-CNN)
- 38. モデル - ②Encoder(Backbone) より大きなモデルを使うと、精度向上に繋がる傾向にある？ Deep Residual Learning for Image Recognition https://arxiv.org/pdf/1512.03385v1.pdf resnetの種類と誤差率 大きくなると同時にGPUに 必要なメモリも増加 使えるかどうかは環境次第
- 39. ①Model モデル 構築済みモデルを使用する場合、主に３つを指定する segmentation-models-pytorch https://pypi.org/project/segmentation-models-pytorch/ Segmentation in PyTorch using convenient tools https://www.kaggle.com/artgor/segmentation-in-pytorch-using-convenient-tools 入力画像 ①Model ②Encoder (Backbone) Decoder 出力画像 そのまま 出力画像 加工後 Decoder ③Encoderの学習済重み(Weights) ②Encoder (Backbone)
- 41. モデル segmentation-models-pytorchでの実装例。簡単。 segmentation-models-pytorch https://pypi.org/project/segmentation-models-pytorch/ import segmentation_models_pytorch as smp model = smp.Unet('resnet34', encoder_weights='imagenet') モデルに Unetを指定 Backboneに resnet34を指定 学習済の重みに IMAGENETを指定
- 42. テーブルコンペと画像コンペの比較 テーブルコンペ 画像コンペ 環境構築 ・Kernel ・GCP,AWS,Azure ・GCP,AWS,Azure ・Colab,Paperspace 前処理 ・標準化、正規化 ・欠損値補間 ・DataAugmentation ・画像のリサイズ 特徴量生成 ・Target Encoding ・Count Encoding ・自動 モデル ・LightGBM ・Neural Network ・Unet ・FPN パラメータ ・max_depth ・learning_rate ・batch_size ・threshold 予測 - ・TTA 後処理 ・アンサンブル ・アンサンブル ・マスクの削除 ※全て代表例 テーブルコンペ 画像コンペ パラメータ ・max_depth ・learning_rate ・batch_size ・threshold
- 43. パラメータ ・batch_size: GPUのメモリが足らない場合はこのパラメータを小さくする。 大きい方が精度が高くなる？ ・threshold: ピクセルごとの予測確率に対し、どの閾値以上で該当の画像とするかの値 例： 0.9 0.8 0.7 0.0 0.0 0.1 0.1 0.2 0.5 予測結果 （確率）テストデータ threshold 0.80 threshold 0.50 1 1 0 0 0 0 0 0 0 予測結果 1 1 1 0 0 0 0 0 1
- 44. テーブルコンペと画像コンペの比較 テーブルコンペ 画像コンペ 環境構築 ・Kernel ・GCP,AWS,Azure ・GCP,AWS,Azure ・Colab,Paperspace 前処理 ・標準化、正規化 ・欠損値補間 ・DataAugmentation ・画像のリサイズ 特徴量生成 ・Target Encoding ・Count Encoding ・自動 モデル ・LightGBM ・Neural Network ・Unet ・FPN パラメータ ・max_depth ・learning_rate ・batch_size ・threshold 予測 - ・TTA 後処理 ・アンサンブル ・アンサンブル ・マスクの削除 ※全て代表例 テーブルコンペ 画像コンペ 予測 - ・TTA
- 45. TTA(Test Time Augmentation) テストデータに対しDataAugmentationを実施し、その平均等を予測結果とする TTAなし 0.9 0.8 0.7 0.0 0.0 0.1 0.1 0.2 0.5 予測データ 予測結果 TTAあり 予測結果 途中 0.9 0.8 0.7 0.0 0.0 0.1 0.1 0.2 0.5 0.7 0.5 0.7 0.0 0.3 0.3 0.5 0.8 0.5 0.8 0.5 0.7 0.0 0.1 0.3 0.3 0.4 0.4 予測結果 0.8 0.2 0.7 0.0 0.0 0.5 0.3 0.2 0.2 平 均
- 46. TTA(Test Time Augmentation) テストデータに対し、DataAugmentationを実施、その平均を予測結果とする from tta_wrapper import tta_segmentation model = tta_segmentation(model, h_flip=True, v_flip=True, h_shift=(-10, 10), v_shift=(-10, 10), merge='mean') qubvel/tta_wrapper https://github.com/qubvel/tta_wrapper h_flip : Horizotalflipを行うかどうか v_flip : Verticalflipを行うかどうか h_shift : HorizontalShift(水平移動)を行うかどうか、ピクセル単位 v_shift : VerticalShift(垂直移動)を行うかどうか、ピクセル単位 merge : マージを行う方法。’mean’ or ‘gmean’(幾何平均) or ‘max’
- 47. テーブルコンペと画像コンペの比較 テーブルコンペ 画像コンペ 環境構築 ・Kernel ・GCP,AWS,Azure ・GCP,AWS,Azure ・Colab,Paperspace 前処理 ・標準化、正規化 ・欠損値補間 ・DataAugmentation ・画像のリサイズ 特徴量生成 ・Target Encoding ・Count Encoding ・自動 モデル ・LightGBM ・Neural Network ・Unet ・FPN パラメータ ・max_depth ・learning_rate ・batch_size ・threshold 予測 - ・TTA 後処理 ・アンサンブル ・アンサンブル ・マスクの削除 ※全て代表例 テーブルコンペ 画像コンペ 後処理 ・アンサンブル ・アンサンブル ・マスクの削除
- 49. その他 –modelのsave,load- from keras.models import load_model #モデルのセーブ model.save('my_model.h5’) #モデルのロード model = load_model('my_model.h5') 重み更新済のモデルのセーブ、ロードを行い時間の短縮 Keras FAQ https://sinchir0.hatenablog.com/entry/2019/11/21/231502
- 50. 分かっていないこと ・「BCE + Dice loss 」のような損失関数を足し合わせる意味とその記述方法 ・ニューラルネットワークのlayerの自作 ・複数枚のGPUの活用方法