backbone としての timm 入門

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

backbone としての timm 入門
2021/08/17 第3回分析コンペLT会オンライン
@tawatawara

自己紹介
JTC Kaggler(死語)
◦ 研究開発(?)職
◦ 社会人からMLを始める
Kaggle Master
◦ みんな GM になっていく…
近況
◦ #11 atmaCup 5th (つらい)
◦ https://github.c...

timm …?
Kaggle の公開 Notebooks や Solution でも
見かけるけど timm って何だろう…？

timm: PyTorch Image Models
Ross Wightman さんが公開している最強の画像認識ライブラリ
◦ 様々な model が実装されている
◦ 612種†‡ の実装
◦ 452種†‡ の pretrained mod...

backbone?
一般的な画像分類 model の構成は以下
◦ 特徴抽出 (Convolutional Layers)
◦ 特徴の集約 (Global Average Pooling)
◦ 出力(Fully Connected Layer(...

ここからの話
基本的な使い方
ちょっとだけ凝った使い方
どのモデルを使う？

基本的な使い方(1/)
create_model 関数
◦ model_name で model を指定
◦ pretrained=True とするだけで pretrained model
が読み込まれる(初回は download される)
◦...

基本的な使い方(2/)
head を置き換える
◦ 引数 num_classes を使うことで、任意の出力
次元の head に置き換えられる
◦ head は基本的に1層の全結合層
◦ head の名前等は model によってまちまちだ
が...

ちょっとだけ凝った使い方(1/)
backbone として使いたい
◦ head の部分を複雑なものにしたい
◦ backbone としてひとまとめに扱いたい
head の部分を無効化する
◦ num_classes=0 とするだけ
◦ 出力サ...

ちょっとだけ凝った使い方(2/)
backbone として使いたい
◦ head の部分を複雑なものにしたい
◦ backbone としてひとまとめに扱いたい
一度呼び出した後に変更
◦ reset_classifier 関数を使用すると可能
...

ちょっとだけ凝った使い方(3/)
実は色々情報を持っている
◦ num_features
◦ 一番使うやつ
◦ CNN 部分の最後のチャネルの数
◦ feature_info
◦ ブロックごとの情報
◦ [追記] コメントで教えて頂いたのですが...

ちょっとだけ凝った使い方(4/)
自分で model を定義してみる
◦ self.backbone は timm.create_model で
head を無効化したものを使用
◦ head として非線形な全結合層を実装
◦ head の入力...

ちょっとだけ凝った使い方(5/)
自然画像じゃないデータに使いたい
◦ 白黒画像、細胞画像、メルスペクトログラム…
実は in_chans 引数を指定するだけ
◦ めちゃくちゃお手軽
◦ ちゃんと pretrained weight を使ってく...

ちょっとだけ凝った使い方(6/)
複数の feature map を取り出したい
◦ features_only=True (上)
◦ ブロックごとの出力(5個)が得られる
◦ out_indices で特定の場所を指定可能(下)
◦ 指定した...

どのモデルを使う？
timm.list_models で一覧が見れる
◦ Pretrained=True とすると、Pretrained Model
があるものだけ確認できる
◦ 652 種類(pretrained ありは 452)
でも…
◦...

どのモデルを使う？
レポジトリ内に ImageNet Classification Task
に対する結果がまとまっている
◦ https://github.com/rwightman/pytorch-image-
models/tree/ma...

どのモデルを使う？
分析コンペの進め方として
◦ 徒にいろんな model を試すのは時間がかかるだけ
◦ 大きい model だから良い性能が出るとも限らない
◦ model の種類では無く前処理等が決め手になるときも
◦ 自分の中で bas...

まとめ
timm: PyTorch Image Models
◦ 様々な model が実装されており pretrained model も豊富
◦ 更新も頻繁で今現在間違いなく最強の画像認識ライブラリ
timm の使い方を簡単に紹介
◦ cr...

参考
公式レポジトリ：https://github.com/rwightman/pytorch-image-models
公式の docs: https://rwightman.github.io/pytorch-image-models/
f...

Share Slideshare

LinkedIn
Facebook
Twitter

Embed

Size (px)

Show related Slideshows at end

WordPress Shortcode

Link

Share
Email

2024 Trend Updates: What Really Wor... by Search Engine Jou... 1033581 views
Storytelling For The Web: Integrate... by Chiara Aliotta 945137 views
Artificial Intelligence, Data and C... by OECD Directorate ... 865593 views
How to Leverage AI to Boost Employe... by SocialHRCamp 363144 views
2024 State of Marketing Report – by... by Marius Sescu 206375 views
Everything You Need To Know About C... by Expeed Software 226977 views

View on Slideshare

1 of 19 Ad

View on Slideshare

1 of 19 Ad