【DLゼミ】XFeat: Accelerated Features for Lightweight Image Matchingharmonylab
公開URL:https://arxiv.org/pdf/2404.19174
出典:Guilherme Potje, Felipe Cadar, Andre Araujo, Renato Martins, Erickson R. ascimento: XFeat: Accelerated Features for Lightweight Image Matching, Proceedings of the 2024 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) (2023)
概要:リソース効率に優れた特徴点マッチングのための軽量なアーキテクチャ「XFeat(Accelerated Features)」を提案します。手法は、局所的な特徴点の検出、抽出、マッチングのための畳み込みニューラルネットワークの基本的な設計を再検討します。特に、リソースが限られたデバイス向けに迅速かつ堅牢なアルゴリズムが必要とされるため、解像度を可能な限り高く保ちながら、ネットワークのチャネル数を制限します。さらに、スパース下でのマッチングを選択できる設計となっており、ナビゲーションやARなどのアプリケーションに適しています。XFeatは、高速かつ同等以上の精度を実現し、一般的なラップトップのCPU上でリアルタイムで動作します。
A Study on Decision Support System for Snow Removal Dispatch using Road Surfa...harmonylab
This study focuses on addressing the challenges associated with decision-making in winter road snow removal operations, aiming to alleviate the burden on snow removal personnel. Specifically, we propose an approach to develop a system that collects and visualizes information on road snow conditions and weather data to support decision-making by personnel. Additionally, by sharing the collected information, we aim to facilitate the sharing of premonitions about changes in decision-making among snow removal personnel, reducing the need for physical inspections.We have validated the effectiveness of the system and confirmed its efficacy.
DLゼミ: MobileOne: An Improved One millisecond Mobile Backboneharmonylab
公開URL:https://openaccess.thecvf.com/content/CVPR2023/html/Vasu_MobileOne_An_Improved_One_Millisecond_Mobile_Backbone_CVPR_2023_paper.html
出典:Vasu, Pavan Kumar Anasosalu, et al.: MobileOne: An Improved One Millisecond Mobile Backbone, Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (2023)
概要:モバイル端末向けのニューラルネットワークは多くの場合、FLOPsやパラメータ数で最適化されています。しかし、これらの最適化は実際のモバイルデバイスで実行した場合のネットワークの応答時間に相関しない場合があります。我々は昨今のニューラルネットワークの最適化のボトルネックを特定・分析し、その結果をもとにした新たな効率的なバックボーンMobileOneを設計しました。結果はMobileFormerと同等の性能を得ながら、38倍高速であり、最先端の効率性を達成しました。
DLゼミ: Llama 2: Open Foundation and Fine-Tuned Chat Modelsharmonylab
公開URL:https://arxiv.org/pdf/2307.09288.pdf
出典:Touvron Hugo, et al.: Llama 2: Open foundation and fine-tuned chat models, arXiv preprint arXiv:2307.09288 (2023)
概要:70億から700億のパラメータを持つ大規模言語モデル(LLM)の事前学習であるLlama 2を開発し、リリースしました。Llama 2-Chatと呼ばれるファインチューニングされたLLMは、対話のユースケースに最適化されています。提案モデルは、検証したほとんどのベンチマークにおいて、オープンソースのチャットモデルを凌駕しており、有用性と安全性に関する人間による評価に基づいて、クローズドソースのモデルの適切な代替となる可能性があります。コミュニティが我々の研究を基に、LLMの責任ある開発に貢献できるようにすることも目的にあります。
ReAct: Synergizing Reasoning and Acting in Language Modelsharmonylab
公開URL:https://arxiv.org/abs/2210.03629
出典:Shunyu Yao, Jeffrey Zhao, Dian Yu, Nan Du, Izhak Shafran, Karthik Narasimhan, Yuan Cao : ReAct: Synergizing Reasoning and Acting in Language Models, arXiv: 2210.03629 (2022)
概要:本論文では大規模言語モデルにおいて推論(Reasoning)と行動(Acting)を組合わせるprompt手法であるReActを提案した。知識集約型の推論タスク(QAタスク・事実検証タスク)と意思決定タスク(テキストゲーム、ウェブナビゲーション)でReActの性能を評価した。推論タスクにおいてReActはWikipedia APIとの対話によりChain of ThoughtのHallucinationを軽減し、意思決定タスクにおいては模倣学習や強化学習による手法を上回る性能を示した。
A Study on Estimation of Household Kerosene Consumption for Optimization of D...harmonylab
Kerosene is a very important source for heating in many areas. In cold regions of Japan, delivery companies regularly visit household oil tanks to replenish them so that they do not run out of fuel. However, it is hard to make a good delivery plan, since the delivery companies do not know how much kerosene is left in the kerosene tank. And most of the existing methods about energy consumption estimation are focused on one target. Little work has been done in kerosene consumption with many users. We present Deep learning based model to estimate the consumption and mean consumption of one time span. The model includes time series augmentation to extract more information from the time span and attention mechanism to extract inner connection between each time step. The experimental results indicate that our proposed approaches have MAE around 50L for refuel recordings and MAE around 4L for daily consumption. In order to evaluate our model in a realistic way, the estimation result is applied to an inventory routing algorithm. The result using our estimation is close to the result using real consumption data.
【DLゼミ】XFeat: Accelerated Features for Lightweight Image Matchingharmonylab
公開URL:https://arxiv.org/pdf/2404.19174
出典:Guilherme Potje, Felipe Cadar, Andre Araujo, Renato Martins, Erickson R. ascimento: XFeat: Accelerated Features for Lightweight Image Matching, Proceedings of the 2024 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) (2023)
概要:リソース効率に優れた特徴点マッチングのための軽量なアーキテクチャ「XFeat(Accelerated Features)」を提案します。手法は、局所的な特徴点の検出、抽出、マッチングのための畳み込みニューラルネットワークの基本的な設計を再検討します。特に、リソースが限られたデバイス向けに迅速かつ堅牢なアルゴリズムが必要とされるため、解像度を可能な限り高く保ちながら、ネットワークのチャネル数を制限します。さらに、スパース下でのマッチングを選択できる設計となっており、ナビゲーションやARなどのアプリケーションに適しています。XFeatは、高速かつ同等以上の精度を実現し、一般的なラップトップのCPU上でリアルタイムで動作します。
A Study on Decision Support System for Snow Removal Dispatch using Road Surfa...harmonylab
This study focuses on addressing the challenges associated with decision-making in winter road snow removal operations, aiming to alleviate the burden on snow removal personnel. Specifically, we propose an approach to develop a system that collects and visualizes information on road snow conditions and weather data to support decision-making by personnel. Additionally, by sharing the collected information, we aim to facilitate the sharing of premonitions about changes in decision-making among snow removal personnel, reducing the need for physical inspections.We have validated the effectiveness of the system and confirmed its efficacy.
DLゼミ: MobileOne: An Improved One millisecond Mobile Backboneharmonylab
公開URL:https://openaccess.thecvf.com/content/CVPR2023/html/Vasu_MobileOne_An_Improved_One_Millisecond_Mobile_Backbone_CVPR_2023_paper.html
出典:Vasu, Pavan Kumar Anasosalu, et al.: MobileOne: An Improved One Millisecond Mobile Backbone, Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (2023)
概要:モバイル端末向けのニューラルネットワークは多くの場合、FLOPsやパラメータ数で最適化されています。しかし、これらの最適化は実際のモバイルデバイスで実行した場合のネットワークの応答時間に相関しない場合があります。我々は昨今のニューラルネットワークの最適化のボトルネックを特定・分析し、その結果をもとにした新たな効率的なバックボーンMobileOneを設計しました。結果はMobileFormerと同等の性能を得ながら、38倍高速であり、最先端の効率性を達成しました。
DLゼミ: Llama 2: Open Foundation and Fine-Tuned Chat Modelsharmonylab
公開URL:https://arxiv.org/pdf/2307.09288.pdf
出典:Touvron Hugo, et al.: Llama 2: Open foundation and fine-tuned chat models, arXiv preprint arXiv:2307.09288 (2023)
概要:70億から700億のパラメータを持つ大規模言語モデル(LLM)の事前学習であるLlama 2を開発し、リリースしました。Llama 2-Chatと呼ばれるファインチューニングされたLLMは、対話のユースケースに最適化されています。提案モデルは、検証したほとんどのベンチマークにおいて、オープンソースのチャットモデルを凌駕しており、有用性と安全性に関する人間による評価に基づいて、クローズドソースのモデルの適切な代替となる可能性があります。コミュニティが我々の研究を基に、LLMの責任ある開発に貢献できるようにすることも目的にあります。
ReAct: Synergizing Reasoning and Acting in Language Modelsharmonylab
公開URL:https://arxiv.org/abs/2210.03629
出典:Shunyu Yao, Jeffrey Zhao, Dian Yu, Nan Du, Izhak Shafran, Karthik Narasimhan, Yuan Cao : ReAct: Synergizing Reasoning and Acting in Language Models, arXiv: 2210.03629 (2022)
概要:本論文では大規模言語モデルにおいて推論(Reasoning)と行動(Acting)を組合わせるprompt手法であるReActを提案した。知識集約型の推論タスク(QAタスク・事実検証タスク)と意思決定タスク(テキストゲーム、ウェブナビゲーション)でReActの性能を評価した。推論タスクにおいてReActはWikipedia APIとの対話によりChain of ThoughtのHallucinationを軽減し、意思決定タスクにおいては模倣学習や強化学習による手法を上回る性能を示した。
A Study on Estimation of Household Kerosene Consumption for Optimization of D...harmonylab
Kerosene is a very important source for heating in many areas. In cold regions of Japan, delivery companies regularly visit household oil tanks to replenish them so that they do not run out of fuel. However, it is hard to make a good delivery plan, since the delivery companies do not know how much kerosene is left in the kerosene tank. And most of the existing methods about energy consumption estimation are focused on one target. Little work has been done in kerosene consumption with many users. We present Deep learning based model to estimate the consumption and mean consumption of one time span. The model includes time series augmentation to extract more information from the time span and attention mechanism to extract inner connection between each time step. The experimental results indicate that our proposed approaches have MAE around 50L for refuel recordings and MAE around 4L for daily consumption. In order to evaluate our model in a realistic way, the estimation result is applied to an inventory routing algorithm. The result using our estimation is close to the result using real consumption data.
3. グラフマッチング
グラフ理論におけるマッチング
グラフ理論におけるマッチング
理論
グラフ中の辺集合で、互いに端点を共有しないもの
完全二部グラフKxyにおける から への完全マッチング
完全二部グラフ におけるXから への完全
からYへの完全マッチング
XとYの部分集合間の一対一対応で、Xの各要素に対し、Yの異なる要素が対応
していること
最適グラフマッチング
最適グラフマッチング
Kxy
マッチングに含まれる辺のウエイトの和が最大となる完
全マッチング
w1A A
max F = ∑∑ (m xy ⋅ wxy )
1
目的関数
w1B w2A s t
求める完全マッチング M
w1C
B 1 辺{x, y} ∈ M
w2B x =1 y =1
mxy =
2 0 辺{x, y} ∉ M
C
(∑ m xy ≤ 1) ∧ (∑ m xy = 1)
制約条件
w2C s t
X Y x =1 y =1
|X|=s |Y|=t
アルゴリズム
ハンガリー法[H.W.Kuhn.2005]を用いる
9. 提案システムのアルゴリズム
START
A
患者集合X
-∞
1
病床集合Yを入力
0.83 0.87
0.95 B
0.95
2
ウェイトwを求める
0.96 C
X Y
マッチングMを求める 患者 病床
END
10. タイミングの問題の解決
患者集合X・病床集合Yの決定
提案システム
提案システム
A
現行システム
現行システム
w1A
w1A A 1 w1B w2A
1
B
w1B w1C
B w2B
2
w2C C
X Y
患者集合 病床集合
X Y
ある瞬間の患者,病床集合 患者集合 病床集合
24時間単位の患者,病床集合
タイミングの問題の解決
20. 結論
• 重要度を導入することにより、各項目間の相対的な重要さを
表すことが可能である.
• 適正度を導入することにより、各項目ごとに患者の心身状態像に
病床機能が見合う度合いを表すことが可能である.
• ウェイトを導入することにより、候補病床同士の定量的比較が可能である.
• 複数の患者と病床をマッチングすることにより
マッチングに含まれる辺の平均ウェイトが最大となる組合わせを
求めることが可能となる
研究業績
投稿中論文: • 但野友美,大内東,札幌市医師会医療システム検討委員会,“札幌市医師会「入退院サポートシステ
ム」に対する最適マッチングの応用に関する考察”,医療情報学会学術雑誌「医療情報学」
• Yumi Tadano, Azuma Ohuchi, Committee of Medical Systems of Sapporo Medical Association ,
“Modeling and Analysis of Patients Matching System of Sapporo Medical Association ” , Methods of
Information in Medicine
学会発表 : 医療情報学会等国内4件
24. ウェイトの決定
• 評価項目集合 Z 項目数 |Z|=r
各項目の状態は [1, n z ] の整数で表される
• 患者x の項目z における心身状態像 a xz ∈ I 1 ≤ a xz ≤ n z
• 病床y の項目z における病床機能 b yz ∈ I 1 ≤ b yz ≤ n z ただし, I = {1,2,3,L}
適正度 p 重要度 q
• z が絶対条件の場合 • z が絶対条件の場合 qz = 1
(ⅰ) a xk = byk の場合 p xyz = 0
• z が絶対条件以外の場合
(ⅱ) a xk ≠ byk の場合 p xyz = −∞ 0 ≤ qz ≤ 1
• z が絶対条件以外の場合
(ⅰ) a xk ≤ b yk の場合
具体的な数値はAHP (Analytic
b yz − a xz
Hierarchy Process)を用いて決定
p xyz = 1 − ウエイト w
w xy = ∑ p xyz ⋅ q z
2(n z − 1) r
(ⅱ) a xk ≠ byk の場合 p xyz = 0
z =1
25. ウェイトの決定
w xy = ∑ p xyz ⋅ q z
r
z =1
• 評価項目集合 Z 項目数 |Z|=r
• 患者x と病床yの項目z における適正度 p xyz
• 項目z の重要度 q z
27. 適正度の決定
• 評価項目集合 Z 項目数 |Z|=r
各項目の状態が
各項目の状態が重いほど
↓
きな値
大きな値となる
各項目の状態は [1, n z ] の整数で表される 状態が段階的であることが
であることが必要
状態が段階的であることが必要
• 患者x の項目z における心身状態像 a xz ∈ I 1 ≤ a xz ≤ n z
• 病床y の項目z における病床機能 b yz ∈ I 1 ≤ b yz ≤ n z ただし, I = {1,2,3,L}
適正度 p
患者x と病床yの項目z における適正度 p xyz
• z が絶対条件の場合
(ⅰ) a xz = b yz の場合 p xyz = 0
(ⅱ) a xz ≠ b yz の場合 p xyz = −∞
• z が絶対条件以外の場合
b yz − a xz
(ⅰ) a xz ≤ b yz の場合 p xyz = 1 −
2(n z − 1)
(ⅱ) a xz > b yz の場合 p xyz = 0