【DLゼミ】XFeat: Accelerated Features for Lightweight Image Matchingharmonylab
公開URL:https://arxiv.org/pdf/2404.19174
出典:Guilherme Potje, Felipe Cadar, Andre Araujo, Renato Martins, Erickson R. ascimento: XFeat: Accelerated Features for Lightweight Image Matching, Proceedings of the 2024 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) (2023)
概要:リソース効率に優れた特徴点マッチングのための軽量なアーキテクチャ「XFeat(Accelerated Features)」を提案します。手法は、局所的な特徴点の検出、抽出、マッチングのための畳み込みニューラルネットワークの基本的な設計を再検討します。特に、リソースが限られたデバイス向けに迅速かつ堅牢なアルゴリズムが必要とされるため、解像度を可能な限り高く保ちながら、ネットワークのチャネル数を制限します。さらに、スパース下でのマッチングを選択できる設計となっており、ナビゲーションやARなどのアプリケーションに適しています。XFeatは、高速かつ同等以上の精度を実現し、一般的なラップトップのCPU上でリアルタイムで動作します。
A Study on Decision Support System for Snow Removal Dispatch using Road Surfa...harmonylab
This study focuses on addressing the challenges associated with decision-making in winter road snow removal operations, aiming to alleviate the burden on snow removal personnel. Specifically, we propose an approach to develop a system that collects and visualizes information on road snow conditions and weather data to support decision-making by personnel. Additionally, by sharing the collected information, we aim to facilitate the sharing of premonitions about changes in decision-making among snow removal personnel, reducing the need for physical inspections.We have validated the effectiveness of the system and confirmed its efficacy.
DLゼミ: MobileOne: An Improved One millisecond Mobile Backboneharmonylab
公開URL:https://openaccess.thecvf.com/content/CVPR2023/html/Vasu_MobileOne_An_Improved_One_Millisecond_Mobile_Backbone_CVPR_2023_paper.html
出典:Vasu, Pavan Kumar Anasosalu, et al.: MobileOne: An Improved One Millisecond Mobile Backbone, Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (2023)
概要:モバイル端末向けのニューラルネットワークは多くの場合、FLOPsやパラメータ数で最適化されています。しかし、これらの最適化は実際のモバイルデバイスで実行した場合のネットワークの応答時間に相関しない場合があります。我々は昨今のニューラルネットワークの最適化のボトルネックを特定・分析し、その結果をもとにした新たな効率的なバックボーンMobileOneを設計しました。結果はMobileFormerと同等の性能を得ながら、38倍高速であり、最先端の効率性を達成しました。
DLゼミ: Llama 2: Open Foundation and Fine-Tuned Chat Modelsharmonylab
公開URL:https://arxiv.org/pdf/2307.09288.pdf
出典:Touvron Hugo, et al.: Llama 2: Open foundation and fine-tuned chat models, arXiv preprint arXiv:2307.09288 (2023)
概要:70億から700億のパラメータを持つ大規模言語モデル(LLM)の事前学習であるLlama 2を開発し、リリースしました。Llama 2-Chatと呼ばれるファインチューニングされたLLMは、対話のユースケースに最適化されています。提案モデルは、検証したほとんどのベンチマークにおいて、オープンソースのチャットモデルを凌駕しており、有用性と安全性に関する人間による評価に基づいて、クローズドソースのモデルの適切な代替となる可能性があります。コミュニティが我々の研究を基に、LLMの責任ある開発に貢献できるようにすることも目的にあります。
【DLゼミ】XFeat: Accelerated Features for Lightweight Image Matchingharmonylab
公開URL:https://arxiv.org/pdf/2404.19174
出典:Guilherme Potje, Felipe Cadar, Andre Araujo, Renato Martins, Erickson R. ascimento: XFeat: Accelerated Features for Lightweight Image Matching, Proceedings of the 2024 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) (2023)
概要:リソース効率に優れた特徴点マッチングのための軽量なアーキテクチャ「XFeat(Accelerated Features)」を提案します。手法は、局所的な特徴点の検出、抽出、マッチングのための畳み込みニューラルネットワークの基本的な設計を再検討します。特に、リソースが限られたデバイス向けに迅速かつ堅牢なアルゴリズムが必要とされるため、解像度を可能な限り高く保ちながら、ネットワークのチャネル数を制限します。さらに、スパース下でのマッチングを選択できる設計となっており、ナビゲーションやARなどのアプリケーションに適しています。XFeatは、高速かつ同等以上の精度を実現し、一般的なラップトップのCPU上でリアルタイムで動作します。
A Study on Decision Support System for Snow Removal Dispatch using Road Surfa...harmonylab
This study focuses on addressing the challenges associated with decision-making in winter road snow removal operations, aiming to alleviate the burden on snow removal personnel. Specifically, we propose an approach to develop a system that collects and visualizes information on road snow conditions and weather data to support decision-making by personnel. Additionally, by sharing the collected information, we aim to facilitate the sharing of premonitions about changes in decision-making among snow removal personnel, reducing the need for physical inspections.We have validated the effectiveness of the system and confirmed its efficacy.
DLゼミ: MobileOne: An Improved One millisecond Mobile Backboneharmonylab
公開URL:https://openaccess.thecvf.com/content/CVPR2023/html/Vasu_MobileOne_An_Improved_One_Millisecond_Mobile_Backbone_CVPR_2023_paper.html
出典:Vasu, Pavan Kumar Anasosalu, et al.: MobileOne: An Improved One Millisecond Mobile Backbone, Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (2023)
概要:モバイル端末向けのニューラルネットワークは多くの場合、FLOPsやパラメータ数で最適化されています。しかし、これらの最適化は実際のモバイルデバイスで実行した場合のネットワークの応答時間に相関しない場合があります。我々は昨今のニューラルネットワークの最適化のボトルネックを特定・分析し、その結果をもとにした新たな効率的なバックボーンMobileOneを設計しました。結果はMobileFormerと同等の性能を得ながら、38倍高速であり、最先端の効率性を達成しました。
DLゼミ: Llama 2: Open Foundation and Fine-Tuned Chat Modelsharmonylab
公開URL:https://arxiv.org/pdf/2307.09288.pdf
出典:Touvron Hugo, et al.: Llama 2: Open foundation and fine-tuned chat models, arXiv preprint arXiv:2307.09288 (2023)
概要:70億から700億のパラメータを持つ大規模言語モデル(LLM)の事前学習であるLlama 2を開発し、リリースしました。Llama 2-Chatと呼ばれるファインチューニングされたLLMは、対話のユースケースに最適化されています。提案モデルは、検証したほとんどのベンチマークにおいて、オープンソースのチャットモデルを凌駕しており、有用性と安全性に関する人間による評価に基づいて、クローズドソースのモデルの適切な代替となる可能性があります。コミュニティが我々の研究を基に、LLMの責任ある開発に貢献できるようにすることも目的にあります。
ReAct: Synergizing Reasoning and Acting in Language Modelsharmonylab
公開URL:https://arxiv.org/abs/2210.03629
出典:Shunyu Yao, Jeffrey Zhao, Dian Yu, Nan Du, Izhak Shafran, Karthik Narasimhan, Yuan Cao : ReAct: Synergizing Reasoning and Acting in Language Models, arXiv: 2210.03629 (2022)
概要:本論文では大規模言語モデルにおいて推論(Reasoning)と行動(Acting)を組合わせるprompt手法であるReActを提案した。知識集約型の推論タスク(QAタスク・事実検証タスク)と意思決定タスク(テキストゲーム、ウェブナビゲーション)でReActの性能を評価した。推論タスクにおいてReActはWikipedia APIとの対話によりChain of ThoughtのHallucinationを軽減し、意思決定タスクにおいては模倣学習や強化学習による手法を上回る性能を示した。
A Study on Estimation of Household Kerosene Consumption for Optimization of D...harmonylab
Kerosene is a very important source for heating in many areas. In cold regions of Japan, delivery companies regularly visit household oil tanks to replenish them so that they do not run out of fuel. However, it is hard to make a good delivery plan, since the delivery companies do not know how much kerosene is left in the kerosene tank. And most of the existing methods about energy consumption estimation are focused on one target. Little work has been done in kerosene consumption with many users. We present Deep learning based model to estimate the consumption and mean consumption of one time span. The model includes time series augmentation to extract more information from the time span and attention mechanism to extract inner connection between each time step. The experimental results indicate that our proposed approaches have MAE around 50L for refuel recordings and MAE around 4L for daily consumption. In order to evaluate our model in a realistic way, the estimation result is applied to an inventory routing algorithm. The result using our estimation is close to the result using real consumption data.
4. 小型屋内自律飛行船
駆動部
バルーン
T-Engineシステム
CPU : M32104 (216 MHz)
SDRAM :16MB
Input Signal Control Signal
カメラセンサ プロペラ y
・円柱型 160 ×144 [pixel]
・高さ:80cm x
・直径:94cm
z
z 階層構造
y
x
動作設計 動作設計層
制御器(PID制御) 制御層
シリアル通信 カメラセンサ モータ ライブラリモジュール
T-kernel OS
3m×3m μ T-Engine ハードウェア
位置取得[Kadota,2004]: x(t),y(t),z(t),θ(t)
速度取得:vx(t ), vy(t ), vz(t ), (t )
5. PID制御
速度偏差によるPID制御[Minagawa, 2007]
x y
d x (t ) d x (t T )
X軸 : m x (t ) KPx d x (t ) KI x d x (t ) KDx ex
T e Y
d y (t ) d y (t T )
Y軸 : m y (t ) KPy d y (t ) KI y d y (t ) KD y ey
T
d (t ) d z (t T )
Z軸 : m z (t ) KPz d z (t ) KI z d z (t ) KDz z X
T Z
d (t ) d (t T )
Θ軸 : m (t ) KP d (t ) KI d (t ) KD
T ez
計12個のパラメータ Y
m(t) : プロペラ出力 KP : 比例項のパラメータ
d(t) :目標速度に対する偏差 KI : 積分項のパラメータ
ΔT : サンプリング時間( 0.3[sec]) KD : 微分項のパラメータ
D(微分項)は加速を制限する特徴を持つため,変動すると振動が起こる.
→計8パラメータ(x,y,z,θの各PとI)をMemory-based PID制御で調節する
9. STEP1:PIDパラメータの選択
概要 :STEP2で用いるPIDパラメータを選択する
アルゴリズム
入力: (t ) :時刻 t において取得する時系列データ
j :データベースの各レコードの時系列データ
処理: (t ) と各 j との類似度 d j を計算.
n y nu 1
l (t ) l j
類似度定義: d j
l 1 max l min l
出力: 類似度が高いレコードをp個選択.
10. STEP2:PIDパラメータの生成
概要 :制御で用いるPIDパラメータを生成する
アルゴリズム
入力: 類似度が高いレコードをp個
処理: 類似度に応じた重み付き平均計算.
p
重み付き平均定義: Κ new
(t ) wi K i
n y nu 1 1
i
[l (t ) li ]2
wi 1
[max min ]2
l 1 l l
p
w
i 1
i 1
出力: 制御に用いるPIDパラメータ Κ
new
(t )
11. STEP3:PIDパラメータの修正(追加),削除
概要 :制御誤差を利用しPIDパラメータを修正,データ
ベースに追加,データベースからレコードを1つ削除
アルゴリズム
入力: 制御誤差 (t T )
制御に利用したPIDパラメータ Κ
new
(t )
制御誤差定義: (t T ) OV (t T ) V (t T )
処理: PIDパラメータを修正し,追加するレコードと削除するレコードを求める
PIDパラメータ修正定義: 従来手法においてモデル追従性
1 2
Κ mod ify (t ) K new (t ) η (t T ) を向上させる修正をしていた部分
学習係数
K new (t ) 2
目標速度に対する偏差が小さく
なるようにした
削除条件定義:
min( d i ), i 1 N
出力: 修正したPIDパラメータを時系列データ (t ) と組に
して追加レコードとし,削除レコードを削除
12. 実験概要
目的
Memory-based PID制御の有効性を検証
方法 :従来手法との比較
比較対象
固定PID制御(PIDパラメータが固定値である制御)
評価方法 T
目標速度追従性(評価関数: | (OV (t ) V (t ) |[cm / s] )
t 0
T
目標位置追従性(評価関数: | OP (t ) P(t ) |[cm / s]
t 0
)
OP (t ) : 時刻tにおける目標位置
P(t ) : 時刻tにおける飛行船位置
OV (t ) : 時刻tにおける目標速度
T : 実験終了時刻 V (t ) : 時刻tにおける飛行船速度