論文紹介"DynamicFusion: Reconstruction and Tracking of Non-‐rigid Scenes in Real...Ken Sakurada
CVPR2015(Best Paper Award)の論文紹介
"DynamicFusion: Reconstruction and Tracking of Non-‐rigid Scenes in Real-‐Time"
Richard A. Newcombe, Dieter Fox, Steven M. Seitz
内容に関して何かお気づきになりましたら,スライドに記載されているメールアドレスにご連絡頂けると幸いです
論文紹介"DynamicFusion: Reconstruction and Tracking of Non-‐rigid Scenes in Real...Ken Sakurada
CVPR2015(Best Paper Award)の論文紹介
"DynamicFusion: Reconstruction and Tracking of Non-‐rigid Scenes in Real-‐Time"
Richard A. Newcombe, Dieter Fox, Steven M. Seitz
内容に関して何かお気づきになりましたら,スライドに記載されているメールアドレスにご連絡頂けると幸いです
* Satoshi Hara and Kohei Hayashi. Making Tree Ensembles Interpretable: A Bayesian Model Selection Approach. AISTATS'18 (to appear).
arXiv ver.: https://arxiv.org/abs/1606.09066#
* GitHub
https://github.com/sato9hara/defragTrees
セル生産方式におけるロボットの活用には様々な問題があるが,その一つとして 3 体以上の物体の組み立てが挙げられる.一般に,複数物体を同時に組み立てる際は,対象の部品をそれぞれロボットアームまたは治具でそれぞれ独立に保持することで組み立てを遂行すると考えられる.ただし,この方法ではロボットアームや治具を部品数と同じ数だけ必要とし,部品数が多いほどコスト面や設置スペースの関係で無駄が多くなる.この課題に対して音𣷓らは組み立て対象物に働く接触力等の解析により,治具等で固定されていない対象物が組み立て作業中に運動しにくい状態となる条件を求めた.すなわち,環境中の非把持対象物のロバスト性を考慮して,組み立て作業条件を検討している.本研究ではこの方策に基づいて,複数物体の組み立て作業を単腕マニピュレータで実行することを目的とする.このとき,対象物のロバスト性を考慮することで,仮組状態の複数物体を同時に扱う手法を提案する.作業対象としてパイプジョイントの組み立てを挙げ,簡易な道具を用いることで単腕マニピュレータで複数物体を同時に把持できることを示す.さらに,作業成功率の向上のために RGB-D カメラを用いた物体の位置検出に基づくロボット制御及び動作計画を実装する.
This paper discusses assembly operations using a single manipulator and a parallel gripper to simultaneously
grasp multiple objects and hold the group of temporarily assembled objects. Multiple robots and jigs generally operate
assembly tasks by constraining the target objects mechanically or geometrically to prevent them from moving. It is
necessary to analyze the physical interaction between the objects for such constraints to achieve the tasks with a single
gripper. In this paper, we focus on assembling pipe joints as an example and discuss constraining the motion of the
objects. Our demonstration shows that a simple tool can facilitate holding multiple objects with a single gripper.
【DLゼミ】XFeat: Accelerated Features for Lightweight Image Matchingharmonylab
公開URL:https://arxiv.org/pdf/2404.19174
出典:Guilherme Potje, Felipe Cadar, Andre Araujo, Renato Martins, Erickson R. ascimento: XFeat: Accelerated Features for Lightweight Image Matching, Proceedings of the 2024 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) (2023)
概要:リソース効率に優れた特徴点マッチングのための軽量なアーキテクチャ「XFeat(Accelerated Features)」を提案します。手法は、局所的な特徴点の検出、抽出、マッチングのための畳み込みニューラルネットワークの基本的な設計を再検討します。特に、リソースが限られたデバイス向けに迅速かつ堅牢なアルゴリズムが必要とされるため、解像度を可能な限り高く保ちながら、ネットワークのチャネル数を制限します。さらに、スパース下でのマッチングを選択できる設計となっており、ナビゲーションやARなどのアプリケーションに適しています。XFeatは、高速かつ同等以上の精度を実現し、一般的なラップトップのCPU上でリアルタイムで動作します。
6. 最適化式(DATA TERM)
data term cost term
cost termは3種類のPrior項
data term cost term
data term
レンダリング部
ハーフベクトルh(i,j)において
パラメータXでレンダリングした結果
(s,t)はブロック内の画素位置
観測データ生成部
誤差を最小化したいハーフベクトルh(i,j)においての観測データ(目標データ)
自己相似性を用いたMatchingで各ブロックの画素をTransportして生成する
(s,t)はブロック内の画素位置
問題:SVBRDFのパラメータXを求める
パラメータXを求めるマスタータイルのブロックサイズを h x wとしたとき
1.画素毎のSurface Normal (x・y方向):h x w x 2
2.画素毎のDiffuse Albedo (カラー):h x w x 3
3.画素毎のSpecular Luminance:h x w x 1
4.画素毎のSpecular Anisotropy:h x w x 3
5.全体のSpecular Color:2
6.全体のシェーディングの程度:1
7.全体のSpecular Pointiness(Roughness):1
求めるパラメータXについての詳細
合計パラメータ数:h x w x 9 + 4
例えばブロックサイズが192 x 192だと
192 x 192 x 9 + 4 = 331780個のパラメータを最適化する問題となる
ハーフベクトル(i,j)・画素位置(s,t)毎にHuber Loss
1 2 3 4 5 6 7
h x w x 9 4
7. DATA TERM レンダリング部
Brady[2014]のBRDFモデルを基本形とした拡張
E=[0 0 1]T
z
x
P = [xp,yp,1]T
p = (xp,yp)
1
0
xp
h
最適化するパラメータX
レンダリング画素のハーフベクトルh(i,j)によって変化する変数
※E=[0 0 1]T
この問題設定(対象が平面かつカメラと正対、更に光源とカメラが同軸と近似可能)では、
観測ベクトルおよび光源ベクトルとハーフベクトルは等しいため、このような定式化が可能
つまり、ハーフベクトルとパラメータが決まればレンダリング可能(光源・観測を分けて考える必要がないため)
Camera
Object
ケラレ項
光量逆二乗減衰 入射角依存 (Cos項) BradyのBRDFモデルを異方性化
j
i
s
t
12. DATA TERM 観測データ生成部
AX = TFG
1
1
1
1
1
-1 1
-1 1
-1 1
h
1 -1
1 -1
1 -1
A=
h x w
X= 3
h x w
h x w x 3
求めたい行列
×
行列式
TFG==
3
h x w x 3
TF
TGx
TGy
T F
×
T Gx
×
T Gy
×
14. 最適化式(COST TERM)
data term cost term
cost termは3種類のPrior項
data term cost term
問題:SVBRDFのパラメータXを求める
拡散反射の値は小さくなるように 鏡面反射輝度は小さくなるように
かつ、外れ値を避けるように
法線は正対に近くなるように
鏡面反射異方性は小さくなるように
かつ、外れ値を避けるように
広い鏡面反射ローブのBRDFに収束しやすくなる
パラメータXを求めるマスタータイルのブロックサイズを h x wとしたとき
1.画素毎のSurface Normal (x・y方向):h x w x 2
2.画素毎のDiffuse Albedo (カラー):h x w x 3
3.画素毎のSpecular Luminance:h x w x 1
4.画素毎のSpecular Anisotropy:h x w x 3
5.全体のSpecular Color:2
6.全体のシェーディングの程度:1
7.全体のSpecular Pointiness(Roughness):1
求めるパラメータXについての詳細
合計パラメータ数:h x w x 9 + 4
例えばブロックサイズが192 x 192だと
192 x 192 x 9 + 4 = 331780個のパラメータを最適化する問題となる
1 2 3 4 5 6 7
h x w x 9 4
prior term Rp
15. 最適化式(COST TERM)
data term cost term
cost termは3種類のPrior項
data term cost term
問題:SVBRDFのパラメータXを求める
パラメータXを求めるマスタータイルのブロックサイズを h x wとしたとき
1.画素毎のSurface Normal (x・y方向):h x w x 2
2.画素毎のDiffuse Albedo (カラー):h x w x 3
3.画素毎のSpecular Luminance:h x w x 1
4.画素毎のSpecular Anisotropy:h x w x 3
5.全体のSpecular Color:2
6.全体のシェーディングの程度:1
7.全体のSpecular Pointiness(Roughness):1
求めるパラメータXについての詳細
合計パラメータ数:h x w x 9 + 4
例えばブロックサイズが192 x 192だと
192 x 192 x 9 + 4 = 331780個のパラメータを最適化する問題となる
1 2 3 4 5 6 7
h x w x 9 4
各画素毎パラメータのX方向勾配 各画素毎パラメータのY方向勾配
パラメータの空間勾配を最小化する(滑らかにする)
Huber Loss
smooth term Rs
16. 最適化式(COST TERM)
data term cost term
cost termは3種類のPrior項
data term cost term
cost term Ri
問題:SVBRDFのパラメータXを求める
法線のX方向に対するY方向勾配 法線のY方向に対するX方向勾配
法線のCurl量
法線のCurl量を最小化する
パラメータXを求めるマスタータイルのブロックサイズを h x wとしたとき
1.画素毎のSurface Normal (x・y方向):h x w x 2
2.画素毎のDiffuse Albedo (カラー):h x w x 3
3.画素毎のSpecular Luminance:h x w x 1
4.画素毎のSpecular Anisotropy:h x w x 3
5.全体のSpecular Color:2
6.全体のシェーディングの程度:1
7.全体のSpecular Pointiness(Roughness):1
求めるパラメータXについての詳細
合計パラメータ数:h x w x 9 + 4
例えばブロックサイズが192 x 192だと
192 x 192 x 9 + 4 = 331780個のパラメータを最適化する問題となる
1 2 3 4 5 6 7
h x w x 9 4
normal curl term Ri
17. 最適化式(全体)
data term cost term
cost termは3種類のPrior項
問題:SVBRDFのパラメータXを求める
h x w x 3 x N h x w x 9
data term prior smooth normal curl
h x wh x w x 2 x 9
h x w個の画素での
観測データとレンダリング結果の差
カラーかつハーフベクトルN個分
h x w個の画素での
画素毎パラメータ9個の
Priorとの差
h x w個の画素での
画素毎パラメータ9個の
X・Y方向の勾配
h x w個の画素での
法線のCurl
式の個数
Y =
………………
h x w x 3 x N
h x w x 9
h x w x 2 x 9
h x w
パラメータXに対する結果として
巨大な連立した非線形の
関数が定義される
→ レーベンバーグ・マルカート法で解く
h x w x (3N + 28)
18. 最適化実行の例 (MATLAB)
fun = @(Y) f(X,Y);
X = lsqnonlin(fun, x0)
パラメータ行列X (h x w x 9 + 4) を入力したら最小化したい行列Y (h x w x (3N + 28)) を返す無名関数(実際はf(X,Y)を定義する)
パラメータXの初期値(h x w x 9 + 4)非線形最小二乗Solver
※ 実際はレーベンバーグ・マルカート法で動作させるにはオプションが必要
(あと本当は各関数での偏微分結果(ヤコビアン)を出力する関数も必要)