AAAI2023「Are Transformers Effective for Time Series Forecasting?」と、HuggingFace「Yes, Transformers are Effective for Time Series Forecasting (+ Autoformer)」の紹介です。
本スライドは、弊社の梅本により弊社内の技術勉強会で使用されたものです。
近年注目を集めるアーキテクチャーである「Transformer」の解説スライドとなっております。
"Arithmer Seminar" is weekly held, where professionals from within and outside our company give lectures on their respective expertise.
The slides are made by the lecturer from outside our company, and shared here with his/her permission.
Arithmer株式会社は東京大学大学院数理科学研究科発の数学の会社です。私達は現代数学を応用して、様々な分野のソリューションに、新しい高度AIシステムを導入しています。AIをいかに上手に使って仕事を効率化するか、そして人々の役に立つ結果を生み出すのか、それを考えるのが私たちの仕事です。
Arithmer began at the University of Tokyo Graduate School of Mathematical Sciences. Today, our research of modern mathematics and AI systems has the capability of providing solutions when dealing with tough complex issues. At Arithmer we believe it is our job to realize the functions of AI through improving work efficiency and producing more useful results for society.
AAAI2023「Are Transformers Effective for Time Series Forecasting?」と、HuggingFace「Yes, Transformers are Effective for Time Series Forecasting (+ Autoformer)」の紹介です。
本スライドは、弊社の梅本により弊社内の技術勉強会で使用されたものです。
近年注目を集めるアーキテクチャーである「Transformer」の解説スライドとなっております。
"Arithmer Seminar" is weekly held, where professionals from within and outside our company give lectures on their respective expertise.
The slides are made by the lecturer from outside our company, and shared here with his/her permission.
Arithmer株式会社は東京大学大学院数理科学研究科発の数学の会社です。私達は現代数学を応用して、様々な分野のソリューションに、新しい高度AIシステムを導入しています。AIをいかに上手に使って仕事を効率化するか、そして人々の役に立つ結果を生み出すのか、それを考えるのが私たちの仕事です。
Arithmer began at the University of Tokyo Graduate School of Mathematical Sciences. Today, our research of modern mathematics and AI systems has the capability of providing solutions when dealing with tough complex issues. At Arithmer we believe it is our job to realize the functions of AI through improving work efficiency and producing more useful results for society.
45. 45
応用事例(3) ー耳音響放射
Cochlear maturation and otoacoustic emissions in preterm infants: a time-frequency approach
Tognola G et al. (2005). Hearing Res. 199: 71-80
50. 50
2進離散ウェーブレットの導入
パラメタを離散化
2のべき乗でスケールが変わ
るウェーブレット
マザーウェーブレットψ(t)
スケールパラメタ: j
シフトパラメタ: k
共に整数
jが大→縮まる
kが大→遅延する
, t t k j j
j k
( ) 2 (2 ) /2
t b
1
t a b
a
a
( ) ,
k
b j 2
j a 2 k
a
52. 52
直交変換
パラメタを離散化しつつ,情報を完全に保存するには,どんなウェーブ
レットがよいのか?→直交変換(展開)を導入
直交変換とは…
変換の過程での冗長性を排除し,また完全な再構成を可能にする。
すなわち,信号の情報全体は繰り返されず一回ずつ符号化される。
変換する基底(basis)が直交している(orthogonal)。
さらに基底のノルムが1だと正規直交基底(orthonomal basis)
x
y
ey
ex
(2, 3)
p
q
ey
ex
(1, 2)
eq ep
53. 53
直交ウェーブレットである条件
正規直交であるための条件
1
j l k m
j k l m
, , , j l k m
( ,
)
( ,
)
0
L2(R)上の任意の関数f(t)に対して展開するdj,kが存在する
そんなウェーブレットはあるのか?
ハールウェーブレットは直交ウェーブレットであるになる
直交でかつ滑らかウェーブレットは「奇跡的に偶然的に」発見された(Mayer)
後に多重解像度解析理論によって,数学的に整備され,任意に作れるように
なった。
実践的には誰かが考えたものを利用すればいい。