INF442: Traitement des données massivesFrank Nielsen
French slides from curriculum INF442 at Ecole Polytechnique.
English book entitled "Introduction to HPC with MPI for Data Science" (Springer, 2016)
http://www.springer.com/us/book/9783319219028
INF442: Traitement des données massivesFrank Nielsen
French slides from curriculum INF442 at Ecole Polytechnique.
English book entitled "Introduction to HPC with MPI for Data Science" (Springer, 2016)
http://www.springer.com/us/book/9783319219028
Goman, Khrabrov, Khramtsovsky (2002) - Chaotic dynamics in a simple aeromecha...Project KRIT
М.Г.Гоман, А.Н.Храмбров. А.В.Храмцовский «Хаотическая динамика простой аэромеханической системы», глава в книге под ред. Дж.Блэклиджа, А.Иванса и М.Тернера «Фрактальная геометрия: Математические методы. алгоритмы, приложения» (Fractal Geometry: Mathematical Methods, Algorithms, Applications), Horwood Publishing, 2002 г.
M.G.Goman, A.N.Khrabrov, A.V.Khramtsovsky "Chaotic dynamics in a simple aeromechanical system", chapter in a book: J.Blackledge, A.Evans, and M.Turner (eds.), "Fractal Geometry: Mathematical Methods, Algorithms, Applications", Horwood Publishing Series in Mathematics and Applications, 2002.
Dynamics of a free-to-roll delta wing installed at high incidence in a wind tunnel is outlined using the experimental and mathematical modeling results. A simple analytical model applied allows to simulate the multiattractor and chaotic dynamics observed in wind tunnel tests and thus to validate the used method for nonlinear and unsteady aerodynamics loads representation.
Computational Information Geometry: A quick review (ICMS)Frank Nielsen
From the workshop
Computational information geometry for image and signal processing
Sep 21, 2015 - Sep 25, 2015
ICMS, 15 South College Street, Edinburgh
http://www.icms.org.uk/workshop.php?id=343
Goman, Khrabrov, Khramtsovsky (2002) - Chaotic dynamics in a simple aeromecha...Project KRIT
М.Г.Гоман, А.Н.Храмбров. А.В.Храмцовский «Хаотическая динамика простой аэромеханической системы», глава в книге под ред. Дж.Блэклиджа, А.Иванса и М.Тернера «Фрактальная геометрия: Математические методы. алгоритмы, приложения» (Fractal Geometry: Mathematical Methods, Algorithms, Applications), Horwood Publishing, 2002 г.
M.G.Goman, A.N.Khrabrov, A.V.Khramtsovsky "Chaotic dynamics in a simple aeromechanical system", chapter in a book: J.Blackledge, A.Evans, and M.Turner (eds.), "Fractal Geometry: Mathematical Methods, Algorithms, Applications", Horwood Publishing Series in Mathematics and Applications, 2002.
Dynamics of a free-to-roll delta wing installed at high incidence in a wind tunnel is outlined using the experimental and mathematical modeling results. A simple analytical model applied allows to simulate the multiattractor and chaotic dynamics observed in wind tunnel tests and thus to validate the used method for nonlinear and unsteady aerodynamics loads representation.
Computational Information Geometry: A quick review (ICMS)Frank Nielsen
From the workshop
Computational information geometry for image and signal processing
Sep 21, 2015 - Sep 25, 2015
ICMS, 15 South College Street, Edinburgh
http://www.icms.org.uk/workshop.php?id=343
On representing spherical videos (Frank Nielsen, CVPR 2001)Frank Nielsen
The document discusses different geometric shapes like cubes, dodecahedrons, and icosahedrons that can be used as envelopes. It also mentions that images can be interactively slid onto these envelopes and spherical maps can be generated using techniques like Buckyballer's unfolded icosahedron map or stratified random and Hammersley sequences.
The dual geometry of Shannon informationFrank Nielsen
The document discusses the dual geometry of Shannon information. It covers:
1. Shannon entropy and related concepts like maximum entropy principle and exponential families.
2. The properties of Kullback-Leibler divergence including its interpretation as a statistical distance and relation to maximum entropy.
3. How maximum likelihood estimation for exponential families can be viewed as minimizing Kullback-Leibler divergence between the empirical distribution and model distribution.
Classification with mixtures of curved Mahalanobis metricsFrank Nielsen
This document discusses curved Mahalanobis distances in Cayley-Klein geometries and their application to classification. Specifically:
1. It introduces Mahalanobis distances and generalizes them to curved distances in Cayley-Klein geometries, which can model both elliptic and hyperbolic geometries.
2. It describes how to learn these curved Mahalanobis metrics using an adaptation of Large Margin Nearest Neighbors (LMNN) to the elliptic and hyperbolic cases.
3. Experimental results on several datasets show that curved Mahalanobis distances can achieve comparable or better classification accuracy than standard Mahalanobis distances.
Patch Matching with Polynomial Exponential Families and Projective DivergencesFrank Nielsen
This document presents a method called Polynomial Exponential Family-Patch Matching (PEF-PM) to solve the patch matching problem. PEF-PM models patch colors using polynomial exponential families (PEFs), which are universal smooth positive densities. It estimates PEFs using a Score Matching Estimator and accelerates batch estimation using Summed Area Tables. Patch similarity is measured using a statistical projective divergence called the symmetrized γ-divergence. Experiments show PEF-PM handles noise robustly, symmetries, and outperforms baseline methods.
5. Ü Ñ Ò
◮ Ü Ñ Ò ÔÖÓ Ö ÑÑ Ø ÓÒ ··
´×ØÝÐ ÁÆ ¿½½»¿¾½¸ Ú
ÙÒ Ô Ø Ø Ü Ö
ÅÈÁµ
Ì ´¾ Ñ µ¸ Ô Ð Ñ
Ò ´Èŵ
◮ Ü Ñ Ò
Ö Ø ¿ ´ µ ½¼ Ù Ò
◮ ÔÖÓ Ø Ò ÓÖÑ Ø ÕÙ ´ÈÁ¸
ÙÐØ Ø ¸ Ö Ò Ù Ð ¾¾ Ñ µ ×ÓÙØ Ò Ò
ÓÖ Ð
ÆÓØ Ø ÓÒ
◮ ÒÓØ Ð ØØ Ö Ð
¾ +Ñ Ü(ÈÅ,ÈÁ)
¿
◮ ÒÓØ
Ð ×× ÒØ
6. Ä ØÖ Ô Ö ÐÐ Ð
ÙÒ ÔÖÓ Ð Ñ ÓÒ Ñ ÒØ Ð
Ö Ò Æ Ð× Ò ½ºÌÖ ¹½ºË ÕÙ ÒØ Ð ¹
7. ÌÖ × ÕÙ ÒØ Ð ØÖ ÙÐÐ Ù Ð ËÓÖØ
ÌÖ Ö n ÓÒÒ × x½, ..., xn Ò ÓÖ Ö ×
Ò ÒØ
x½ ≤ ... ≤ xn
→ Ò ¸
Ð ÔÖÓ Ö ÑÑ Ö Ñ × Ø ÑÔ× ÕÙ Ö Ø ÕÙ O(n¾)
4 3 2 1
3 4 2 1
3 42 1
3 42 1
3 42 1
3 42 1
3 42 1
3 42 1
3 421
Phase 1:
Le plus grand ´el´ement
remonte
Phase 2:
Le deuxi`eme plus grand
´el´ement remonte
Phase 3:
Le troisi`eme plus grand
´el´ement remonte
Bulle
Ö Ò Æ Ð× Ò ½ºÌÖ ¹½ºË ÕÙ ÒØ Ð ¹
8. ÌÖ × ÕÙ ÒØ Ð Ð³ Ð ÓÖ Ø Ñ ÉÙ
×ÓÖØ
Ð ÓÖ Ø Ñ Ö
ÙÖ× Ö Ò ÓÑ × Ú
Ô ÚÓØ x
◮ ÙÒ Ø Ð Ù ÙÒ Ð Ñ ÒØ ×Ø ÙÒ Ø Ð Ù ØÖ
× Ø ÖÑ Ò Ð Ð
Ö
ÙÖ× ÓÒ
◮ × ÒÓÒ
Ó × Ö ÙÒ Ð Ñ ÒØ Ô ÚÓØ x¸ Ô ÖØ Ø ÓÒÒ Ö Ð Ø Ð Ù X Ò ÙÜ
×ÓÙ×¹Ø Ð ÙÜ X≤x Ø Xx¸ Ø ÔÔ Ð Ö Ö
ÙÖ× Ú Ñ ÒØ
ÉÙ
ËÓÖØ(X) = (ÉÙ
ËÓÖØ(X≤x), ÉÙ
ËÓÖØ(Xx ))
Ì ÑÔ× ÑÓÖØ ˜O(n ÐÓ n)¸ ˜O(n ÐÓ p) × p Ð Ñ ÒØ× ×Ø Ò
Ø×
ØØ ÒØ ÓÒ Ò³ÓÙ Ð Þ Ô × Ö ÙÒ Ô ÖÑÙØ Ø ÓÒ Ð ØÓ Ö ´ Ò Ø ÑÔ×
Ð Ò Ö µ Ú ÒØ ³ ÔÔ Ð Ö ÉÙ
ËÓÖØ × ÒÓÒ ÚÓÙ× Ö ×ÕÙ Þ ÙÒ Ø ÑÔ× ÕÙ Ö Ø ÕÙ
O(n¾)
Ö Ò Æ Ð× Ò ½ºÌÖ ¹½ºË ÕÙ ÒØ Ð ¹
9. Ø Ñ Ô Ð Ø
Ð × × Ì Ú Ó Õ Ù
Ë Ó Ö Ø ´ Ú
Ø Ó Ö Ì ²Ú ¸ Ù Ò × Ò Ò Ø
ÐÓÛ ¸ Ù Ò × Ò Ò Ø µ
ß
´ ÐÓÛ µ Ö Ø Ù Ö Ò
»» × Ð
Ø ÓÒÒ Ð Ú Ð ÙÖ Ù Ô ÚÓØ
Ù Ò × Ò Ò Ø Ô Ú Ó Ø Á Ò Ü ´ ÐÓÛ · µ » ¾
»» Ô ÖØ Ø ÓÒÒ Ð Ú
Ø ÙÖ
Ô Ú Ó Ø Á Ò Ü Ô Ú Ó Ø ´ Ú ¸ ÐÓÛ ¸ ¸ Ô Ú Ó Ø Á Ò Ü µ
»» ØÖ Ð × ÙÜ ×ÓÙ×¹Ú
Ø ÙÖ× Ö
ÙÖ× Ú Ñ ÒØ
´ ÐÓÛ Ô Ú Ó Ø Á Ò Ü µ Õ Ù
Ë Ó Ö Ø ´ Ú ¸ ÐÓÛ ¸ Ô Ú Ó Ø Á Ò Ü µ
´ Ô Ú Ó Ø Á Ò Ü µ Õ Ù
Ë Ó Ö Ø ´ Ú ¸ Ô Ú Ó Ø Á Ò Ü · ½ ¸
µ
Ø Ñ Ô Ð Ø
Ð × × Ì Ú Ó Õ Ù
Ë Ó Ö Ø ´ Ú
Ø Ó Ö Ì ² Ú µ
ß
Ù Ò × Ò Ò Ø ÒÙÑ Ö Ð Ñ ÒØ× Ú º × Þ ´ µ
´ ÒÙÑ Ö Ð Ñ ÒØ× ½ µ
Õ Ù
Ë Ó Ö Ø ´ Ú ¸ ¼ ¸ ÒÙÑ Ö Ð Ñ ÒØ× − ½ µ
Ö Ò Æ Ð× Ò ½ºÌÖ ¹½ºË ÕÙ ÒØ Ð ¹
10. Ø Ñ Ô Ð Ø
Ð × × Ì Ù Ò × Ò Ò Ø Ô Ú Ó Ø ´ Ú
Ø Ó Ö Ì ² Ú ¸
Ù Ò × Ò Ò Ø × Ø Ö Ø ¸ Ù Ò × Ò Ò Ø × Ø Ó Ô ¸ Ù Ò × Ò Ò Ø
Ô Ó × Ø Ó Ò µ
ß »» ÓÒ
Ò Ð Ô ÚÓØ Ú
Ð ÔÓ× Ø ÓÒ Ò Ø Ð
×Û Ô ´ Ú × Ø Ö Ø ℄ ¸ Ú Ô Ó × Ø Ó Ò ℄ µ
»» Ô ÖØ Ø ÓÒÒ Ð × Ú Ð ÙÖ×
Ù Ò × Ò Ò Ø ÐÓÛ × Ø Ö Ø · ½
Ù Ò × Ò Ò Ø × Ø Ó Ô · ½
Û Ð ´ ÐÓÛ µ
´ Ú ÐÓÛ ℄ Ú × Ø Ö Ø ℄ µ
ÐÓÛ··
Ð × ´ Ú −− ℄ Ú × Ø Ö Ø ℄ µ
×Û Ô ´ Ú ÐÓÛ ℄ ¸ Ú ℄ µ
»» Ø ÓÒ Ö ¹
Ò Ð Ô ÚÓØ × ÔÐ
Ò Ø Ð
×Û Ô ´ Ú × Ø Ö Ø ℄ ¸ Ú −−ÐÓÛ ℄ µ
Ö Ø Ù Ö Ò ÐÓÛ
Ö Ò Æ Ð× Ò ½ºÌÖ ¹½ºË ÕÙ ÒØ Ð ¹½¼
11. »» È Ø Ø Ü ÑÔÐ ÑÓÒ×ØÖ Ø ÓÒ
Ò Ø Ñ Ò ´ µ ß
Ú
Ø Ó Ö Ò Ø Ú ´ ½ ¼ ¼ µ
Ó Ö ´ Ò Ø ¼ ½ ¼ ¼ ··µ
Ú ℄ Ö Ò ´ µ ± ¾
Õ Ù
Ë Ó Ö Ø ´ Ú µ
Ú
Ø Ó Ö Ò Ø Ø Ö Ø Ó Ö Ø Ö Ú º Ò ´ µ
Û Ð ´ Ø Ö Ú º Ò ´ µ µ ß
Ó Ù Ø ∗ Ø Ö
Ø Ö ··
Ó Ù Ø Ò
Ö Ø Ù Ö Ò ¼
Ö Ò Æ Ð× Ò ½ºÌÖ ¹½ºË ÕÙ ÒØ Ð ¹½½
12. Ð
ÙÐ Ö Ð k¹ Ñ ÔÐÙ× Ô Ø Ø Ð Ñ ÒØ S
Ç
Ø Ö ÒØ Ö ÙÒ Ø ÑÔ× O(n ÐÓ n) Ò
Ð
ÙÐ ÒØ Ð Ñ Ò º
Ø S ÙÒ Ò× Ñ Ð n = |S| ÒÓÑ Ö ×¸ k ∈ N
Ê ×ÙÐØ Ê ØÓÙÖÒ Ð k¹ Ñ Ð Ñ ÒØ S
n ≤ Ø Ò
»»
× Ø ÖÑ Ò Ð Ð Ö
ÙÖ× Ú Ø
ØÖ Ö S Ø Ö ØÓÙÖÒ Ö Ð k¹ Ñ Ð Ñ ÒØ
Ð×
Ú × Ö S Ò ⌈n
⌉ ÖÓÙÔ ×
»» Ä ÖÒ Ö ÖÓÙÔ ´
ÓÑÔРص ÓÙ n ÑÓ Ð Ñ ÒØ×
Ð
ÙÐ Ö Ð × Ñ Ò × × ÖÓÙÔ × M = {m½, ..., m⌈ n
⌉}
»» Ð
ÙÐ Ù Ô ÚÓØ x¸ Ð Ñ Ò
x ← Ë Ä Ì(M, ⌈n
⌉, ⌊
⌈ n
⌉+½
¾ ⌋)
È ÖØ Ø ÓÒÒ Ö S Ò ÙÜ ×ÓÙ×¹ Ò× Ñ Ð × L = {y ∈ S : y ≤ x} Ø
R = {y ∈ S : y x}
k ≤ |L| Ø Ò
Ö ØÙÖÒ Ë Ä Ì(L, |L|, k)
Ð×
Ö ØÙÖÒ Ë Ä Ì(R, n − |L|, k − |L|)
Ò
Ò
⇒ Ø ÑÔ× Ø ÖÑ Ò ×Ø Ð Ò Ö ´ÓÖ Ö ×Ø Ø ×Ø
×µ
Ö Ò Æ Ð× Ò ½ºÌÖ ¹½ºË ÕÙ ÒØ Ð ¹½¾
45. Ò ÐÝ× Ð
ÓÑÔÐ Ü Ø
◮ ØÖ Ò Ø Ð O( n
P ÐÓ
n
P )
◮ Ö P Ô × ×
◮ ØÖ Ö Ð × ÔÐÙ× Ô Ø Ø × Ø Ö Ò × Ú Ð ÙÖ× Ò×
ÕÙ Ô × O( n
P )
´ Ù× ÓÒÒ Ö Ð × Ð ×Ø × Ø Ö Ö Ð ÑÓ Ø
ÓÒ
ÖÒ µ
◮
ÓÑÑÙÒ
Ø ÓÒ× O( n
P ) ´ и × Ò× Ø ÑÔ× Ð Ø Ò
µ
◮
ÓÑÔÐ Ü Ø ÐÓ Ð O( n
P ÐÓ
n
P + n) ººº Ô × ØØÖ
Ø ººº
◮ Ñ × ÒØ Ö ×× ÒØ ×ÙÖ ÙÒ Ö × Ù
ÓÑÑÙÒ
Ø ÓÒ Ò ÒÒ Ù
Ö
Ø ÓÒÒ Ð ººº
Ö Ò Æ Ð× Ò ¾ºÊ × ÙÜ ØÖ ×¹½ºØÖ Ò×ÔÓ× Ø ÓÒ× Ô Ö×» ÑÔ Ö× ¹
46. Ä × Ð ÓÖ Ø Ñ × ØÖ Ò Ô Ö ÐÐ Ð ÙÒ Ö ×ÙÑ
ÇÒ ØÙ
× Ð ÓÖ Ø Ñ × ×Ø Ò Ö × ÔÓÙÖ Ð ØÖ
◮ Ê Ò ËÓÖØ
◮ È Ö ÐÐ Ð ÉÙ
ËÓÖØ
◮ ÀÝÔ ÖÕÙ
×ÓÖØ
◮ È Ö ÐÐ Ð ËÓÖØ Ò Ý Ê ÙÐ Ö Ë ÑÔÐ Ò ´ÈËÊ˵
◮ Ç ¹ Ú Ò ÌÖ Ò×ÔÓ× Ø ÓÒ ËÓÖØ
Ä Ô Ö ÓÖÑ Ò
Ò ÔÖ Ø ÕÙ Ô Ò Ù×× ×
ÓÑÑÙÒ
Ø ÓÒ×
→ Ô Ò Ð ØÓÔÓÐÓ Ù Ö × Ù ³ ÒØ Ö
ÓÒÒ Ü ÓÒ
Ö Ò Æ Ð× Ò ¾ºÊ × ÙÜ ØÖ ×¹½ºØÖ Ò×ÔÓ× Ø ÓÒ× Ô Ö×» ÑÔ Ö× ¹
47. Ê Ù
Ø ÓÒ Ñ Ò× ÓÒ
Ú
Ð Ø ÓÖ Ñ
ÂÓ Ò×ÓÒ¹Ä Ò Ò×ØÖ Ù××
Ö Ò Æ Ð× Ò ¾ºÊ × ÙÜ ØÖ ×¹½ºØÖ Ò×ÔÓ× Ø ÓÒ× Ô Ö×» ÑÔ Ö× ¹
48. Ä Ù × Ö Ò × Ñ Ò× ÓÒ×
ÙÖ× Ó Ñ Ò× ÓÒ Ð ØÝ
´ ÐÐÑ Ò¸ ÒÚ ÒØ ÙÖ Ð ÔÖÓ Ö ÑÑ Ø ÓÒ ÝÒ Ñ ÕÙ µ
◮
Ø × Ð ÓÖ Ø Ñ × Ô Ò Ð Ñ Ò× ÓÒ d × ØØÖ ÙØ×
◮
Ð
ÙÐ ×Ø Ò
× ÓÙ × Ñ Ð Ö Ø × Ò Ω(d)
◮ Ð ÓÖ Ø Ñ × Ø ×ØÖÙ
ØÙÖ × ÓÒÒ × ×ÓÙÚ ÒØ Ú
ÙÒ
ÓÒ×Ø ÒØ
ÜÔÓÒ ÒØ ÐÐ Ò d
Ò× Ð ÒÓØ Ø ÓÒ O(·) Od (½)º
◮
Ð Ú ×Ù Ð × Ö Ð × ÓÒÒ × Ò Ö Ò × Ñ Ò× ÓÒ×
Ù ÓÙÖ ³ Ù ¸ Ò× Ð ØÖ Ø Ñ ÒØ × ÓÒÒ ×
◮ ØÖ ×
ÓÙÖ ÒØ ØÖ Ú ÐÐ Ö Ò Ñ Ò× ÓÒ ½¼¼¼ Ø ÔÐÙ×
◮
× Ù×× Ó d ≫ n ´ Ñ Ò× ÓÒ ÒØÖ Ò× ÕÙ » ÜØÖ Ò× ÕÙ µ
Ö Ò Æ Ð× Ò ¾ºÊ × ÙÜ ØÖ ×¹½ºØÖ Ò×ÔÓ× Ø ÓÒ× Ô Ö×» ÑÔ Ö× ¹
49. × Ô ÒÓÑ Ò × ÒÓÒ¹ ÒØÙ Ø × Ò Ö Ò × Ñ Ò× ÓÒ×
◮ ÚÓÐÙÑ Ð ÐÐ Ò×
Ö Ø Ò× Ð
Ù ÙÒ Ø Ø Ò Ú Ö× Þ ÖÓ
Bd =
π
d
¾
Γ(d
¾ + ½)
rd
, r =
½
¾
◮ Ö ÐÐ Ö ÙÐ Ö Rd Ò l ×ÓÙ×¹ Ú × ÓÒ× Ô Ö
Ø Ô ÖØ Ø ÓÒÒ Ð³ ×Ô
Ò
ld ÝÔ Ö
Ù × ÜÔÓÒ ÒØ Ð Ò d ´ld = ed ÐÓ l µº
ij ÔÔÖÓ
Ð Ö ÐÐ ÔØ Ø Ú Ò Ô ÖÑ Ø Ô × ÒÓÒ ÔÐÙ× Ô ×× Ö
г
ÐÐ ººº
◮ ÒØ Ö Ø ÓÒ ×ØÓ
×Ø ÕÙ Ð ÅÓÒØ ¹ ÖÐÓ ´ ≈ µ Ú ÒØ ÒÙØ Ð × Ð
ººº
◮ ÓÒ Ò ×Ø Ò Ù ÔÐÙ× Ð ÔÐÙ× ÔÖÓ
ÚÓ × Ò Ù ÔÐÙ× ÐÓ ÒØ Ò ÚÓ × Ò ººº
ººº Ø ×Ø Ò
ØÓ Ø Ò Ö ×Ø Ø ÔÓ ÒØ ÔÔÖÓ
× Ø ×Ø Ò
ØÓ Ø
ÖØ ×Ø Ø ÔÓ ÒØ ººº ´ Ý Ö¸ ½ µ
Ö Ò Æ Ð× Ò ¾ºÊ × ÙÜ ØÖ ×¹½ºØÖ Ò×ÔÓ× Ø ÓÒ× Ô Ö×» ÑÔ Ö× ¹
50. Ü ÑÔÐ ½ ØÖÓÙÚ Ö Ð × Ñ × ÙÔÐ ÕÙ ×
Ò Ö ÙÔÐ
Ø Ñ Ø
Ø ÓÒ
◮ ÙÒ Ñ I[y][x] Ò
ÓÙÐ ÙÖ ÊÎ Ø ÐÐ w × h ×Ø
ÓÒÚ ÖØ Ò ÙÒ
Ú
Ø ÙÖ v(I) Ñ Ò× ÓÒ R¿wh ´Ú
ØÓÖ Þ Ø ÓÒµ
◮ Ð ×Ø Ò
ÒØÖ ÙÜ Ñ × I½ Ø I¾ ×Ø Ð ×ÓÑÑ × Ö Ò
× Ù
ÖÖ ´ ×ÙÑ Ó ×ÕÙ Ö Ö Ò
× µ
ËË (I½, I¾) =
h
i=½
w
j=½
(I½[i][j] − I¾[i][j])¾
= v(I½) − v(I¾) ¾
◮ ÙÒ Ñ ×Ø Ò ÓÙ Ð Ò× ÙÒ × ³ Ñ × × ×ÓÒ ÔÐÙ× ÔÖÓ
ÚÓ × Ò
×Ø ÕÙ × Ñ ÒØ ÒØ ÕÙ ËË (I, ÈÈÎ(I)) ≤ ǫ
⇒
ÓÑÑ ÒØ
Ð
ÙÐ Ö Ð × ÔÐÙ× ÔÖÓ
× ÚÓ × Ò× Ò Ö Ò × Ñ Ò× ÓÒ× Ò Ø ÑÔ×
×ÓÙ×¹Ð Ò Ö ¸ o(d)
Ö Ò Æ Ð× Ò ¾ºÊ × ÙÜ ØÖ ×¹½ºØÖ Ò×ÔÓ× Ø ÓÒ× Ô Ö×» ÑÔ Ö× ¹ ¼
51. Ü ÑÔÐ ¾ Ö ÖÓÙÔ Ö ÙÒ
ÓÐÐ
Ø ÓÒ ³ Ñ ×
Ü ÑÔÐ Ð × ÅÆÁËÌ ×
Ö × ÔÓ×Ø ÙÜ ´Í˵
n = ¼¼¼¼¸ d = ¾
¾ =
ØØÔ »»Ý ÒÒºÐ
ÙÒº
ÓÑ» Ü »ÑÒ ×Ø»
Á Ð Ñ Òظ ØÖÓÙÚ Ö Ð × Ü
ÐÙ×Ø Ö× ÔÓÙÖ Ð ×
Ö × ³¼³ ³ ³
◮ ÙØ Ð × Ö Ð³ Ð ÓÖ Ø Ñ × k¹ÑÓÝ ÒÒ × ÄÐÓÝ Ò Ñ Ò× ÓÒ ×Ø ØÖÓÔ
Ð ÒØ ººº
◮
ÓÑÑ ÒØ Ö
→ Ö Ù Ö Ð Ñ Ò× ÓÒ Ò
ÓÒ× ÖÚ ÒØ Ð ÒÓØ ÓÒ ×Ø Ò
Ö Ò Æ Ð× Ò ¾ºÊ × ÙÜ ØÖ ×¹½ºØÖ Ò×ÔÓ× Ø ÓÒ× Ô Ö×» ÑÔ Ö× ¹ ½
52. Ä Ö Ù
Ø ÓÒ Ñ Ò× ÓÒ ÓÖÑÙÐ Ö Ð ÔÖÓ Ð Ñ
◮ ÓÒÒ × X n ÔÓ ÒØ× Rd
◮ X ÒØ ÖÔÖ Ø
ÓÑÑ ÙÒ Ñ ØÖ
Ø ÐÐ n × d
´ÙÒ ÓÒÒ Ô Ö Ð Ò ¸ Ú
Ø ÙÖ Ð Ò µ
◮ ÙÜ Ø
Ò ÕÙ × ÔÓÙÖ Ö Ù Ö Ð Ñ Ò× ÓÒ
◮ × Ð
Ø ÓÒÒ Ö Ð × Ñ Ò× ÓÒ×
ÓÒ× ÖÚ Ö ´ ØÙÖ × Ð
Ø ÓÒµ
◮ Ö
ÓÑÔÓ× Ö Ð × Ñ Ò× ÓÒ× Ü ×Ø ÒØ × Ò ÒÓÙÚ ÐÐ × Ñ Ò× ÓÒ× ØÓÙØ Ò
Ö ÒØ Ð³ Ò ÓÖÑ Ø ÓÒ ´Ð ÒÓØ ÓÒ ×Ø Ò
µ
Ö Ò Æ Ð× Ò ¾ºÊ × ÙÜ ØÖ ×¹½ºØÖ Ò×ÔÓ× Ø ÓÒ× Ô Ö×» ÑÔ Ö× ¹ ¾
53. Ä Ö Ù
Ø ÓÒ Ñ Ò× ÓÒ Ð Ò Ö
××Ó
ÓÒ× ÙÒ Ú
Ø ÙÖ y = y(x) ∈ Rk ØÓÙØ x
A : Rd
→ Rk
ÄÓÖ×ÕÙ y(x) ×Ø ÙÒ ÓÒ
Ø ÓÒ Ð Ò Ö ¸
Ö ØÙÖ Ñ ØÖ
ÐÐ
y = x × A, Y = X × A
A Ñ ØÖ
Ø ÐÐ d × k ´x Ø y Ú
Ø ÙÖ× Ð Ò ×µ
⇒ Y Ó Ø ØÖ Ð X
∀x, x′
∈ X, y − y′ ¾
= xA − x′
A ¾
≈ x − x ¾
Ö Ò Æ Ð× Ò ¾ºÊ × ÙÜ ØÖ ×¹½ºØÖ Ò×ÔÓ× Ø ÓÒ× Ô Ö×» ÑÔ Ö× ¹ ¿
54. Ä Ø ÓÖ Ñ ÂÓ Ò×ÓÒ¹Ä Ò Ò×ØÖ Ù×× ´½ µ
ËÓ Ø X n ÔÓ ÒØ× Rd Ø ǫ ∈ (¼, ½)¸ ÐÓÖ× Ð Ü ×Ø ÙÒ ØÖ Ò× ÓÖÑ Ø ÓÒ
Ð Ò Ö A : Rd → Rk Ú
k = O( ½
ǫ¾ ÐÓ n) Ø ÐÐ ÕÙ
∀x, x′
∈ X, (½ − ǫ) x − x′ ¾
≤ xA − x′
A ¾
≤ (½ + ǫ) x − x′ ¾
→ÐÓÛ ×ØÓÖØ ÓÒ Ñ Ò
´ Ö ÒØ Ù
× Ó
³ ×Ø Ô Ö Ø ÔÐÓÒ Ñ ÒØ ×Ó¹Ñ ØÖ ÕÙ µ
ÇÒ Ô ×× Ð Ñ Ò× ÓÒ d Ð Ñ Ò× ÓÒ k = O( ½
ǫ¾ ÐÓ n)¸ Ò Ô Ò ÒØ
d
Ö Ò Æ Ð× Ò ¾ºÊ × ÙÜ ØÖ ×¹½ºØÖ Ò×ÔÓ× Ø ÓÒ× Ô Ö×» ÑÔ Ö× ¹
55. Å ØÖ
× A ÔÓÙÖ Ð × ÔÖÓ
Ø ÓÒ Ð ØÓ Ö ×
ÈÖÓ
Ø ÓÒ Ð ØÓ Ö A
◮ ÇÒ Ø Ö Ð ×
Ó
ÒØ× Ð Ñ ØÖ
A′ Ð ØÓ Ö Ñ ÒØ ×Ù Ú ÒØ ÙÒ ÐÓ
ÒÓÖÑ Ð ×Ø Ò Ö ´ µ
A′
= [ai,j], ai,j ∼ N(¼, ½)
◮ ÇÒ Ó Ø ÒØ ÙÒ
ÒØ ÐÐÓÒ Ð ØÓ Ö ³ÙÒ ÐÓ ÒÓÖÑ Ð ×Ø Ò Ö N(¼, ½)
Ô ÖØ Ö ÐÓ × ÙÒ ÓÖÑ × U½ Ø U¾ Ò Ô Ò ÒØ × Ô Ö
N = −¾ ÐÓ U½
Ó×(¾πU¾)
← ØÖ Ò× ÓÖÑ Ø ÓÒ ÓܹÅÙÐÐ Ö
◮ ÓÒ Ù×Ø Ð³
ÐÐ
A =
k
d
A′
Ö Ò Æ Ð× Ò ¾ºÊ × ÙÜ ØÖ ×¹½ºØÖ Ò×ÔÓ× Ø ÓÒ× Ô Ö×» ÑÔ Ö× ¹
56. ÈÓÙÖÕÙÓ
Ð Ñ Ö
ÔÖÓ
Ø ÓÒ× Ð ØÓ Ö ×
◮ ×Ó Ø ÙÒ ×Ô
k¹ Ò Ð ØÓ Ö A Ú
k ≥ ÐÓ n
ǫ¾
¾
− ǫ¿
¿
º
◮ ÒÓØÓÒ× ˜x = d
k ÔÖÓ Ax ÔÖÓ
Ø ÓÒ ÓÖØ Ó ÓÒ Ð x ×ÙÖ Aº
Ä ÑÑ
∀p, q ∈ X, P
˜p − ˜q ¾
p − q ¾
∈ [½ − ǫ, ½ + ǫ] ≤
¾
n¾
◮ ÈÖ ÙÚ ÈÖÓ Ð Ø ÕÙ ˜x × Ø × ×× Ð Ø ÓÖ Ñ ÂÄ
≥ ½ −
n
¾
¾
n¾
=
½
n
◮ ÇÒ Ô ÙØ
Ó × Ö O(n) ÔÖÓ
Ø ÓÒ× Ø Ö ÒØ Ö ÙÒ ÔÖÓ Ð Ø ×Ù
×
ÓÒ×Ø ÒØ
Ö Ò Æ Ð× Ò ¾ºÊ × ÙÜ ØÖ ×¹½ºØÖ Ò×ÔÓ× Ø ÓÒ× Ô Ö×» ÑÔ Ö× ¹
57. Ä Ì ³ Ù ÓÙÖ ³ Ù ººº Ê ÖÓÙÔ Ö × Ñ ×
ÁÑÔÐ Ñ ÒØ Ö Ð × ÂÓ Ò×ÓÒ¹Ä Ò Ò×ØÖ Ù×× k¹ÑÓÝ ÒÒ × ÔÓÙÖ ÙÒ ×
³ Ñ ×
ÇÒ Ú Ô ×× Ö R¾ ¼¼¼¼ R ¿¾ ØÓÙØ Ò ØÖÓÙÚ ÒØ × Ô ÖØ Ø ÓÒ× × Ñ Ð Ð × ººº
Ö Ò Ò Ö Ô Ø
ÓÑÔÐ Ü Ø Ô ×× ÒØ O(sdkn) Oǫ(skn ÐÓ n) Ó s ×Ø Ð ÒÓÑ Ö
³ Ø Ö Ø ÓÒ× ´ Ú
Oǫ(nd ÐÓ n) ÔÓÙÖ
Ð
ÙÐ Ö Ð × ÔÖÓ
Ø ÓÒ×µ
Ö Ò Æ Ð× Ò ¾ºÊ × ÙÜ ØÖ ×¹½ºØÖ Ò×ÔÓ× Ø ÓÒ× Ô Ö×» ÑÔ Ö× ¹
58. Ê ×ÙÑ
ØÖ Ô Ö ÐÐ Ð ´ ÕÙ Ð Ö Ö Ð
Ö ÀÝÔ ÖÉÙ
ËÓÖظ ÈËÊ˵
Ð Ö Ù
Ø ÓÒ Ñ Ò× ÓÒ ÔÓÙÖ Ð × ÓÒÒ × Ò Ö Ò × Ñ Ò× ÓÒ×
ÈÓÙÖ Ð ÔÖÓ
Ò Ó × Ð Ö Ð ×
Ô ØÖ × Ø ½¼ Ù ÔÓÐÝ
ÓÔ
Ö Ò Æ Ð× Ò ¾ºÊ × ÙÜ ØÖ ×¹½ºØÖ Ò×ÔÓ× Ø ÓÒ× Ô Ö×» ÑÔ Ö× ¹