Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Planification séquentielle pour l'estimation de probabilités de défaillance

723 views

Published on

Slides for my talk at the MASCOT-NUM "rare events" workshop (May 4, 2010, Institut Henri Poincaré)

Published in: Education
  • If you want to download or read this book, copy link or url below in the New tab ......................................................................................................................... DOWNLOAD FULL PDF EBOOK here { https://urlzs.com/UABbn } .........................................................................................................................
       Reply 
    Are you sure you want to  Yes  No
    Your message goes here
  • -- DOWNLOAD THIS BOOKS INTO AVAILABLE FORMAT -- ......................................................................................................................... ......................................................................................................................... Download FULL PDF EBOOK here { http://bit.ly/2m77EgH } ......................................................................................................................... (Unlimited)
       Reply 
    Are you sure you want to  Yes  No
    Your message goes here
  • accessibility Books Library allowing access to top content, including thousands of title from favorite author, plus the ability to read or download a huge selection of books for your pc or smartphone within minutes DOWNLOAD THIS BOOKS INTO AVAILABLE FORMAT ......................................................................................................................... ......................................................................................................................... Download Full PDF EBOOK here { https://urlzs.com/UABbn } ......................................................................................................................... Download Full EPUB Ebook here { https://urlzs.com/UABbn } ......................................................................................................................... ...................................ALL FOR EBOOKS................................................. Cookbooks, Manga, Memoir, Music, Mystery, Non Fiction, Paranormal, Philosophy, Poetry, Psychology, Religion, Art, Biography, Business, Chick Lit, Children's, Christian, Classics, Comics, Contemporary, Romance, Science, Science Fiction, Self Help, Suspense, Spirituality, Sports, Thriller, Travel, Young Adult, Crime, Ebooks, Fantasy, Fiction, Graphic Novels, Historical Fiction, History, Horror, Humor And Comedy,
       Reply 
    Are you sure you want to  Yes  No
    Your message goes here
  • If you want to download or read this book, copy link or url below in the New tab ......................................................................................................................... DOWNLOAD FULL PDF EBOOK here { http://bit.ly/2m77EgH } ......................................................................................................................... Download EPUB Ebook here { http://bit.ly/2m77EgH } .........................................................................................................................
       Reply 
    Are you sure you want to  Yes  No
    Your message goes here
  • DOWNLOAD THI5 BOOKS INTO AVAILABLE FORMAT (Unlimited) ......................................................................................................................... ......................................................................................................................... Download Full PDF EBOOK here { http://bit.ly/2m77EgH } ......................................................................................................................... Download Full EPUB Ebook here { http://bit.ly/2m77EgH } ......................................................................................................................... ACCESS WEBSITE for All Ebooks ......................................................................................................................... Download Full PDF EBOOK here { http://bit.ly/2m77EgH } ......................................................................................................................... Download EPUB Ebook here { http://bit.ly/2m77EgH } ......................................................................................................................... Download doc Ebook here { http://bit.ly/2m77EgH } ......................................................................................................................... ......................................................................................................................... ......................................................................................................................... .............. Browse by Genre Available eBooks ......................................................................................................................... Art, Biography, Business, Chick Lit, Children's, Christian, Classics, Comics, Contemporary, Cookbooks, Crime, Ebooks, Fantasy, Fiction, Graphic Novels, Historical Fiction, History, Horror, Humor And Comedy, Manga, Memoir, Music, Mystery, Non Fiction, Paranormal, Philosophy, Poetry, Psychology, Religion, Romance, Science, Science Fiction, Self Help, Suspense, Spirituality, Sports, Thriller, Travel, Young Adult,
       Reply 
    Are you sure you want to  Yes  No
    Your message goes here
  • Be the first to like this

Planification séquentielle pour l'estimation de probabilités de défaillance

  1. 1. Planification séquentielle pour l’estimation de probabilités de défaillance Julien Bect En collaboration avec Ling Li et Emmanuel Vazquez SUPELEC 4 mai 2010 Atelier événements rares GdR MASCOT-NUMJ. Bect (Supélec) Planification séquentielle 4 mai 2010 1 / 33
  2. 2. Le problème à résoudre. . .Données du problème un domaine X ⊂ Rd compact (espace des facteurs) une fonction f : X → R coûteuse à évaluer une loi PX sur l’espace des facteurs un seuil T ∈ ROn veut calculer α(f ) = PX x ∈ X : f (x) > T = 1f >T dPX X J. Bect (Supélec) Planification séquentielle 4 mai 2010 2 / 33
  3. 3. Le problème à résoudre. . .Données du problème un domaine X ⊂ Rd compact (espace des facteurs) une fonction f : X → R coûteuse à évaluer une loi PX sur l’espace des facteurs un seuil T ∈ ROn veut calculer α(f ) = PX x ∈ X : f (x) > T = 1f >T dPX XImportantIl ne s’agit pas (encore) d’un problème d’inférence statistique ! J. Bect (Supélec) Planification séquentielle 4 mai 2010 2 / 33
  4. 4. Événement rare ?Fonction coûteuse à évaluer par ex., le calcul de f (x) fait appel à un code aux éléments finis budget limité d’évaluations « rare » ⇒ α(f ) extrêmement petit J. Bect (Supélec) Planification séquentielle 4 mai 2010 3 / 33
  5. 5. Événement rare ?Fonction coûteuse à évaluer par ex., le calcul de f (x) fait appel à un code aux éléments finis budget limité d’évaluations « rare » ⇒ α(f ) extrêmement petitÉtat de l’art pré-2004 (thèses : Lagnoux Renaudie, 2006 ; Piera-Martinez, 2008) méthodes fondées sur des approximations paramétriques ex : FORM/SORM, surface de réponse polynomiale économique mais souvent peu précis méthodes utilisant l’échantillonnage aléatoire Monte-Carlo, échantillonnage préférentiel, stratifié, etc. convergentes mais gourmand en évaluations J. Bect (Supélec) Planification séquentielle 4 mai 2010 3 / 33
  6. 6. Événement rare ?Fonction coûteuse à évaluer par ex., le calcul de f (x) fait appel à un code aux éléments finis budget limité d’évaluations « rare » ⇒ α(f ) extrêmement petitÉtat de l’art pré-2004 (thèses : Lagnoux Renaudie, 2006 ; Piera-Martinez, 2008) méthodes fondées sur des approximations paramétriques ex : FORM/SORM, surface de réponse polynomiale économique mais souvent peu précis méthodes utilisant l’échantillonnage aléatoire Monte-Carlo, échantillonnage préférentiel, stratifié, etc. convergentes mais gourmand en évaluationsIdée : approche bayésienne non-paramétriqueinfo. a priori sur f − méthodes convergentes et économiques → J. Bect (Supélec) Planification séquentielle 4 mai 2010 3 / 33
  7. 7. Processus gaussiens / krigeageApparition du krigeage en fiabilité (surface de réponse non-paramétrique) Romero, Swiler et Giunta (Struct. Safety, 2004) Kaymaz (Struct. Safety, 2005) Shan et Wang (J. Mech. Design, 2006) J. Bect (Supélec) Planification séquentielle 4 mai 2010 4 / 33
  8. 8. Processus gaussiens / krigeageApparition du krigeage en fiabilité (surface de réponse non-paramétrique) Romero, Swiler et Giunta (Struct. Safety, 2004) Kaymaz (Struct. Safety, 2005) Shan et Wang (J. Mech. Design, 2006)Premiers travaux en planification séquentielle, point de vue bayésien Vazquez et Piera-Martinez (JdS 2007), Vazquez et Bect (SYSID’09) Picheny, Ginsbourger, Roustant, Haftka (ENBIS’08) Picheny, Ginsbourger, Roustant, Haftka et Kim (J. Mech. Design (tbp)) Ranjan, Bingham et Michailidis (Technometrics, 2008) Bichon, Eldred, Swiler, Mahadevan et McFarland (J. AIAA 2008) J. Bect (Supélec) Planification séquentielle 4 mai 2010 4 / 33
  9. 9. Processus gaussiens / krigeageApparition du krigeage en fiabilité (surface de réponse non-paramétrique) Romero, Swiler et Giunta (Struct. Safety, 2004) Kaymaz (Struct. Safety, 2005) Shan et Wang (J. Mech. Design, 2006)Premiers travaux en planification séquentielle, point de vue bayésien Vazquez et Piera-Martinez (JdS 2007), Vazquez et Bect (SYSID’09) Picheny, Ginsbourger, Roustant, Haftka (ENBIS’08) Picheny, Ginsbourger, Roustant, Haftka et Kim (J. Mech. Design (tbp)) Ranjan, Bingham et Michailidis (Technometrics, 2008) Bichon, Eldred, Swiler, Mahadevan et McFarland (J. AIAA 2008)Dans cet exposé. . . une introduction générale au sujet (biaisée) les premiers résultats obtenus par Ling Li dans le cadre de sa thèse J. Bect (Supélec) Planification séquentielle 4 mai 2010 4 / 33
  10. 10. 1 Formalisme : théorie bayésienne de la décision2 Processus gaussiens et modèles dérivés3 Tour d’horizon des stratégies séquentielles existantes4 Conclusion et perpectives J. Bect (Supélec) Planification séquentielle 4 mai 2010 5 / 33
  11. 11. 1 Formalisme : théorie bayésienne de la décision2 Processus gaussiens et modèles dérivés3 Tour d’horizon des stratégies séquentielles existantes4 Conclusion et perpectives J. Bect (Supélec) Planification séquentielle 4 mai 2010 6 / 33
  12. 12. Cadre décisionnel (1/2)Contrainte : on dispose d’un budget limité de N évaluations. choisir x ∈ X − → obtenir f (x) ∈ RQuestions 1 comment choisir séquentiellement les entrées x1 , . . . , xN ? 2 comment estimer α(f ) à partir de f (x1 ), . . . , f (xN ) ? J. Bect (Supélec) Planification séquentielle 4 mai 2010 7 / 33
  13. 13. Cadre décisionnel (1/2)Contrainte : on dispose d’un budget limité de N évaluations. choisir x ∈ X − → obtenir f (x) ∈ RQuestions 1 comment choisir séquentiellement les entrées x1 , . . . , xN ? 2 comment estimer α(f ) à partir de f (x1 ), . . . , f (xN ) ?Réponse dans un cadre bayésien (pré-requis) choix d’une fonction de coût C (α, α) = (α − α)2 ˆ ˆ choix d’une loi a priori pour la fonction f inconnue ⇒ f est maintenant vue comme un processus aléatoire ξ ! J. Bect (Supélec) Planification séquentielle 4 mai 2010 7 / 33
  14. 14. Cadre décisionnel (2/2)Notations : X1 , . . . , XN points d’évaluations In = X1 , ξ(X1 ), . . . , Xn , ξ(Xn ) info. disponible au temps n Fn = σ(In ), α = α(ξ), αn = αn (In ) ˆ ˆRéponse dans un cadre bayésien (suite)On cherche X1 , . . . XN et αN ˆ qui minimisent E (α − αN )2 ˆ avec Xn+1 Fn -mesurable, ∀n ≥ 1 J. Bect (Supélec) Planification séquentielle 4 mai 2010 8 / 33
  15. 15. Cadre décisionnel (2/2)Notations : X1 , . . . , XN points d’évaluations In = X1 , ξ(X1 ), . . . , Xn , ξ(Xn ) info. disponible au temps n Fn = σ(In ), α = α(ξ), αn = αn (In ) ˆ ˆRéponse dans un cadre bayésien (suite)On cherche X1 , . . . XN et αN ˆ qui minimisent E (α − αN )2 ˆ avec Xn+1 Fn -mesurable, ∀n ≥ 1Généralisations possibles : évaluations en batchs (utile pour paralléliser) évaluations bruités (ex : code de calcul à base de MC) décisions randomisées, autres critères d’arrêt, etc. J. Bect (Supélec) Planification séquentielle 4 mai 2010 8 / 33
  16. 16. Estimateur optimalNotations : Pn P { · | Fn } et En E { · | Fn }Meilleur estimateur FN -mesurable (risque quadratique) : αN = EN (α) ˆ J. Bect (Supélec) Planification séquentielle 4 mai 2010 9 / 33
  17. 17. Estimateur optimalNotations : Pn P { · | Fn } et En E { · | Fn }Meilleur estimateur FN -mesurable (risque quadratique) : αN = EN (α) ˆEn posant pn (x) = Pn {ξ(x) > T }, on a αN = EN ˆ 1f >T dPX = pN dPX , X XImportantOn a transformé un problème de calcul d’intégrale en un autre problème decalcul d’intégrale ⇒ intéressant si la seconde est plus facile à calculer ! J. Bect (Supélec) Planification séquentielle 4 mai 2010 9 / 33
  18. 18. Estimateurs fondés sur une fonction de classificationOn peut aussi chercher un estimateur « plugin » de la forme αN = ˆ gN dPX , avec gN : X → {0, 1} (1) X gN est une fonction de classification dure ex : SVM dans la méthode SMART (thèse de F. Deheeger (LaMI)) J. Bect (Supélec) Planification séquentielle 4 mai 2010 10 / 33
  19. 19. Estimateurs fondés sur une fonction de classificationOn peut aussi chercher un estimateur « plugin » de la forme αN = ˆ gN dPX , avec gN : X → {0, 1} (1) X gN est une fonction de classification dure ex : SVM dans la méthode SMART (thèse de F. Deheeger (LaMI))Meilleure fonction de classification à injecter dans (1) : gN = 1pN >1/2 = 1ξN >T , ˆ ˆavec ξN (x) la médiane a posteriori de ξ(x) (au temps N). J. Bect (Supélec) Planification séquentielle 4 mai 2010 10 / 33
  20. 20. Stratégie bayésienne optimale (1/2)On fixe un estimateur αN (par ex : αN = EN (α)). ˆ ˆStratégie bayésienne optimale ? stratégie : suite X1 , . . . , XN avec Xn+1 Fn -mesurable bayésienne optimale : minimisant E (α − αN )2 ˆ J. Bect (Supélec) Planification séquentielle 4 mai 2010 11 / 33
  21. 21. Stratégie bayésienne optimale (1/2)On fixe un estimateur αN (par ex : αN = EN (α)). ˆ ˆStratégie bayésienne optimale ? stratégie : suite X1 , . . . , XN avec Xn+1 Fn -mesurable bayésienne optimale : minimisant E (α − αN )2 ˆFormellement, la solution s’obtient par programmation dynamique calcul par récurrence (rétrograde) du risque bayésien RN (IN ) = EN (α − αN )2 ˆ Rn (In ) = min En (Rn+1 (In+1 )) , n = N − 1, . . . , 1 Xn+1 stratégie optimale : Xn+1 = argmin En (Rn+1 (In+1 )) J. Bect (Supélec) Planification séquentielle 4 mai 2010 11 / 33
  22. 22. Stratégie bayésienne optimale (2/2)La stratégie optimale fait apparaître un critère d’échantillonnage optimal : Jn (In , Xn+1 ) En (Rn+1 (In+1 )) J. Bect (Supélec) Planification séquentielle 4 mai 2010 12 / 33
  23. 23. Stratégie bayésienne optimale (2/2)La stratégie optimale fait apparaître un critère d’échantillonnage optimal : Jn (In , Xn+1 ) En (Rn+1 (In+1 ))Malheureusement. . . espace d’état continu, dim. n ⇒ calcul exact impossible ! espace d’actions continu égalementProblèmeComment construire de bonnes solutions sous-optimales ? J. Bect (Supélec) Planification séquentielle 4 mai 2010 12 / 33
  24. 24. 1 Formalisme : théorie bayésienne de la décision2 Processus gaussiens et modèles dérivés3 Tour d’horizon des stratégies séquentielles existantes4 Conclusion et perpectives J. Bect (Supélec) Planification séquentielle 4 mai 2010 13 / 33
  25. 25. Pourquoi des processus gaussiens ?verroubesoin de savoir calculer (ou simuler) efficacement la loi a posteriori Pξ|Fnclémodèles (a priori) construit à partir de processus gaussiens (GP) J. Bect (Supélec) Planification séquentielle 4 mai 2010 14 / 33
  26. 26. Pourquoi des processus gaussiens ?verroubesoin de savoir calculer (ou simuler) efficacement la loi a posteriori Pξ|Fnclémodèles (a priori) construit à partir de processus gaussiens (GP)Le GP comme a priori sur une fonction inconnue : un peu d’histoire . . . les origines prédiction linéaire BLUP (Mathéron, Parzen ; années 60) processus de Wiener en optimisation (Kushner, 1964) splines & interprétation bayésienne (Kimeldorf & Wahba ; 70/71) J. Bect (Supélec) Planification séquentielle 4 mai 2010 14 / 33
  27. 27. Pourquoi des processus gaussiens ?verroubesoin de savoir calculer (ou simuler) efficacement la loi a posteriori Pξ|Fnclémodèles (a priori) construit à partir de processus gaussiens (GP)Le GP comme a priori sur une fonction inconnue : un peu d’histoire . . . les origines prédiction linéaire BLUP (Mathéron, Parzen ; années 60) processus de Wiener en optimisation (Kushner, 1964) splines & interprétation bayésienne (Kimeldorf & Wahba ; 70/71) 1978, année bayésienne en stats, trois articles dans JRSS (Wahba, O’Hagan, Leonard) en optimisation : critère EI (Mockus, Tiesis, Zilinskas) J. Bect (Supélec) Planification séquentielle 4 mai 2010 14 / 33
  28. 28. Pourquoi des processus gaussiens ?verroubesoin de savoir calculer (ou simuler) efficacement la loi a posteriori Pξ|Fnclémodèles (a priori) construit à partir de processus gaussiens (GP)Le GP comme a priori sur une fonction inconnue : un peu d’histoire . . . les origines prédiction linéaire BLUP (Mathéron, Parzen ; années 60) processus de Wiener en optimisation (Kushner, 1964) splines & interprétation bayésienne (Kimeldorf & Wahba ; 70/71) 1978, année bayésienne en stats, trois articles dans JRSS (Wahba, O’Hagan, Leonard) en optimisation : critère EI (Mockus, Tiesis, Zilinskas) DACE (Design & Analysis of Computer Experiments) Sacks et al. (1989), Currin et al. (1991) J. Bect (Supélec) Planification séquentielle 4 mai 2010 14 / 33
  29. 29. Propriété fondamentale des GPPropriété ˆSi ξ ∼ GP (m(x), k(x, x ′ )), alors ξ | Fn ∼ GP ξn (x), kn (x, x ′ ) , ˆavec ξn et kn donnés par les équations du krigeage (simple). J. Bect (Supélec) Planification séquentielle 4 mai 2010 15 / 33
  30. 30. Propriété fondamentale des GPPropriété ˆSi ξ ∼ GP (m(x), k(x, x ′ )), alors ξ | Fn ∼ GP ξn (x), kn (x, x ′ ) , ˆavec ξn et kn donnés par les équations du krigeage (simple).Etat de l’art : modèles hiérarchiques construits autour du GP « DACE » : krigeage ordinaire + approche bayésienne empirique krigeage bayésien (ex : méthodologie BACCO par O’Hagan et collab.) treed GP (par Gramacy & Lee)Note : krigeage bayésien, treed GP ⇒ (RJ)MCMC J. Bect (Supélec) Planification séquentielle 4 mai 2010 15 / 33
  31. 31. Modèle « DACE » (le plus répandu ?)On considère : moyenne constante inconnue m(x) = m ∈ R covariance stationnaire de la forme k(x, x ′ ) = σ 2 rθ (x − x ′ )propriété (en supposant σ 2 et θ connus) ξ | m ∼ GP m, k(x, x ′ ) Si ˆ alors ξ | Fn ∼ GP ξn (x), kn (x, x ′ ) m ∼ UR ˆavec ξn et kn donnés par les équations du krigeage (ordinaire). J. Bect (Supélec) Planification séquentielle 4 mai 2010 16 / 33
  32. 32. Modèle « DACE » (le plus répandu ?)On considère : moyenne constante inconnue m(x) = m ∈ R covariance stationnaire de la forme k(x, x ′ ) = σ 2 rθ (x − x ′ )propriété (en supposant σ 2 et θ connus) ξ | m ∼ GP m, k(x, x ′ ) Si ˆ alors ξ | Fn ∼ GP ξn (x), kn (x, x ′ ) m ∼ UR ˆavec ξn et kn donnés par les équations du krigeage (ordinaire).Approche bayésienne empirique : σ 2 et θ sont estimés par MML(maximisation de la vraisemblance marginale) J. Bect (Supélec) Planification séquentielle 4 mai 2010 16 / 33
  33. 33. Modèle « DACE » (le plus répandu ?)On considère : moyenne constante inconnue m(x) = m ∈ R covariance stationnaire de la forme k(x, x ′ ) = σ 2 rθ (x − x ′ )propriété (en supposant σ 2 et θ connus) ξ | m ∼ GP m, k(x, x ′ ) Si ˆ alors ξ | Fn ∼ GP ξn (x), kn (x, x ′ ) m ∼ UR ˆavec ξn et kn donnés par les équations du krigeage (ordinaire).Approche bayésienne empirique : σ 2 et θ sont estimés par MML(maximisation de la vraisemblance marginale)Mise en gardeLes procédures séquentielles qui ré-estiment les paramètres à chaqueétape par MML n’ont, à l’heure actuelle, aucun fondement théorique. J. Bect (Supélec) Planification séquentielle 4 mai 2010 16 / 33
  34. 34. Quelques quantités utiles pour la suite (et faciles à calculer) 2Notation : σn (x) = kn (x, x) ; Φ la FR de la loi N (0, 1).Probabilité de dépassement du seuil T au point x ∈ X : ˆ ξn (x) − T pn (x) = Pn {ξ(x) > T } = 1 − Φ σn (x) J. Bect (Supélec) Planification séquentielle 4 mai 2010 17 / 33
  35. 35. Quelques quantités utiles pour la suite (et faciles à calculer) 2Notation : σn (x) = kn (x, x) ; Φ la FR de la loi N (0, 1).Probabilité de dépassement du seuil T au point x ∈ X : ˆ ξn (x) − T pn (x) = Pn {ξ(x) > T } = 1 − Φ σn (x)Probabilité de mauvaise classification au point x ∈ X :   ˆ ξn (x) − T ˆ τn (x) = Pn (ξ(x) − T )(ξn (x) − T ) < 0 = 1 − Φ  σn (x)Remarque : τn = min (pn , 1 − pn ). J. Bect (Supélec) Planification séquentielle 4 mai 2010 17 / 33
  36. 36. Illustration 2 1 0 −1 −2 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 1 pn 0.5 0 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 0.4 0.3 τn 0.2 0.1 0 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 J. Bect (Supélec) Planification séquentielle 4 mai 2010 18 / 33
  37. 37. Illustration 2 1 0 −1 −2 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 1 pn 0.5 0 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 0.4 0.3 τn 0.2 0.1 0 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 J. Bect (Supélec) Planification séquentielle 4 mai 2010 18 / 33
  38. 38. 1 Formalisme : théorie bayésienne de la décision2 Processus gaussiens et modèles dérivés3 Tour d’horizon des stratégies séquentielles existantes4 Conclusion et perpectives J. Bect (Supélec) Planification séquentielle 4 mai 2010 19 / 33
  39. 39. Stratégies fondées sur une anticipation de k évaluationsPrincipe général (k-step look-ahead) : Jn (In , Xn+1 ) = En min En+1 . . . min En+k−1 Rn+k (In+k ) Xn+2 Xn+k avec Rn+k un substitut du risque bayésien Rn+k . J. Bect (Supélec) Planification séquentielle 4 mai 2010 20 / 33
  40. 40. Stratégies fondées sur une anticipation de k évaluationsPrincipe général (k-step look-ahead) : Jn (In , Xn+1 ) = En min En+1 . . . min En+k−1 Rn+k (In+k ) Xn+2 Xn+k avec Rn+k un substitut du risque bayésien Rn+k .Cas particulier : k = 1 (one-step look-ahead) Jn (In , Xn+1 ) = En Rn+1 (In+1 ) J. Bect (Supélec) Planification séquentielle 4 mai 2010 20 / 33
  41. 41. Stratégies fondées sur une anticipation de k évaluationsPrincipe général (k-step look-ahead) : Jn (In , Xn+1 ) = En min En+1 . . . min En+k−1 Rn+k (In+k ) Xn+2 Xn+k avec Rn+k un substitut du risque bayésien Rn+k .Cas particulier : k = 1 (one-step look-ahead) Jn (In , Xn+1 ) = En Rn+1 (In+1 )Stratégies OSL proposées dans la littérature : SUR (Piera-Martinez & Vazquez, JdS’07 ; Vazquez & Bect, SYSID’09) targeted IMSE (Picheny et. al, ENBIS8 (2008), J. Mech. Design (tbp)) J. Bect (Supélec) Planification séquentielle 4 mai 2010 20 / 33
  42. 42. SUR : Stepwise Uncertainty Reduction (1/2)Principe (cf. algorithme IAGO, thèse Villemonteix, 2008)Chercher à réduire au plus l’incertitude résiduelle. J. Bect (Supélec) Planification séquentielle 4 mai 2010 21 / 33
  43. 43. SUR : Stepwise Uncertainty Reduction (1/2)Principe (cf. algorithme IAGO, thèse Villemonteix, 2008)Chercher à réduire au plus l’incertitude résiduelle.Mise en œuvre 1 Approximation gloutonne du risque : Rn+1 = En+1 (α − αn+1 )2 ˆ ⇒ Jn = En (α − αn+1 )2 ˆ J. Bect (Supélec) Planification séquentielle 4 mai 2010 21 / 33
  44. 44. SUR : Stepwise Uncertainty Reduction (1/2)Principe (cf. algorithme IAGO, thèse Villemonteix, 2008)Chercher à réduire au plus l’incertitude résiduelle.Mise en œuvre 1 Approximation gloutonne du risque : Rn+1 = En+1 (α − αn+1 )2 ˆ ⇒ Jn = En (α − αn+1 )2 ˆ 2 Calcul d’une borne supérieure 2 J n ≤ En γn dPX (2) X 3 Discrétisation et minimisation de la borne (2). J. Bect (Supélec) Planification séquentielle 4 mai 2010 21 / 33
  45. 45. SUR : Stepwise Uncertainty Reduction (2/2)Expression(s) de la fonction γn : αn+1 = En+1 (α) ˆ 2 γn (x) = pn (x) (1 − pn (x)) variance de l’indicatrice de dépassement αn+1 = ˆ dPX 2 γn (x) = min (pn (x) , 1 − pn (x)) = τn (x) X 1ξn >T ˆ probabilité de mauvais classement 1 0.8 (à une cst près) 0.6 0.4 0.2 γn 1er cas 2eme cas 0 0 0.2 0.4 0.6 0.8 1 pn J. Bect (Supélec) Planification séquentielle 4 mai 2010 22 / 33
  46. 46. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 2.5 0.2 2 0.15 1.5 αn Jn ˆ 0.1 −1 1 10 0.05 0.5 0 0.5 1 0 5 10 15 iter 0 1 10 −0.5 1 0.8 −1 0 |ˆ n − α| 10 0.6 pn −1.5 0.4 −1 10 α −2 0.2 0 −2 −2.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  47. 47. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 2.5 0.2 2 −1 10 0.15 1.5 αn Jn ˆ 0.1 1 0.05 0.5 0 0.5 1 0 5 10 15 iter 0 −0.5 1 −0.69 10 0.8 −1 |ˆ n − α| −0.72 0.6 10 pn −1.5 0.4 −0.75 α 10 −2 0.2 −0.78 0 10 −2.5 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  48. 48. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 2.5 0.2 −1.1 2 10 0.15 αn Jn 1.5 ˆ −1.2 0.1 10 1 0.05 −1.3 10 0.5 0 0.5 1 0 5 10 15 iter 0 1 −0.7 10 −0.5 0.8 |ˆ n − α| 0.6 −1 pn 0.4 α −0.8 −1.5 10 0.2 0 −2 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  49. 49. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 2.5 −1.1 10 0.2 2 −1.2 0.15 10 αn Jn 1.5 ˆ 0.1 −1.3 1 10 0.05 0.5 0 0.5 1 0 5 10 15 iter 0 1 −0.7 10 −0.5 0.8 |ˆ n − α| 0.6 −1 pn −0.8 10 0.4 α −1.5 0.2 0 −0.9 10 −2 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  50. 50. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1.5 −1.4 10 0.2 −1.5 1 10 0.15 αn Jn ˆ 0.1 −1.6 0.5 10 0.05 0 0 0.5 1 0 5 10 15 iter −0.5 0 10 1 0.8 −1 |ˆ n − α| 0.6 −1 10 pn 0.4 −1.5 α 0.2 0 −2 −2 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  51. 51. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1.5 −1.6 10 0.2 1 0.15 −1.7 αn 10 Jn ˆ 0.1 0.5 −1.8 10 0.05 0 0 0.5 1 0 5 10 15 iter −0.5 0 10 1 0.8 −1 |ˆ n − α| 0.6 −1 10 pn 0.4 −1.5 α 0.2 0 −2 −2 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  52. 52. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1.5 0.2 1 0.15 −2 αn 10 Jn ˆ 0.1 0.5 0.05 0 0.5 1 0 5 10 15 iter 0 0 10 1 −0.5 0.8 −1 |ˆ n − α| 10 0.6 pn −1 0.4 −2 10 α 0.2 0 −3 −1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  53. 53. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1.5 −2 10 0.2 1 0.15 αn Jn ˆ 0.1 0.5 0.05 0 0.5 1 0 5 10 15 iter 0 0 10 1−0.5 0.8 −1 |ˆ n − α| 10 0.6 pn −1 0.4 −2 10 α 0.2 0 −3−1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  54. 54. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1.5 −2.5 0.2 10 1 −2.6 0.15 10 αn Jn ˆ −2.7 0.1 10 0.5 −2.8 0.05 10 0 0.5 1 0 5 10 15 iter 0 0 10 1−0.5 0.8 −1 |ˆ n − α| 10 0.6 pn −1 0.4 −2 10 α 0.2 0 −3−1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  55. 55. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1 0.2 −3.2 10 0.15 0.5 αn Jn ˆ −3.4 10 0.1 0.05 −3.6 0 10 0 0.5 1 0 5 10 15 iter 0 10 −0.5 1 0.8 −1 |ˆ n − α| 10 0.6 pn −1 0.4 −2 10 α 0.2 0 −3 −1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  56. 56. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1 −3.5 10 0.2 0.15 −3.7 0.5 10 αn Jn ˆ 0.1 −3.9 0.05 10 0 0 0.5 1 0 5 10 15 iter 0 10 −0.5 1 0.8 −1 |ˆ n − α| 10 0.6 pn −1 0.4 −2 10 α 0.2 0 −3 −1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  57. 57. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1 0.2 −4 10 0.15 0.5 αn Jn ˆ 0.1 0.05 0 0 0.5 1 0 5 10 15 iter 0 10 −0.5 1 0.8 −1 |ˆ n − α| 10 0.6 pn −1 0.4 −2 10 α 0.2 0 −3 −1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  58. 58. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1 0.2 0.15 0.5 αn Jn ˆ 0.1 −5 0.05 10 0 0 0.5 1 0 5 10 15 iter 0 10 −0.5 1 0.8 −1 10 |ˆ n − α| 0.6 −2 10 pn −1 0.4 α −3 0.2 10 0 −4 −1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  59. 59. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1 0.2 0.15 0.5 αn Jn ˆ 0.1 0.05 −6 0 10 0 0.5 1 0 5 10 15 iter 0 10 −0.5 1 0.8 −1 10 |ˆ n − α| 0.6 −2 10 pn −1 0.4 α −3 0.2 10 0 −4 −1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  60. 60. Illustration : X = [0; 1], PX = U[0;1] , α(f ) = 2% 1 0.2 0.15 0.5 αn Jn ˆ 0.1 0.05 −7 0 10 0 0.5 1 0 5 10 15 iter 0 10 −0.5 1 0.8 |ˆ n − α| 0.6 pn −1 0.4 α 0.2 0 −5 −1.5 10 0 0.5 1 0 0.5 1 0 5 10 15 iter J. Bect (Supélec) Planification séquentielle 4 mai 2010 23 / 33
  61. 61. Targeted IMSEMéthode fondée sur l’IMSE pondéré : 2 Rn+1 (In+1 ) = σn+1 (x) Wn+1 (x) dPX X où g est une fenêtre ≥ 0 et Wn+1 (x) = En+1 g (ξ(x) − T ) J. Bect (Supélec) Planification séquentielle 4 mai 2010 24 / 33
  62. 62. Targeted IMSEMéthode fondée sur l’IMSE pondéré : 2 Rn+1 (In+1 ) = σn+1 (x) Wn+1 (x) dPX X où g est une fenêtre ≥ 0 et Wn+1 (x) = En+1 g (ξ(x) − T )Le critère d’échantillonnage correspondant s’écrit : 2 Jn (In , Xn+1 ) = σn+1 (x) Wn (x) dPX XPondération recommendée par les auteurs : z2 (ξn (x)−T )2 ˆ − 2 1 1 −2 2 2 g (z) = e 2 σε ⇒ Wn (x) ∝ e σε +σn (x) 2 2 σε + σn (x) J. Bect (Supélec) Planification séquentielle 4 mai 2010 24 / 33
  63. 63. Une comparaison des critères existants : protocole X = [0; 1] avec PX = U[0;1] comparaison en moyenne sur 4000 trajectoires d’un GP GP centré, covariance de Matérn (σ 2 = 1, ν = 2, ρ = 0.1) les algos utilisent la vraie fonction de covariance T de façon à ce que α = 2%. J. Bect (Supélec) Planification séquentielle 4 mai 2010 25 / 33
  64. 64. Une comparaison des critères existants : protocole X = [0; 1] avec PX = U[0;1] comparaison en moyenne sur 4000 trajectoires d’un GP GP centré, covariance de Matérn (σ 2 = 1, ν = 2, ρ = 0.1) les algos utilisent la vraie fonction de covariance T de façon à ce que α = 2%. version discrétisée du problème (« méta-estimation ») iid Y1 , . . . , Ym ∼ PX (m = 500) 1 on veut estimer l’estimateur αm = m j 1ξ(Yj )>T 1 on travaille sur X = {Y1 , . . . , Ym } avec Pm = m X m j δYj J. Bect (Supélec) Planification séquentielle 4 mai 2010 25 / 33
  65. 65. Une comparaison des critères existants : protocole X = [0; 1] avec PX = U[0;1] comparaison en moyenne sur 4000 trajectoires d’un GP GP centré, covariance de Matérn (σ 2 = 1, ν = 2, ρ = 0.1) les algos utilisent la vraie fonction de covariance T de façon à ce que α = 2%. version discrétisée du problème (« méta-estimation ») iid Y1 , . . . , Ym ∼ PX (m = 500) 1 on veut estimer l’estimateur αm = m j 1ξ(Yj )>T 1 on travaille sur X = {Y1 , . . . , Ym } avec Pm = m X m j δYj autres critères comparés (en plus de SUR et targeted IMSE) Ranjan, Bingham et Michailidis (Technometrics 2008) Bichon, Eldred, Swiler, Mahadevan et McFarland (J. AIAA 2008) Echard, Gayton et Lemaire (Journées Nat. de Fiabilité, 2010) J. Bect (Supélec) Planification séquentielle 4 mai 2010 25 / 33
  66. 66. Une comparaison des critères existants : resultats (1/2) 10 0 MSE (dB) −10 −20 −30 SUR tIMSE, σε = 0 tIMSE, σε = 0.1 tIMSE, σε = 1.0 −40 5 10 15 20 25 30 nb évaluations J. Bect (Supélec) Planification séquentielle 4 mai 2010 26 / 33
  67. 67. Une comparaison des critères existants : resultats (2/2) 10 0 MSE (dB) −10 −20 SUR −30 tIMSE, σε = 0 Ranjan Bichon Echard −40 5 10 15 20 25 30 nb évaluations J. Bect (Supélec) Planification séquentielle 4 mai 2010 27 / 33
  68. 68. ConclusionsA retenir : Prise en compte d’information a priori sur f , dans un cadre bayésien non-paramétrique − méthodes qui convergent rapidement → L’approche déplace le problème d’intégration mais ne le supprime pas − complément aux méthodes existantes (par ex. Monte Carlo) → Les premières études empiriques montrent le potentiel des stratégies one-step look-ahead (SUR, targeted IMSE) J. Bect (Supélec) Planification séquentielle 4 mai 2010 28 / 33
  69. 69. ConclusionsA retenir : Prise en compte d’information a priori sur f , dans un cadre bayésien non-paramétrique − méthodes qui convergent rapidement → L’approche déplace le problème d’intégration mais ne le supprime pas − complément aux méthodes existantes (par ex. Monte Carlo) → Les premières études empiriques montrent le potentiel des stratégies one-step look-ahead (SUR, targeted IMSE) J. Bect (Supélec) Planification séquentielle 4 mai 2010 28 / 33
  70. 70. ConclusionsA retenir : Prise en compte d’information a priori sur f , dans un cadre bayésien non-paramétrique − méthodes qui convergent rapidement → L’approche déplace le problème d’intégration mais ne le supprime pas − complément aux méthodes existantes (par ex. Monte Carlo) → Les premières études empiriques montrent le potentiel des stratégies one-step look-ahead (SUR, targeted IMSE) J. Bect (Supélec) Planification séquentielle 4 mai 2010 28 / 33
  71. 71. Perspectives Mieux exploiter la complémentarité bayésienne/fréquentiste méta-estimation − intervalles de confiance → papier en cours de réaction avec E. Vazquez (bientôt sur arXiv. . . ) combinaison GP / techniques d’échantillonnage aléatoire cf. exposé de Pierre Barbillon à MASCOT-NUM 2010 J. Bect (Supélec) Planification séquentielle 4 mai 2010 29 / 33
  72. 72. Perspectives Mieux exploiter la complémentarité bayésienne/fréquentiste méta-estimation − intervalles de confiance → papier en cours de réaction avec E. Vazquez (bientôt sur arXiv. . . ) combinaison GP / techniques d’échantillonnage aléatoire cf. exposé de Pierre Barbillon à MASCOT-NUM 2010 Poursuivre l’analyse des stratégies de planification en simulation & sur cas tests industriels collaboration SUPELEC / B. Iooss (code Cathare) D. Ginsbourger et collab. : projet de toolbox libre (R) ? sur le plan théorique convergence, vitesse de convergence J. Bect (Supélec) Planification séquentielle 4 mai 2010 29 / 33
  73. 73. Perspectives Mieux exploiter la complémentarité bayésienne/fréquentiste méta-estimation − intervalles de confiance → papier en cours de réaction avec E. Vazquez (bientôt sur arXiv. . . ) combinaison GP / techniques d’échantillonnage aléatoire cf. exposé de Pierre Barbillon à MASCOT-NUM 2010 Poursuivre l’analyse des stratégies de planification en simulation & sur cas tests industriels collaboration SUPELEC / B. Iooss (code Cathare) D. Ginsbourger et collab. : projet de toolbox libre (R) ? sur le plan théorique convergence, vitesse de convergence En cours : thèse de Li Ling (financement projet CSDL) J. Bect (Supélec) Planification séquentielle 4 mai 2010 29 / 33
  74. 74. BibliographieRéférences traitant de la stratégie SUR : E. Vazquez et M. Piera-Martinez, Estimation du volume des ensembles d’excursion d’un processus gaussien par krigeage intrinsèque, 39èmes Journées de Statistiques (JdS 2007), CD-ROM proceedings, Angers (France), 11–15 juin 2007 [clickme] M. Piera-Martinez, Modélisation des comportements extrêmes en ingénierie, Thèse de l’Université Paris-Sud 11 / Supélec, 29 septembre 2008 [clickme] E. Vazquez et J. Bect, A sequential Bayesian algorithm to estimate a probability of failure, 15th IFAC Symposium on System Identification (SYSID 2009), Saint-Malo, France. IFAC-PapersOnLine / Elsevier, 2009 [clickme] J. Bect (Supélec) Planification séquentielle 4 mai 2010 30 / 33
  75. 75. BibliographieRéférences traitant de la stratégie targeted IMSE : V. Picheny, D. Ginsbourger, O. Roustant et R.T. Haftka, Iterative Designs of experiments for constraint approximation, 8th European Network for Business and Industrial Statistics conference (ENBIS8), CD-ROM proceedings, Athènes (Grèce), 21–25 septembre 2008 V. Picheny, D. Ginsbourger, O. Roustant, R.T. Haftka et N.-H. Kim, Adaptive designs of experiments for accurate approximation of target regions, Journal of Mechanical Design, to be published [clickme] V. Picheny, Improving accuracy and compensating for uncertainty in surrogate modeling, Thèse de l’École Nationale Supérieure des Mines de Saint-Etienne, 15 décembre 2009 [clickme] J. Bect (Supélec) Planification séquentielle 4 mai 2010 31 / 33
  76. 76. BibliographieAutres références décrivant des stratégies séquentielles : P. Ranjan, D. Bingham et G. Michailidis, Sequential experiment design for contour estimation from complex computer codes, Technometrics, 50(4), 527–541, 2008 [clickme] B. J. Bichon, M. S. Eldred, L. P. Swiler, S. Mahadevan et J. M. McFarland, Efficient global reliability analysis for nonlinear implicit performance functions, AIAA Journal, 46(10), 2459–2468, 2008 [clickme] B. Echart, N. Gayton et M. Lemaire, Kriging based Monte Carlo simulation to compute the probability of failure efficiently : the AK-MCS methods, 6èmes Journées Nationales de Fiabilité, Toulouse, France, 2010 J. Bect (Supélec) Planification séquentielle 4 mai 2010 32 / 33
  77. 77. BibliographieApparition du krigeage en fiabilité : V. J. Romero, L. P. Swiler et A. A. Giunta, Construction of response surfaces based on progressive-lattice-sampling experimental designs with application to uncertainty propagation, Structural Safety, 26(2), 201–219, 2004 [clickme] I. Kaymaz, Application of kriging method to structural reliability problems, Structural Safety, 27(2), 133–151, 2005 [clickme] S. Shan et G. G. Wang, Failure surface frontier for reliability assessment on expensive performance function, Journal of Mechanical Design, 128(6), 1227–1236, 2006 [clickme] J. Bect (Supélec) Planification séquentielle 4 mai 2010 33 / 33

×