SlideShare a Scribd company logo
Folding Markov chains:
the origaMCMC
Christian P. Robert
Universit´e Paris-Dauphine PSL and University of Warwick
bayesianstatistics@gmail.com
Joint on-goin’ work with R. Douc and G. Roberts
1 / 25
Outline
Introduction
Motivating example
Folding the Markov chain
Convergence
Improving the acceptance rate
Asymptotic variance
Practicals [under development]
2 / 25
Introduction
Introduction
Motivating example
Folding the Markov chain
Convergence
Practicals [under development]
3 / 25
motivating example
Consider the target
π(x) =
1
(1 + x2)π
standard Cauchy distribution
Basic Metropolis-Hastings algorithm with uniform proposal
zt ∼ U(xt − , xt + ) cannot be geometrically ergodic
[Mengersen and Tweedie (1996)]
−8 −6 −4 −2 0
0200040006000800010000
x
t
Dynamics of a standard random-walk
Metropolis–Hastings algorithm when
targeting a Cauchy distribution, based on
104 iterations and a uniform scale of ε = .1.
4 / 25
motivating example
Consider the target
π(x) =
1
(1 + x2)π
standard Cauchy distribution
Basic Metropolis-Hastings algorithm with uniform proposal
zt ∼ U(xt − , xt + ) cannot be geometrically ergodic
[Mengersen and Tweedie (1996)]
−8 −6 −4 −2 0
0200040006000800010000
x
t
Dynamics of a standard random-walk
Metropolis–Hastings algorithm when
targeting a Cauchy distribution, based on
104 iterations and a uniform scale of ε = .1.
4 / 25
new proposal
Metropolis-Hastings alternative:
1. the current value xt of the Markov chain is first inverted into
yt = 1/xt if found outside (−1, 1),
2. then moved by a random walk on (−1, 1) to
zt ∼ U(yt − , yt + ), which value is accepted or not
according to the standard Metropolis-Hastings ratio,
3. and outcome inverted into xt+1 = 1/yt+1 with probability 1/2
simple version of the folding algorithm, with folding set the unit
interval (−1, 1)
5 / 25
new proposal
Metropolis-Hastings alternative:
1. the current value xt of the Markov chain is first inverted into
yt = 1/xt if found outside (−1, 1),
2. then moved by a random walk on (−1, 1) to
zt ∼ U(yt − , yt + ), which value is accepted or not
according to the standard Metropolis-Hastings ratio,
3. and outcome inverted into xt+1 = 1/yt+1 with probability 1/2
simple version of the folding algorithm, with folding set the unit
interval (−1, 1)
5 / 25
new proposal
Metropolis-Hastings alternative:
1. the current value xt of the Markov chain is first inverted into
yt = 1/xt if found outside (−1, 1),
2. then moved by a random walk on (−1, 1) to
zt ∼ U(yt − , yt + ), which value is accepted or not
according to the standard Metropolis-Hastings ratio,
3. and outcome inverted into xt+1 = 1/yt+1 with probability 1/2
simple version of the folding algorithm, with folding set the unit
interval (−1, 1)
5 / 25
validation
simple version of the folding algorithm, with folding set the unit
interval (−1, 1)
Cauchy target still stationary for this distribution
probability 1/2 resulting from Jacobian rather than from
P(|X| < 1) = 1/2
not-so-simple [but still-manageable] probabilty if chosing
folding interval (−2, 2) and inversion yt = 4/xt
fundamental reason is that Cauchy is invariant by inversion
resulting Markov chain is uniformly ergodic
6 / 25
validation
simple version of the folding algorithm, with folding set the unit
interval (−1, 1)
Cauchy target still stationary for this distribution
probability 1/2 resulting from Jacobian rather than from
P(|X| < 1) = 1/2
not-so-simple [but still-manageable] probabilty if chosing
folding interval (−2, 2) and inversion yt = 4/xt
fundamental reason is that Cauchy is invariant by inversion
resulting Markov chain is uniformly ergodic
6 / 25
simulation outcome
−4 −2 0 2 4
02000400060008000
x
t
x
Density
−20 −10 0 10 20
0.000.050.100.150.200.25
Figure : (Left) Folded Markov chain for Cauchy target with same scale
of the random walk. (Right) Empirical distribution of the Markov chain
and fit to the Cauchy target
7 / 25
folding the Markov chain
Consider target π on state space X
Let A0, A1, . . . , AM be a finite partition of the state space and
create differentiable bijections g1, . . . , gM from A0 to A1, . . . , AM,
respectively. Set X = A0 as the folded space
Define the distribution
π (x ) = π(x ) + π(g1x ) |dx g1 (x )| + . . . + π(gMx ) |dx gM (x )|
on X
c π (·) is a proper density on X
8 / 25
folding the Markov chain
Consider target π on state space X
Let A0, A1, . . . , AM be a finite partition of the state space and
create differentiable bijections g1, . . . , gM from A0 to A1, . . . , AM,
respectively. Set X = A0 as the folded space
Define the distribution
π (x ) = π(x ) + π(g1x ) |dx g1 (x )| + . . . + π(gMx ) |dx gM (x )|
on X
c π (·) is a proper density on X
8 / 25
unfolding the folded Markov chain
Simulating from π is equivalent to simulating from π:
Lemma
If x ∼ π , then
x =



x with probability π(x )/π (x )
g1x with probability π(g1x ) |dx g1 (x )| /π (x )
· · ·
gMx with probability π(gMx ) |dx gM (x )| /π (x )
is distributed from the target π.
c build MCMC sampler aiming at π
9 / 25
unfolding the folded Markov chain
Simulating from π is equivalent to simulating from π:
Lemma
If x ∼ π , then
x =



x with probability π(x )/π (x )
g1x with probability π(g1x ) |dx g1 (x )| /π (x )
· · ·
gMx with probability π(gMx ) |dx gM (x )| /π (x )
is distributed from the target π.
c build MCMC sampler aiming at π
9 / 25
Cauchy example validated
For the Cauchy example:
A0 = (−1, 1), A1 = (−1, 1)c, g1x = 1/x
and
π (x) = π(x ) + π(g1x ) |dx g1 (x )|
=
1
(1 + x2)π
+
1
(1 + 1/x2)π
1
x2
=
2
(1 + x2)π
unfolding by x =
x w.p. 1/2
1/x w.p. 1/2
10 / 25
Cauchy example validated
For the alternative
A0 = (−2, 2), A1 = (−2, 2)c, g1x = 4/x
and
π (x) = π(x ) + π(g1x ) |dx g1 (x )|
=
1
(1 + x2)π
+
1
(1 + 4/x2)π
4
x2
=
1
(1 + x2)π
+
4
(4 + x2)π
unfolding by x =
x w.p. π(x )/π (x )
1/x w.p. 4π(4/x )/(x )2π (x )
10 / 25
Convergence
Introduction
Convergence
Improving the acceptance rate
Asymptotic variance
Practicals [under development]
11 / 25
improving the acceptance rate
Define folded transition kernel, K (x , dy ) as
k (x , y ) =
M
i=0
π(gi x ) |dx gi (x )|
π (x )
M
j=0
k(gi x , gj y ) |dx gj (y )|
Kernel considers all
possible images in
original space X and
brings them into
the folded space
X
(1)
k
X
,(1)
k
X
(1)
k+1
X
,(1)
k+1
Q Q
H K, π
12 / 25
improving the acceptance rate
Define folded transition kernel, K (x , dy ) as
k (x , y ) =
M
i=0
π(gi x ) |dx gi (x )|
π (x )
M
j=0
k(gi x , gj y ) |dx gj (y )|
Kernel considers all
possible images in
original space X and
brings them into
the folded space
X
(0)
k
X
,(0)
k
X
(0)
k+1
X
,(0)
k+1
Q Q
H Q KQ, π
12 / 25
improving the acceptance rate
Define folded transition kernel, K (x , dy ) as
k (x , y ) =
M
i=0
π(gi x ) |dx gi (x )|
π (x )
M
j=0
k(gi x , gj y ) |dx gj (y )|
Proposition
If α(x, y), resp. α (x , y ), is Metropolis–Hasting acceptance
probability for the original, resp. folded, proposal kernel K then
E[α (X , Y )] ≥ E[α(X, Y )]
when expectations computed under respective stationary
distributions, π (x )K (x , y ) and π(x)K(x, y)
12 / 25
asymptotic variance
Given (X, X) and (X , X ),
define the folding mapping
ϕ : X → X and write
Q(x, dx ) = δϕ(x)(dx )
X
(1)
k
X
,(1)
k
X
(1)
k+1
X
,(1)
k+1
Q Q
H K, π
13 / 25
asymptotic variance
Given (X, X) and (X , X ),
define the folding mapping
ϕ : X → X and write
Q(x, dx ) = δϕ(x)(dx )
For π target probability on
(X, X), set
π = π ◦ ϕ−1
and define kernel Q on X × X
by
π(dx)Q(x, dx ) = π (dx )Q (x , dx)
X
(1)
k
X
,(1)
k
X
(1)
k+1
X
,(1)
k+1
Q Q
H K, π
X
(0)
k
X
,(0)
k
X
(0)
k+1
X
,(0)
k+1
Q Q
H Q KQ, π
13 / 25
asymptotic variance
Given (X, X) and (X , X ), define the folding mapping ϕ : X → X
and write
Q(x, dx ) = δϕ(x)(dx )
set π = π ◦ ϕ−1 and define kernel Q on X × X by
π(dx)Q(x, dx ) = π (dx )Q (x , dx)
Lemma
for all (f , g) ∈ L2(π) × L2(π ),
f ; Qg π = Q f ; g π where f ; g µ = µ(fg)
If K is π-reversible, then, Q KQ is π -reversible, since
f ; Q KQg π = Qf ; KQg π = KQf ; Qg π = Q KQf ; g π
13 / 25
comparing two π-reversible Markov chains
Let P0 and P1 be two π-reversible Markov kernels.
easy-to-check conditions on P0 and P1 ensuring that for all f in
some ”class of functions”,
v(f , P0) ≥ v(f , P1)
where we have defined, for a Markov chain (X()
k)k∈N with
π-reversible transition kernel P and initial distribution π,
v(f , P) := lim
n→∞
1
n
Var
n−1
k=0
f (Xk) = lim
n→∞
√
nVarˆπn(f )
14 / 25
two notions
Definition
1. P1 dominates P0 on the off-diagonal, i.e. P1 P0, if
∀(x, A), P1(x, A  {x}) ≥ P0(x, A  {x}) .
2. P1 dominates P0 in the covariance ordering, i.e. P1 P0, if
∀f ∈ L2
(π), f ; P1f π ≤ f ; P0f π
where f ; g π = π(dx)f (x)g(x).
Theorem
P1 P0 ⇒ P1 P0 ⇒ v(f , P0) ≥ v(f , P1) ∀f ∈ L2(π) .
[Peskun (1973) and Tierney (1998)]
15 / 25
two notions
Definition
1. P1 dominates P0 on the off-diagonal, i.e. P1 P0, if
∀(x, A), P1(x, A  {x}) ≥ P0(x, A  {x}) .
2. P1 dominates P0 in the covariance ordering, i.e. P1 P0, if
∀f ∈ L2
(π), f ; P1f π ≤ f ; P0f π
where f ; g π = π(dx)f (x)g(x).
Theorem
P1 P0 ⇒ P1 P0 ⇒ v(f , P0) ≥ v(f , P1) ∀f ∈ L2(π) .
[Peskun (1973) and Tierney (1998)]
15 / 25
two notions
Definition
1. P1 dominates P0 on the off-diagonal, i.e. P1 P0, if
∀(x, A), P1(x, A  {x}) ≥ P0(x, A  {x}) .
2. P1 dominates P0 in the covariance ordering, i.e. P1 P0, if
∀f ∈ L2
(π), f ; P1f π ≤ f ; P0f π
where f ; g π = π(dx)f (x)g(x).
Theorem
P1 P0 ⇒ P1 P0 ⇒ v(f , P0) ≥ v(f , P1) ∀f ∈ L2(π) .
[Peskun (1973) and Tierney (1998)]
15 / 25
induced kernel
Given a proposition kernel K and the target distribution π, write
H K, π the Metropolis-Hastings kernel defined by:
H K, π (x, A  {x}) = K(x, dy)α(x, y)IA{x}(y)
where 


α(x, y) = 1 ∧ r(x, y)
r(x, y) = dµ
dν (x, y)
µ(dxdy) = π(dy)K(y, dx)
ν(dxdy) = π(dx)K(x, dy)
16 / 25
two approximate expectations
1. Let {X
(1)
k } a Markov chain of transition kernel H K, π . The
Rao-Blackwellised approximation is defined by
ˆπ
(1)
n (h) =
1
n
n
k=1
QQ h(X
(1)
k ) (1)
2. Let {X
,(0)
k } a Markov chain of transition kernel H Q KQ, π
and consider the Rao-Blackwellised approximation
ˆπ
(0)
n (h) =
1
n
n
k=1
Q h(X
,(0)
k ) (2)
17 / 25
two approximate expectations
1. Let {X
(1)
k } a Markov chain of transition kernel H K, π . The
Rao-Blackwellised approximation is defined by
ˆπ
(1)
n (h) =
1
n
n
k=1
QQ h(X
(1)
k ) (1)
2. Let {X
,(0)
k } a Markov chain of transition kernel H Q KQ, π
and consider the Rao-Blackwellised approximation
ˆπ
(0)
n (h) =
1
n
n
k=1
Q h(X
,(0)
k ) (2)
17 / 25
comparison
Theorem
For h real-valued measurable function on (X, X) such that
πh2 < ∞ and
{X
(1)
k , k ∈ N} Markov chain with kernel H K, π starting
from π
{X
,(0)
k , k ∈ N} Markov chain with kernel H Q KQ, π
starting from π
Then,
lim
n→∞
nVar(ˆπ
(0)
n (h)) ≤ lim
n→∞
nVar(ˆπ
(1)
n (h))
with ˆπ
(0)
n (h) and ˆπ
(1)
n (h) defined in (2) and (1)
18 / 25
comparison
Theorem
For h real-valued measurable function on (X, X) such that
πh2 < ∞ and
{X
(1)
k , k ∈ N} Markov chain with kernel H K, π starting
from π
{X
,(0)
k , k ∈ N} Markov chain with kernel H Q KQ, π
starting from π
Then,
lim
n→∞
nVar(ˆπ
(0)
n (h)) ≤ lim
n→∞
nVar(ˆπ
(1)
n (h))
with ˆπ
(0)
n (h) and ˆπ
(1)
n (h) defined in (2) and (1)
18 / 25
Practicals
Introduction
Convergence
Practicals [under development]
19 / 25
folding set
Unless target distribution simple enough for informed choice,
natural choice for A0 is HPD region
Hα = {x ∈ X; π(x) ≥ α}
as
π [and hence π] lower bounded on Hα
resulting Hα compact
some transition kernels produce uniform ergodic chains
partition of X into A0, Ac
0 with natural stereoscopic projection
[provided A0 star-convex]
g1(x ) =
2
|x |2
x
20 / 25
practical implementation
While Hα usually unavailable, approximations can be found from
preliminary MCMC runs when π(x) or unnormalised version of it
can be computed
preliminary run produces simulations with [relative] values of
π, π(x1), . . . , π(xN)
derivation of higher density values [and potential clustering]
choice of an HPD approximation as ball and g1 as natural
projection
reevaluation of the folding set after further simulations
note: black box compatibility with MCMC code
21 / 25
practical implementation
While Hα usually unavailable, approximations can be found from
preliminary MCMC runs when π(x) or unnormalised version of it
can be computed
preliminary run produces simulations with [relative] values of
π, π(x1), . . . , π(xN)
derivation of higher density values [and potential clustering]
choice of an HPD approximation as ball and g1 as natural
projection
reevaluation of the folding set after further simulations
note: black box compatibility with MCMC code
21 / 25
Cauchy illustration
preliminary run produces
simulations with values of
π(x)
derivation of higher density
values and clustering
q
q
qq
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
qq
q
q
qq
q
q
q
q
q
q
q q q
q
q
q
q
q
q
qqq qqq q
q
q
q
qq
qq
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
qq
q
q
q
q
qq
q
q
qq
q
q
qq
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qqq
qq
q
qq
q
q
q
qq
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
qq
q
q
qq
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
qq
q
q
q
q
q
q
q
q
q
qq
qq
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
qq
q
q
qq
q
q
qq
q
q
q
q
q
q
q
qq
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
qqqq
q
q
q
q
qq
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
qqqq
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
qqq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
qq
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
qq
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
qq
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
qq
qq
qq
q
qq
qq
qq
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
qq
q
q
q
q
q
q
qqq
−1.5 −1.0 −0.5 0.0
0.100.150.200.250.30
x
π(x)
22 / 25
Cauchy illustration
preliminary run produces
simulations with values of
π(x)
derivation of higher density
values and clustering
choice of an HPD
approximation as ball and g1
as natural projection
potential reevaluation of the
folding set after further
simulations
x
Density
−0.6 −0.4 −0.2 0.0 0.2
0.00.51.01.52.0
22 / 25
Cauchy illustration
preliminary run produces
simulations with values of
π(x)
derivation of higher density
values and clustering
q
q
qqq
q
q
q
qqq
q
q
qqq
q
q
q
q
qq
q
q
q
qq
q
q
qq
q
q
q
q
q
qq
q
q
q
q
qqq
q
q
q
q
qq
q
q
q
q
qqq
qq
qq
q
qq
q
qq
q
qq
q
q
q
q
q
q
qq
qq
q
q
q
q
qq
q
q
qq
qq
q
q
q
qq
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
qq
q
qq
q
q
q
q
q
q
q
q
q
qqq
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q q
q
q
q
q
q
q
q
qq
qqq
qqq q
qq
q
q
q
qqq
qqq
qq
q
q
q
q
q
q
q
qqq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
qq
qq
q
q
q
q
q
q
qq
qq
qq
q
q
q
q
q
q
q
qqq
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
qqq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qqq
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
qq
qq
q
q
q
qq
q
qq
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
qq
q
q
q
q
q
q
qq
q
qq
q
q
q
q
q
q
q
q
q
qqq
q
q
q
qq
q
qq
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
qqq
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
qq
q
q
q
q
q
q
q
qq
q
qq
qq
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
qq
qq
q
q
q
q
q
qq
q
q
qq
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
qq
q
q
q
qq
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
qq
q
q
qqq
qq
q
q
q
q
q
q
q
q
q
q
q
q
qq
qq
q
q
q
q
q
q
q
q
q
q
q
qq
qq
q
qq
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
qq
q
q
qq
qq
q
q
q
qq
q
q
q
qq
q
q
q
q
q
q
q
q
1.0 1.5 2.0 2.5
0.050.100.150.20
x
π(x)
22 / 25
Cauchy illustration
preliminary run produces
simulations with values of
π(x)
derivation of higher density
values and clustering
choice of an HPD
approximation as ball and g1
as natural projection
potential reevaluation of the
folding set after further
simulations
x
Density
0.8 1.0 1.2 1.4 1.6
01234
22 / 25
Cauchy illustration
preliminary run produces
simulations with values of
π(x)
derivation of higher density
values and clustering
choice of an HPD
approximation as ball and g1
as natural projection
potential reevaluation of the
folding set after further
simulations
x
Density
1.3 1.4 1.5 1.6 1.7
0246810
qMC version using sobol(1e5,3)
22 / 25
Gaussian sugarloaf
Target
π(x) ∝ ϕ(x; µ, Σ) × exp{−α/||x − x0||2
}
23 / 25
Gaussian sugarloaf
Target
π(x) ∝ ϕ(x; µ, Σ) × exp{−α/||x − x0||2
}
preliminary run produces
simulations with values of
π(x)
derivation of higher density
values and clustering
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q q
q
q
q
q
q
qq
q
q
qq
qq q
qq
q
q
q q
qq qq
q
q
q
q
q
qq
q
q
q
q
q
q q
qq
q
q
qqq qq
qq
qqq qqq
qq q
q q
qqqqq
qq
q
qq
q qq qq
qq
q
q
qq q
q
q
q q
q
q
qq
qq
qqq
qq
q
q
qqq
q
q
qqq
q q
qq
q q
qq q
q
qq
qqq
qqqq qq
qqqq
q
q
qq
q
q
q
q q
q
q
q
q
q
qq
q q q q
q
q
q q
q
q
q
q q
q
q q
q
q
q
qq
q
q
qq qq
q
qq
qq
q
q q
q qq
q q
q
qq q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qqq
q
q
q
q
q
q
qq
q
q
q
q q
q q
q
qq
qq
q
q
qq
qq
q
q q
q
q
q
q
q
qq
q
q
qq
q
q q
qq
qq
qqqqqq
q
q
qqqqq
q
qq
qq
q
q q
q q
q q
q q
q q
qq
q
q q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
−1.0 −0.5 0.0 0.5
−1012
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
qq
q
qq
q
q
q q
q
qqq
q
q
q
qqq
q
q
q
q
qqqq
q
q
q
qq
q
q
q
q
qq
qq
q
qqqq
qqqqqq
q
q
qq
q
q
qqq
q
q
q
qq
qqq
qqqqqq
qqq
q
q
qqqq
q
qqq
qq
qqqqq
q
qqq
q
q
q
qq
q
q
qq
q
q
q
qq
q
q
q
q
q
q
q q
q
q
q q
q
q
q
q
q
q
q
q
qq
qq
qqq
qqq
qqq
qq
qqq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
qq
q
q
qq
q
q
qq
q
q
q
q
qq
q
q
qq
q
qq
q
q
q
qqq
qq
q
q
q
q
q
q
q
q
q
qq
q
qq
q
qq
q
q
q
q
qq
qq
q
qq
qq
q
q
q
q
qq
q
q
q q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
−1 0 1 2
−1.5−1.0−0.50.00.5
q
q
q
q
qq
q
q
q
q
qq
q
q
q
q q
q q
q
q
q
q
qq
q
q
q
q
q
q
q
q qq
q
qq
q q
qq
q
q
q
q
q
q
q qq
qq
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q q
q
q
q
q
q
q
qqq
qq
q
qqq
q
qqqq
q
q
q
qq
q
q
qqq
qq
q
qq
qq
q
qqq
q
q
q
qq
qq
qq
qqq
q
qq
qqqqq
q
qqq
q
q
q
qqqqq
q
qq
qqq q
qq
q q
q
q
qqq qqqq
q
qq
q q q
q
q
q
q
q
q q
q
q
q
q
q
q qq
q
q
q
q
q
q
q qq
qq
q
q
qq
q q
q
qq
q
q
qq
q q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
qq
q
q
q
q q
q
q
q q
qq
q
qqq
q q
q
qq q
q q
q qq q
qq
q
q
qqq
q q
q
q
q
qq
q
q
qq
q
q
qqq qqq
q
q
qq
q
qq
qq
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
qq
q
qq
q
q q
q
q
qq
q
q
q
q
q
q
q
q
q q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
qq
q
q
q
q
q
q
q
q
q
qq
q
qq
q
q
−1.5 −1.0 −0.5 0.0 0.5
−3.0−2.5−2.0−1.5−1.0−0.50.0
q
q
q
q
q q
q
q
q
q
qq
q
q
q
q q
q q
q
q
q
q
q q
q
q
q
q
q
q
q
qqq
q
q q
q q
qq
q
q
q
q
q
q
q q q
qq
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
qq
q
q
q
q
q
q
qqq
q q
q
qqq
q
qqqq
q
q
q
qq
q
q
qqq
q q
q
qq
qq
q
qq q
q
q
q
qq
qq
qq
qqq
q
qq
qqqq q
q
qq q
q
q
q
qqq qq
q
qq
qq qq
qq
qq
q
q
qqq qq q q
q
q q
qqq
q
q
q
q
q
q q
q
q
q
q
q
q q q
q
q
q
q
q
q
qqq
qq
q
q
q q
q q
q
qq
q
q
qq
q q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q q
q
q
q
qq
q
q
qq
q q
q
qqq
qq
q
qqq
qq
q q q q
q q
q
q
qqq
qq
q
q
q
q q
q
q
qq
q
q
qqqqq q
q
q
qq
q
qq
qq
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q q
q
q
q
q
qq
q
q q
q
q q
q
q
q q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q q
q q
q
q
q
q
q
q
q
q
q
q q
q
qq
q
q
−1.0 −0.5 0.0 0.5
−3.0−2.5−2.0−1.5−1.0−0.50.0
23 / 25
Gaussian sugarloaf
Target
π(x) ∝ ϕ(x; µ, Σ) × exp{−α/||x − x0||2
}
preliminary run produces
simulations with values of
π(x)
derivation of higher density
values and clustering
choice of an HPD
approximation as ball and g1
as natural projection
potential reevaluation of the
folding set after further
simulations
x
Density
−4 −2 0 2 4
0.00.10.20.3
x
Density
−4 −2 0 2 4
0.00.10.20.30.4
x
Density
−4 −2 0 2 4
0.00.10.20.30.4
x
Density
−4 −2 0 2 4
0.000.100.200.30
23 / 25
Gaussian sugarloaf
Target
π(x) ∝ ϕ(x; µ, Σ) × exp{−α/||x − x0||2
}
preliminary run produces
simulations with values of
π(x)
derivation of higher density
values and clustering
choice of an HPD
approximation as ball and g1
as natural projection
potential reevaluation of the
folding set after further
simulations
q
q
q
q
q
q
q
q
q
q
q
qqqq
qq
qqqq
qq
q
q
qq
q
qq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqq
qq
qqqqqqq
qq
qq
qq
qqq
qqqqqqqqqqqqqq
qqqq
qqq
q
qq
q
q
qqq
qq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqq
q
qq
qq
q
q
q
qqqqqqq
qqqqqq
qq q
qq
qqqqqqqqqq
q
qqqqqqqqqq
qqqqqqqqqqqqqqqq
qqqqq
qq
q
qqqqq
qqqq
qq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
q
qqq
qqq
qqqqq
qqq
q
q
qqq
q
qq
qqqq
qqq
qqqqq
q
q
qqq
q
qqq
q
q
q
q
q
q qq
qq
qqq
q
qq
qq
q
q
q q
q
q
q
q
qq
q
q q
q
q
qq
q
q
q
q
q
q
qq
q
qqqq
qqqqqq
qqqqqqqqqqqq
qqqq
qq
qqqqqqqqq
qqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqq
q
qq
qqqqqqqqqq
qqq
q
qq
q
qqq
qqqqq
q
q
qqq
qqq
qqqqqqqq
qqqq
qqqqqq
q
qqqqqqq
qqqqqq
q
qqqq
qqqqq
qq
q
q
q
q
q
q
qqqq
q
q
qq
q
q
qq
qq
q
qqq
qq
qq
qq
q
q
qqqq
qq
q q
q
q
q
q
qq
q
qq
q
qq
q q
q
q
qq
q
q
q
qq
qq
qq
q
q
q
qq
q
q
q
q
q qq
q
q
q
q
q
q
q
q
qq q
q
q
q
qq
q
qqq
qqq
q
q
q
qq
q
q
q
q
q
q
q
q
q
q q
q
qq
q
qq
q
qqq
q q
q
q
q
qq
q
q
q
q
q
q
q
q
q
q
qqq
qqqqq
q
q
qqqqq
qqqq
qqq
q
qqqqqq
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
qq
qqqq
qqqqqqqqqqq
qqqqqqq
q
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqq
qq
q
qq
qq
q
qqqq
qq
qq
q
qq
q
qq
q
qq
q
qqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqq
qqq
qqqq
qqq
q
qqq
qqq
qqqqqqqqq
qqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqq
qqqqqqqq
qqqq
qqqqqqq
q
qqqq
qq
q
q
qqqq
qq
q
q
q
q
q
q
q
qqq q
q qq
q
qq
q
qq
qqqq
q
q
q
q
q
qq
qq
qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qq
qq
q
q
qqqqqq
qqqq
q
q
qqqqq
q
q
qqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
q
qqqqqqqqq
q
qqq
qq
qqq
q
q
q
qqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqq
qqqqqqqqqqqqq
q
qq
qq
q
q
qq
q
qq
q
q
qq
q
q
q
qq
q
q
q
qqq
q
q
q
q
q
qq
q
qq
q
q
q
qq
q
qq
q
q q
q
q
q
q
q
q
q
q
qqqqq
q
q
q
q
qqq
q
q
q q
q
q
q
q
q
qq
q
qq qq
q
q
q
q
q
q
q
q
q
q
q
q
q
q
q
qqq
qq
qqq
q
q
q
q
qq
q
qq
q q
q
q
q
qq
qqq
q
q
q
q
q
q
qq
qq
q
q
q
qqq
q
qqq
q
q
qq
q
qqqq
q
q
qqq
q
q
q
q
q
qqq
q
q
q
qq
qq
qq
q
qq
qq
qqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
q
q
qqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqq
q
q
qqqq
qqqqqqqqqqqqqqqqqqqqqqqqqq
q
qqqqqqqq
qq
q
qq
qqqq
qqq
qqq
q
qqq
qqqq
q
qqq
q
q
q
qq
q
q
qq
q
qq
qqqq
qq
qq
qqqqq
q
qq
q
q q
q
q
q
q
q
q
qqq
q
q
q
q
qq
qq
q
q
qqq
q
q
q
q
q
q
q
q q
q
qq
q
q
qq
q
q
q
qq
q
qq
q
qq
qq
q
q
qq
q
q
q
q
q
q
qq
qq
q
q
qqq
q
qq
q q
q
q
q
q
q
q
q
q
q
q
q
q
q
qqqq
qqqq
q
q
qq
q
qqqqq
q
qq
q
q
q
q
q
qqqqq
q
q
q
qq
qqqq
qqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
0 20 40 60
−50−40−30−20−10010
q qq
qq
qq
q
qq
q
qq
qqq
q qqq
qq
qq
qq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqq
qqqq
qqqq
qqqqqqq
qqq
q
qqqqqqqqqqqqqqqqqqqqq
qq
qq
qqq
qqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqq
q
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
q
q
q qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqq
qqqqqq
q
q
qqqqqqqqq
qq
qqqqqq
q
qqqq
q
qq
q
q
q
qqqq
q
q
q
q
q
q
q
q
qq
qq
qq
qq
q
q
q
q
q
qq
q
qq
q
q
q
q
q
q
q
q
q
q
qq
qqq
qqqqqqqqqqqqqqq
qqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqq
qqqq
qq qqqq
q
q
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqq
qqqqqq
qq
q
q
q q
qqq
qqqq
qq
qqq
qq
q
qq
qqq
q
q
qq
qqq q
q
q
q
q
qq
qq
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
qq
qq
q
q
q
q
q
q
q
q
q
qq
q
qqqq
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
qqq
q
qqqqq
qqqq
q q
q qqq
q
q
qq
q
q
q
qq
q
qqq
qq
q
q
q
qq
qq
q
q
qq
q
q
q
q
q
qq
qqq
q
q q
q
qqqqqq
qq
qqqq
qq
qqqqq
qq
qq qqq
q
q
q
q
q
qq
qq
q
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqq
q
qq
q
q
qq
qq
q qq
qqqqqq
qq
q
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqq
qq
qq
q q
q
qqq
qqqqqq
qqqqqqqqqq
qqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
q
qqqq
qqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqq
qqqqqqqqqq
q
qq qq
qq
q
qq
q
q
qq
qq
q
qqq
qq
q
qq
qq
q
qq
qq
qq
qq
q
q
q
q
qqq qq
q q
q q
q q q
q
q
q
q
q
q
q
qq
q
q
qqq
qqqq
qqqqqq
qqqqqq
q
q
q
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qq
qqqqq
qq
q
qq qqq
qq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqq
qqqqqqq
qqqqqqqqqq
qqq q
q
q
q
qq
q
q
q
q
q
qq
q
q
qqq
q
qqqq
qq
qqqqq
q
q
qqq
q
qq
q
qqqqqq q
q
q
q
q
q q
q
q
q
q q
qq
q q
q
q q
q
qq
q
q q
qqq
q q
q
qq q q
q
qq
q
q
q
q
qq
q
q
q
q
q
qq
q
q
q
q
q
qq q
qq
qq
q
qq
q
q
q q
q
q
q
q
q
q
qqq
q
qq
qq qq
q
q qqqq
q
q q
qqq
q
q
qq
qq
q
qq
qqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
q
qqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
q
qqqqqqqqqq
q
qq
q
qqq
qq
qq
q
qq
q
qq
qqq
q
q
q
q
q
q
q
qqqq
qqqq
qqq
qq
qq
q q
q
q
q
q qq
q
q
q
q
q
qqq
q qq qqq
qq
q
q
q
q
q
q
qq
q
q
q
q q
q
qq
q
q
q
q
qq
q
q
qq
q
qqq
qq
q
qq
q
q q
qq qq
qq
q
q
qq
q
q
q q
q q
q
qq
q
q
q
q
qqq
qq qqq
q
q
qqqq
qqqqqq
q
q
qq
q qq
q
q
q
qqqqq
q
q
q
q qq q
q
q
q
q
q
qqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
−50 −40 −30 −20 −10 0 10
−20−10010203040
q
q
q
q
qq
q
q
q
q
q
qq
qq
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqq
q
qqq
qqq
qq
qqqqqq
q
qqq
qqqq
qqqqqqqqqqqqqqqqqq
qqqq
q
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qq
qqqqq
q
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqq
qqq
qq
qqqqqqq
qqqqqqq
qq
q
q
qq
qqqq
qqq
qqqqqqqqqqqqqqq
qqqqqqqqqqqqqq
qq
q
q
q
qq
qqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqq
q
qqqq
qq
qqqq
qq
q
qqq
q
qq
q
q
q
qqq
qqq
q
q
q
qqqqq
qqqq
qqq
q
qq
q
q
qqq
qq
q
q
q
q
q
qq qqq
q
qq
q q
q
q
qq
q
q
q
q
q q
q
q
q
q
q
q
q
qq
qqqqqq
qqqqqqq
qq
qq
qq
q
q
qqqqq
qqqqqqqqqqqq
qqqqqqqq
qq
qqqqqqqqqqqqqqqqqqqq
qqqq
q
q
qq
qqqqqq
qqqq
q
qqqqqqqq
qqqq
qqq
qqqqq
q
qqqqqqqqqq
q
q
qqq
qqqqq
qqq
qqqqqqq
qq
qqqq
qqqq
q
q
q
q
q
qqq
q
qqq
q
qqq
q
q
q
qq
q
q
q
qq
qqqq
q
qq
q
q
q
q
q
qqq
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
qq
qq
q
q q
q
q
q
qq
q
q
q
qq
q
q
qq
q q q
q
q
q
q
q
q
q
qqq
q
qq
q
q
q
qqq
q
q
qq
q
q
qqq
qq
q
q
q
q
q
qq q
q
qq
q
qq
q
q
q
q
q
q
q
q
qq
q
qqq
q
q
q
q
qq
qq
q
q
q
qqqqq
qq
q
q
q
q
q
q
q
q
qqqqq
q
qqq
qq
q
q
q q
qq
qqq
q
q
q
qqqq
qq
qqqqq
qqqqqqq
qq
qqq
qqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqq
qqq
qqqqqqqqqqqqqqqqqqqqqqq
qqq
qq
qqq
q
qqqq
q
qq
qqq
qqqq
qqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qq
q
q
q
qqqq
q
qqq
qqqqqqqqqqqqq
q
q
q
qqqq
q
q
qqq
qq
qq
qqqqq
q
q
qqqqqq
q
qqq
q
qqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqq
qq
qqq
q
qq
qqq
qq
qq
qq
qqqq
qqqq
qq
qqqqq
qqq
qq
q
q
q
qqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
q
q
q
q
q
q
qqqqqqqqqqqq
qqqqqq
qqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqq
qq
qq
qqqq
qq
qq
qqqqqqq
q
q
qqq
qqq
q
qq
q
q
q
q
qq
q
q
q
q
qq
q
q
q
q
qqq
qq
qq
q
qq
q
qqqqq
q
q
q
qq
qq
qq
q
qq
qq
qq
q
q
q
q
q
qq
qq
q
q q
q
q
q
q
qq
q
q
qq
qq
q
qqqqqq
qq
qq
q
qqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
q
q
q
q
qqq
qq
qq
qq
qqqqq
q
q
q
qq
q
qq
qq
q
qqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqq
qq
qqqqqqqqqqqqqqq
qqqqqqqqqqqqq
qqqq
qq
qqqq
qqqqq
qq
q
q
q
qq
qq qq
q
q
qq
q
q
q
q
qqq
q
qq
q
qqq
q
q
q
qq
q
q
qq
qq
q
q
q
q
q
qqq
qq
qq
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
qq
q
qq
q
q
q
q
q
qq
q
q
qq
qq
q
q
q
q
qq q
qq
q
q
q
q
q
q
q
qq
q
q
q
q
q
qqq
qq
qq
q
q
qq
q
q
q
q
qq
q
q
q
q
q
q
qqq
q
qq
qqqqq
q
q
q
qqq
qq
qq
q
q
qqq
qqqqqq
qqq
q
q
q
q
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqq
qqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqq
qqqqq
qqqq
q
qqqq
qqq
qq
qq
q
q
q
qq
qqqqq
qqq
q
q
qq
q
q
q
q
qqq
qq
qq
qqq
q
qq
q
q
q
qq
qq
q
qq
q
qqqq
qq
q
q
qq
qq
qq
q
q
q
q
q
q
q
q
q
q
qqq
qq
qq
q
q
q
q
q
q
q
q
q
q
qq
q
qq
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
qq
q
qq
q
q
q
q
q
q
q
qq
q
q
q
qq
q
qq
q
q
q
q
qq
qq
q
qqqqqq
qq
qq
q
qqq
q
q
qq
q
qq
q
qqqq
q
q
q
qqq
qq
q
qq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
−20 −10 0 10 20 30 40
−10010203040
q
q
q
q
qq
q
q
q
q
q
qq
qq
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqq
q
qqq
qqq
qq
qqqqqq
q
qqq
qqqq
qqqqqqqqqqqqqqqqqq
qqqq
q
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qq
qqqqq
q
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqq
qqq
qq
qqqqqqq
qqqqqqq
q q
q
q
qq
qqqq
qqq
qqqqqqqqqqqqqqq
qqqqqqqqqqqqqq
qq
q
q
q
qq
qqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqq
q
qqqq
qq
qqqq
qq
q
qqq
q
qq
q
q
q
qqq
qqq
q
q
q
qqqqq
qqqq
qqq
q
qq
q
q
qq q
q q
q
q
q
q
q
qq qq q
q
q q
qq
q
q
qq
q
q
q
q
qq
q
q
q
q
q
q
q
qq
qqqqqq
qqqqqqq
qq
qq
qq
q
q
qqqqq
qqqqqqqqqqqq
qqqqqqqq
qq
qqqqqqqqqqqqqqqqqqqq
qqqq
q
q
qq
qqqqqq
qqqq
q
qqqqqqqq
qqqq
qqq
qqqqq
q
qqqqqqqqqq
q
q
qqq
qqqqq
qqq
qqqqqqq
qq
qqqq
qqqq
q
q
q
q
q
qqq
q
qqq
q
qqq
q
q
q
qq
q
q
q
qq
qqqq
q
qq
q
q
q
q
q
qqq
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
q
qq
qq
q
qq
q
q
q
qq
q
q
q
q
qq
q
qq
qq q
q
q
q
q
q
q
q
q
q
q
q
qq
q
q
q
qqq
q
q
qq
q
q
qqq
qq
q
q
q
q
q
qqq
q
qq
qq
q
q
q
q
q
q
q
q
q
qq
q
qqq
q
q
q
q
qq
qq
q
q
q
qqqqq
qq
q
q
q
q
q
q
q
q
qqqqq
q
qqq
qq
q
q
qq
qq
qqq
q
q
q
qqqq
qq
qqqqq
qqqqqqq
qq
qqq
qqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqq
qqq
qqqqqqqqqqqqqqqqqqqqqqq
qqq
qq
qqq
q
qqqq
q
qq
qqq
qqqq
qqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qq
q
q
q
qqqq
q
qqq
qqqqqqqqqqqqq
q
q
q
qqqq
q
q
qqq
qq
qq
qqqqq
q
q
qqqqqq
q
qqq
q
qqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqq
qq
qqq
q
qq
qqq
qq
qq
qq
qqqq
qqqq
qq
qqqqq
qqq
qq
q
q
q
qqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
q
q
q
q
q
q
qqqqqqqqqqqq
qqqqqq
qqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqq
qq
qq
qqqq
qq
qq
qqqqqqq
q
q
qqq
qqq
q
qq
q
q
q
q
qq
q
q
q
q
q q
q
qq
q
qq q
qq
qq
q
qq
q
qqq qq
q
q
q
qq
qq
qq
q
qq
q q
qq
q
q
q
q
q
q
qqq
q
qq
q
q
q
q
qq
q
q
qq
qq
q
qqqqqq
qq
qq
q
qqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
q
q
q
q
qqq
qq
qq
qq
qqqqq
q
q
q
qq
q
qq
qq
q
qqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqq
qq
qqqqqqqqqqqqqqq
qqqqqqqqqqqqq
qqqq
qq
qqqq
qqqqq
qq
q
q
q
qq
qqqq
q
q
qq
q
q
q
q
qqq
q
q
q
q
qqq
q
q
q
q q
q
q
qq
qq
q
q
q
q
q
qqq
q q
qq
q
q
q
q
q
q
q
q
q
q
q
q
qq
q
qq
q
qq
q
q
q
q
q
qq
q
q
qq
qq
q
q
q
q
qqq
qq
q
q
q
q
q
q
q
q q
q
q
q
q
q
qqq
qq
qq
q
q
qq
q
q
q
q
qq
q
q
qqq
q
qqq
q
qq
qqqqq
q
q
q
qqq
qq
qq
q
q
qqq
qqqqqq
qqq
q
q
q
q
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqq
qqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
qqqqqqq
qqqqq
qqqq
q
qqqq
qqq
qq
qq
q
q
q
qqq
qqqq
qqq
q
q
qq
q
q
q
q
qqq
qq
qq
qqq
q
qq
q
q
q
qq
q q
q
qq
q
qqq q
qq
q
q
qq
qq
qq
q
q
q
qq
q
q
q
q
q
q qq
qq
qq
q
q
q
q
q
q
q
q
q
q
qq
q
qq
qqq
q
q
q
q
q
qq
q
q
q
q
q
q
q
q
qq
q
qq
q
q
q
q
q
q
q
qq
q
q
q
qq
q
qq
q
q
q
q
qq
qq
q
qqqqqq
qq
qq
q
qqq
q
q
qq
q
qq
q
qqqq
q
q
q
qqq
qq
q
qq
qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq
0 20 40 60
−10010203040
23 / 25
keep folding: the origaMCMC
When A0 shows too much variability of π , it can be folded again:
the procedure can be iterated or a more elaborated partition can
be constructed by clustering
cost of unfolding possibly a deterent
over-concentration not an issue with projected proposal
plus other proposals may be included
possible connection with Wang-Landau flat histogram
algorithm, although Jacobian may prevent flatness (and
become a liability)
[Jacob & Ryder, 2014]
24 / 25
keep folding: the origaMCMC
When A0 shows too much variability of π , it can be folded again:
the procedure can be iterated or a more elaborated partition can
be constructed by clustering
cost of unfolding possibly a deterent
over-concentration not an issue with projected proposal
plus other proposals may be included
possible connection with Wang-Landau flat histogram
algorithm, although Jacobian may prevent flatness (and
become a liability)
[Jacob & Ryder, 2014]
24 / 25
further questions
1. Folding increases the acceptance probabilities and improve the
asymptotic covariance. What about achieving geometric
ergodicity?
2. Folding is only possible if folding and unfolding the Markov
chains is not costly. What about a computing time criterion?
3. Domination results are obtained with the kernel induced on
the folded space [black box]. What about selecting more
appropriate [black/white box] folded kernels?
25 / 25
further questions
1. Folding increases the acceptance probabilities and improve the
asymptotic covariance. What about achieving geometric
ergodicity?
2. Folding is only possible if folding and unfolding the Markov
chains is not costly. What about a computing time criterion?
3. Domination results are obtained with the kernel induced on
the folded space [black box]. What about selecting more
appropriate [black/white box] folded kernels?
25 / 25
further questions
1. Folding increases the acceptance probabilities and improve the
asymptotic covariance. What about achieving geometric
ergodicity?
2. Folding is only possible if folding and unfolding the Markov
chains is not costly. What about a computing time criterion?
3. Domination results are obtained with the kernel induced on
the folded space [black box]. What about selecting more
appropriate [black/white box] folded kernels?
25 / 25

More Related Content

What's hot

D belirli integralin-uygulamalari
D belirli integralin-uygulamalariD belirli integralin-uygulamalari
D belirli integralin-uygulamalarimete111
 
8.sayisal turevintegral
8.sayisal turevintegral8.sayisal turevintegral
8.sayisal turevintegral
Ahmet Hurgun
 
Ito Lemmasi
Ito LemmasiIto Lemmasi
Ito Lemmasi
Kutlu MERİH
 
İNTEGRAL UYGULAMALARI
İNTEGRAL UYGULAMALARIİNTEGRAL UYGULAMALARI
İNTEGRAL UYGULAMALARI
matematikcanavari
 
Difuzyon Matematiği
Difuzyon MatematiğiDifuzyon Matematiği
Difuzyon Matematiği
Kutlu MERİH
 
Black-Scholes Matematigi
Black-Scholes MatematigiBlack-Scholes Matematigi
Black-Scholes MatematigiKutlu MERİH
 
Teğet Eğimi -My Matematik - Mustafa Yağcı
Teğet Eğimi -My Matematik - Mustafa YağcıTeğet Eğimi -My Matematik - Mustafa Yağcı
Teğet Eğimi -My Matematik - Mustafa Yağcı
Hsamet Eagle
 
BELİRLİ İNTEGRAL 3
BELİRLİ İNTEGRAL 3BELİRLİ İNTEGRAL 3
BELİRLİ İNTEGRAL 3
matematikcanavari
 
Fonksi̇yonlarin li̇mi̇ti̇ 02
Fonksi̇yonlarin li̇mi̇ti̇ 02Fonksi̇yonlarin li̇mi̇ti̇ 02
Fonksi̇yonlarin li̇mi̇ti̇ 02
matematikcanavari
 
Fonksi̇yonlarin li̇mi̇ti̇ 04
Fonksi̇yonlarin li̇mi̇ti̇ 04Fonksi̇yonlarin li̇mi̇ti̇ 04
Fonksi̇yonlarin li̇mi̇ti̇ 04
matematikcanavari
 
Fonksi̇yonlarin li̇mi̇ti̇ 01
Fonksi̇yonlarin li̇mi̇ti̇ 01Fonksi̇yonlarin li̇mi̇ti̇ 01
Fonksi̇yonlarin li̇mi̇ti̇ 01
matematikcanavari
 
Türev 03
Türev 03Türev 03
Ode Solved Problems
Ode Solved ProblemsOde Solved Problems
Ode Solved Problemsguest5fa0978
 

What's hot (13)

D belirli integralin-uygulamalari
D belirli integralin-uygulamalariD belirli integralin-uygulamalari
D belirli integralin-uygulamalari
 
8.sayisal turevintegral
8.sayisal turevintegral8.sayisal turevintegral
8.sayisal turevintegral
 
Ito Lemmasi
Ito LemmasiIto Lemmasi
Ito Lemmasi
 
İNTEGRAL UYGULAMALARI
İNTEGRAL UYGULAMALARIİNTEGRAL UYGULAMALARI
İNTEGRAL UYGULAMALARI
 
Difuzyon Matematiği
Difuzyon MatematiğiDifuzyon Matematiği
Difuzyon Matematiği
 
Black-Scholes Matematigi
Black-Scholes MatematigiBlack-Scholes Matematigi
Black-Scholes Matematigi
 
Teğet Eğimi -My Matematik - Mustafa Yağcı
Teğet Eğimi -My Matematik - Mustafa YağcıTeğet Eğimi -My Matematik - Mustafa Yağcı
Teğet Eğimi -My Matematik - Mustafa Yağcı
 
BELİRLİ İNTEGRAL 3
BELİRLİ İNTEGRAL 3BELİRLİ İNTEGRAL 3
BELİRLİ İNTEGRAL 3
 
Fonksi̇yonlarin li̇mi̇ti̇ 02
Fonksi̇yonlarin li̇mi̇ti̇ 02Fonksi̇yonlarin li̇mi̇ti̇ 02
Fonksi̇yonlarin li̇mi̇ti̇ 02
 
Fonksi̇yonlarin li̇mi̇ti̇ 04
Fonksi̇yonlarin li̇mi̇ti̇ 04Fonksi̇yonlarin li̇mi̇ti̇ 04
Fonksi̇yonlarin li̇mi̇ti̇ 04
 
Fonksi̇yonlarin li̇mi̇ti̇ 01
Fonksi̇yonlarin li̇mi̇ti̇ 01Fonksi̇yonlarin li̇mi̇ti̇ 01
Fonksi̇yonlarin li̇mi̇ti̇ 01
 
Türev 03
Türev 03Türev 03
Türev 03
 
Ode Solved Problems
Ode Solved ProblemsOde Solved Problems
Ode Solved Problems
 

Viewers also liked

Can we estimate a constant?
Can we estimate a constant?Can we estimate a constant?
Can we estimate a constant?
Christian Robert
 
Simulation (AMSI Public Lecture)
Simulation (AMSI Public Lecture)Simulation (AMSI Public Lecture)
Simulation (AMSI Public Lecture)
Christian Robert
 
Phylogenetic models and MCMC methods for the reconstruction of language history
Phylogenetic models and MCMC methods for the reconstruction of language historyPhylogenetic models and MCMC methods for the reconstruction of language history
Phylogenetic models and MCMC methods for the reconstruction of language history
Robin Ryder
 
Omiros' talk on the Bernoulli factory problem
Omiros' talk on the  Bernoulli factory problemOmiros' talk on the  Bernoulli factory problem
Omiros' talk on the Bernoulli factory problem
BigMC
 
Statistics (1): estimation, Chapter 2: Empirical distribution and bootstrap
Statistics (1): estimation, Chapter 2: Empirical distribution and bootstrapStatistics (1): estimation, Chapter 2: Empirical distribution and bootstrap
Statistics (1): estimation, Chapter 2: Empirical distribution and bootstrap
Christian Robert
 
ISBA 2016: Foundations
ISBA 2016: FoundationsISBA 2016: Foundations
ISBA 2016: Foundations
Christian Robert
 
ABC and empirical likelihood
ABC and empirical likelihoodABC and empirical likelihood
ABC and empirical likelihood
Christian Robert
 
ABC short course: model choice chapter
ABC short course: model choice chapterABC short course: model choice chapter
ABC short course: model choice chapter
Christian Robert
 
Statistics symposium talk, Harvard University
Statistics symposium talk, Harvard UniversityStatistics symposium talk, Harvard University
Statistics symposium talk, Harvard University
Christian Robert
 
Approximate Bayesian model choice via random forests
Approximate Bayesian model choice via random forestsApproximate Bayesian model choice via random forests
Approximate Bayesian model choice via random forests
Christian Robert
 
Monte carlo
Monte carloMonte carlo
Monte carlo
IIBM
 
ABC short course: survey chapter
ABC short course: survey chapterABC short course: survey chapter
ABC short course: survey chapter
Christian Robert
 
ABC short course: introduction chapters
ABC short course: introduction chaptersABC short course: introduction chapters
ABC short course: introduction chapters
Christian Robert
 
Uniform and non-uniform pseudo random numbers generators for high dimensional...
Uniform and non-uniform pseudo random numbers generators for high dimensional...Uniform and non-uniform pseudo random numbers generators for high dimensional...
Uniform and non-uniform pseudo random numbers generators for high dimensional...
LEBRUN Régis
 
ABC short course: final chapters
ABC short course: final chaptersABC short course: final chapters
ABC short course: final chapters
Christian Robert
 
Introduction to MCMC methods
Introduction to MCMC methodsIntroduction to MCMC methods
Introduction to MCMC methods
Christian Robert
 
Introducing Monte Carlo Methods with R
Introducing Monte Carlo Methods with RIntroducing Monte Carlo Methods with R
Introducing Monte Carlo Methods with R
Christian Robert
 
Monte Carlo Statistical Methods
Monte Carlo Statistical MethodsMonte Carlo Statistical Methods
Monte Carlo Statistical Methods
Christian Robert
 
Monte carlo
Monte carloMonte carlo
Monte carlo
shishirkawde
 
Monte carlo simulation
Monte carlo simulationMonte carlo simulation
Monte carlo simulation
MissAnam
 

Viewers also liked (20)

Can we estimate a constant?
Can we estimate a constant?Can we estimate a constant?
Can we estimate a constant?
 
Simulation (AMSI Public Lecture)
Simulation (AMSI Public Lecture)Simulation (AMSI Public Lecture)
Simulation (AMSI Public Lecture)
 
Phylogenetic models and MCMC methods for the reconstruction of language history
Phylogenetic models and MCMC methods for the reconstruction of language historyPhylogenetic models and MCMC methods for the reconstruction of language history
Phylogenetic models and MCMC methods for the reconstruction of language history
 
Omiros' talk on the Bernoulli factory problem
Omiros' talk on the  Bernoulli factory problemOmiros' talk on the  Bernoulli factory problem
Omiros' talk on the Bernoulli factory problem
 
Statistics (1): estimation, Chapter 2: Empirical distribution and bootstrap
Statistics (1): estimation, Chapter 2: Empirical distribution and bootstrapStatistics (1): estimation, Chapter 2: Empirical distribution and bootstrap
Statistics (1): estimation, Chapter 2: Empirical distribution and bootstrap
 
ISBA 2016: Foundations
ISBA 2016: FoundationsISBA 2016: Foundations
ISBA 2016: Foundations
 
ABC and empirical likelihood
ABC and empirical likelihoodABC and empirical likelihood
ABC and empirical likelihood
 
ABC short course: model choice chapter
ABC short course: model choice chapterABC short course: model choice chapter
ABC short course: model choice chapter
 
Statistics symposium talk, Harvard University
Statistics symposium talk, Harvard UniversityStatistics symposium talk, Harvard University
Statistics symposium talk, Harvard University
 
Approximate Bayesian model choice via random forests
Approximate Bayesian model choice via random forestsApproximate Bayesian model choice via random forests
Approximate Bayesian model choice via random forests
 
Monte carlo
Monte carloMonte carlo
Monte carlo
 
ABC short course: survey chapter
ABC short course: survey chapterABC short course: survey chapter
ABC short course: survey chapter
 
ABC short course: introduction chapters
ABC short course: introduction chaptersABC short course: introduction chapters
ABC short course: introduction chapters
 
Uniform and non-uniform pseudo random numbers generators for high dimensional...
Uniform and non-uniform pseudo random numbers generators for high dimensional...Uniform and non-uniform pseudo random numbers generators for high dimensional...
Uniform and non-uniform pseudo random numbers generators for high dimensional...
 
ABC short course: final chapters
ABC short course: final chaptersABC short course: final chapters
ABC short course: final chapters
 
Introduction to MCMC methods
Introduction to MCMC methodsIntroduction to MCMC methods
Introduction to MCMC methods
 
Introducing Monte Carlo Methods with R
Introducing Monte Carlo Methods with RIntroducing Monte Carlo Methods with R
Introducing Monte Carlo Methods with R
 
Monte Carlo Statistical Methods
Monte Carlo Statistical MethodsMonte Carlo Statistical Methods
Monte Carlo Statistical Methods
 
Monte carlo
Monte carloMonte carlo
Monte carlo
 
Monte carlo simulation
Monte carlo simulationMonte carlo simulation
Monte carlo simulation
 

Similar to folding Markov chains: the origaMCMC

Self Potansiyel Yöntemi(Düz çözüm/ters çözüm)
Self Potansiyel Yöntemi(Düz çözüm/ters çözüm)Self Potansiyel Yöntemi(Düz çözüm/ters çözüm)
Self Potansiyel Yöntemi(Düz çözüm/ters çözüm)
Şarlatan Avcısı
 
Özel tanımlı fonksi̇yonlar 02
Özel tanımlı fonksi̇yonlar 02Özel tanımlı fonksi̇yonlar 02
Özel tanımlı fonksi̇yonlar 02
matematikcanavari
 
31.10.2023.ppt
31.10.2023.ppt31.10.2023.ppt
31.10.2023.ppt
brahimBulduk
 
TÜREVİN UYGULAMALARI 04
TÜREVİN UYGULAMALARI 04TÜREVİN UYGULAMALARI 04
TÜREVİN UYGULAMALARI 04
matematikcanavari
 
Fonksi̇yonlarin grafi̇kleri̇ 01
Fonksi̇yonlarin grafi̇kleri̇ 01Fonksi̇yonlarin grafi̇kleri̇ 01
Fonksi̇yonlarin grafi̇kleri̇ 01
matematikcanavari
 
POLİNOMLAR
POLİNOMLARPOLİNOMLAR
POLİNOMLAR
matematikcanavari
 
Özel tanımlı fonksi̇yonlar 01
Özel tanımlı fonksi̇yonlar 01Özel tanımlı fonksi̇yonlar 01
Özel tanımlı fonksi̇yonlar 01
matematikcanavari
 
İşlem ve modüler ari̇tmeti̇k 1
İşlem ve modüler ari̇tmeti̇k 1İşlem ve modüler ari̇tmeti̇k 1
İşlem ve modüler ari̇tmeti̇k 1
matematikcanavari
 

Similar to folding Markov chains: the origaMCMC (16)

Türev 04
Türev 04Türev 04
Türev 04
 
Türev 02
Türev 02Türev 02
Türev 02
 
Türev 06
Türev 06Türev 06
Türev 06
 
Self Potansiyel Yöntemi(Düz çözüm/ters çözüm)
Self Potansiyel Yöntemi(Düz çözüm/ters çözüm)Self Potansiyel Yöntemi(Düz çözüm/ters çözüm)
Self Potansiyel Yöntemi(Düz çözüm/ters çözüm)
 
Özel tanımlı fonksi̇yonlar 02
Özel tanımlı fonksi̇yonlar 02Özel tanımlı fonksi̇yonlar 02
Özel tanımlı fonksi̇yonlar 02
 
Türev 07
Türev 07Türev 07
Türev 07
 
31.10.2023.ppt
31.10.2023.ppt31.10.2023.ppt
31.10.2023.ppt
 
TÜREVİN UYGULAMALARI 04
TÜREVİN UYGULAMALARI 04TÜREVİN UYGULAMALARI 04
TÜREVİN UYGULAMALARI 04
 
Fonksi̇yonlarin grafi̇kleri̇ 01
Fonksi̇yonlarin grafi̇kleri̇ 01Fonksi̇yonlarin grafi̇kleri̇ 01
Fonksi̇yonlarin grafi̇kleri̇ 01
 
POLİNOMLAR
POLİNOMLARPOLİNOMLAR
POLİNOMLAR
 
Türev 05
Türev 05Türev 05
Türev 05
 
Özel tanımlı fonksi̇yonlar 01
Özel tanımlı fonksi̇yonlar 01Özel tanımlı fonksi̇yonlar 01
Özel tanımlı fonksi̇yonlar 01
 
Birinciderece
BirincidereceBirinciderece
Birinciderece
 
İşlem ve modüler ari̇tmeti̇k 1
İşlem ve modüler ari̇tmeti̇k 1İşlem ve modüler ari̇tmeti̇k 1
İşlem ve modüler ari̇tmeti̇k 1
 
Halil Arıkan
Halil ArıkanHalil Arıkan
Halil Arıkan
 
Polinomlar
PolinomlarPolinomlar
Polinomlar
 

More from Christian Robert

Adaptive Restore algorithm & importance Monte Carlo
Adaptive Restore algorithm & importance Monte CarloAdaptive Restore algorithm & importance Monte Carlo
Adaptive Restore algorithm & importance Monte Carlo
Christian Robert
 
Asymptotics of ABC, lecture, Collège de France
Asymptotics of ABC, lecture, Collège de FranceAsymptotics of ABC, lecture, Collège de France
Asymptotics of ABC, lecture, Collège de France
Christian Robert
 
Workshop in honour of Don Poskitt and Gael Martin
Workshop in honour of Don Poskitt and Gael MartinWorkshop in honour of Don Poskitt and Gael Martin
Workshop in honour of Don Poskitt and Gael Martin
Christian Robert
 
discussion of ICML23.pdf
discussion of ICML23.pdfdiscussion of ICML23.pdf
discussion of ICML23.pdf
Christian Robert
 
How many components in a mixture?
How many components in a mixture?How many components in a mixture?
How many components in a mixture?
Christian Robert
 
restore.pdf
restore.pdfrestore.pdf
restore.pdf
Christian Robert
 
Testing for mixtures at BNP 13
Testing for mixtures at BNP 13Testing for mixtures at BNP 13
Testing for mixtures at BNP 13
Christian Robert
 
Inferring the number of components: dream or reality?
Inferring the number of components: dream or reality?Inferring the number of components: dream or reality?
Inferring the number of components: dream or reality?
Christian Robert
 
CDT 22 slides.pdf
CDT 22 slides.pdfCDT 22 slides.pdf
CDT 22 slides.pdf
Christian Robert
 
Testing for mixtures by seeking components
Testing for mixtures by seeking componentsTesting for mixtures by seeking components
Testing for mixtures by seeking components
Christian Robert
 
discussion on Bayesian restricted likelihood
discussion on Bayesian restricted likelihooddiscussion on Bayesian restricted likelihood
discussion on Bayesian restricted likelihood
Christian Robert
 
NCE, GANs & VAEs (and maybe BAC)
NCE, GANs & VAEs (and maybe BAC)NCE, GANs & VAEs (and maybe BAC)
NCE, GANs & VAEs (and maybe BAC)
Christian Robert
 
ABC-Gibbs
ABC-GibbsABC-Gibbs
ABC-Gibbs
Christian Robert
 
Coordinate sampler : A non-reversible Gibbs-like sampler
Coordinate sampler : A non-reversible Gibbs-like samplerCoordinate sampler : A non-reversible Gibbs-like sampler
Coordinate sampler : A non-reversible Gibbs-like sampler
Christian Robert
 
eugenics and statistics
eugenics and statisticseugenics and statistics
eugenics and statistics
Christian Robert
 
Laplace's Demon: seminar #1
Laplace's Demon: seminar #1Laplace's Demon: seminar #1
Laplace's Demon: seminar #1
Christian Robert
 
ABC-Gibbs
ABC-GibbsABC-Gibbs
ABC-Gibbs
Christian Robert
 
asymptotics of ABC
asymptotics of ABCasymptotics of ABC
asymptotics of ABC
Christian Robert
 
ABC-Gibbs
ABC-GibbsABC-Gibbs
ABC-Gibbs
Christian Robert
 
Likelihood-free Design: a discussion
Likelihood-free Design: a discussionLikelihood-free Design: a discussion
Likelihood-free Design: a discussion
Christian Robert
 

More from Christian Robert (20)

Adaptive Restore algorithm & importance Monte Carlo
Adaptive Restore algorithm & importance Monte CarloAdaptive Restore algorithm & importance Monte Carlo
Adaptive Restore algorithm & importance Monte Carlo
 
Asymptotics of ABC, lecture, Collège de France
Asymptotics of ABC, lecture, Collège de FranceAsymptotics of ABC, lecture, Collège de France
Asymptotics of ABC, lecture, Collège de France
 
Workshop in honour of Don Poskitt and Gael Martin
Workshop in honour of Don Poskitt and Gael MartinWorkshop in honour of Don Poskitt and Gael Martin
Workshop in honour of Don Poskitt and Gael Martin
 
discussion of ICML23.pdf
discussion of ICML23.pdfdiscussion of ICML23.pdf
discussion of ICML23.pdf
 
How many components in a mixture?
How many components in a mixture?How many components in a mixture?
How many components in a mixture?
 
restore.pdf
restore.pdfrestore.pdf
restore.pdf
 
Testing for mixtures at BNP 13
Testing for mixtures at BNP 13Testing for mixtures at BNP 13
Testing for mixtures at BNP 13
 
Inferring the number of components: dream or reality?
Inferring the number of components: dream or reality?Inferring the number of components: dream or reality?
Inferring the number of components: dream or reality?
 
CDT 22 slides.pdf
CDT 22 slides.pdfCDT 22 slides.pdf
CDT 22 slides.pdf
 
Testing for mixtures by seeking components
Testing for mixtures by seeking componentsTesting for mixtures by seeking components
Testing for mixtures by seeking components
 
discussion on Bayesian restricted likelihood
discussion on Bayesian restricted likelihooddiscussion on Bayesian restricted likelihood
discussion on Bayesian restricted likelihood
 
NCE, GANs & VAEs (and maybe BAC)
NCE, GANs & VAEs (and maybe BAC)NCE, GANs & VAEs (and maybe BAC)
NCE, GANs & VAEs (and maybe BAC)
 
ABC-Gibbs
ABC-GibbsABC-Gibbs
ABC-Gibbs
 
Coordinate sampler : A non-reversible Gibbs-like sampler
Coordinate sampler : A non-reversible Gibbs-like samplerCoordinate sampler : A non-reversible Gibbs-like sampler
Coordinate sampler : A non-reversible Gibbs-like sampler
 
eugenics and statistics
eugenics and statisticseugenics and statistics
eugenics and statistics
 
Laplace's Demon: seminar #1
Laplace's Demon: seminar #1Laplace's Demon: seminar #1
Laplace's Demon: seminar #1
 
ABC-Gibbs
ABC-GibbsABC-Gibbs
ABC-Gibbs
 
asymptotics of ABC
asymptotics of ABCasymptotics of ABC
asymptotics of ABC
 
ABC-Gibbs
ABC-GibbsABC-Gibbs
ABC-Gibbs
 
Likelihood-free Design: a discussion
Likelihood-free Design: a discussionLikelihood-free Design: a discussion
Likelihood-free Design: a discussion
 

folding Markov chains: the origaMCMC

  • 1. Folding Markov chains: the origaMCMC Christian P. Robert Universit´e Paris-Dauphine PSL and University of Warwick bayesianstatistics@gmail.com Joint on-goin’ work with R. Douc and G. Roberts 1 / 25
  • 2. Outline Introduction Motivating example Folding the Markov chain Convergence Improving the acceptance rate Asymptotic variance Practicals [under development] 2 / 25
  • 3. Introduction Introduction Motivating example Folding the Markov chain Convergence Practicals [under development] 3 / 25
  • 4. motivating example Consider the target π(x) = 1 (1 + x2)π standard Cauchy distribution Basic Metropolis-Hastings algorithm with uniform proposal zt ∼ U(xt − , xt + ) cannot be geometrically ergodic [Mengersen and Tweedie (1996)] −8 −6 −4 −2 0 0200040006000800010000 x t Dynamics of a standard random-walk Metropolis–Hastings algorithm when targeting a Cauchy distribution, based on 104 iterations and a uniform scale of ε = .1. 4 / 25
  • 5. motivating example Consider the target π(x) = 1 (1 + x2)π standard Cauchy distribution Basic Metropolis-Hastings algorithm with uniform proposal zt ∼ U(xt − , xt + ) cannot be geometrically ergodic [Mengersen and Tweedie (1996)] −8 −6 −4 −2 0 0200040006000800010000 x t Dynamics of a standard random-walk Metropolis–Hastings algorithm when targeting a Cauchy distribution, based on 104 iterations and a uniform scale of ε = .1. 4 / 25
  • 6. new proposal Metropolis-Hastings alternative: 1. the current value xt of the Markov chain is first inverted into yt = 1/xt if found outside (−1, 1), 2. then moved by a random walk on (−1, 1) to zt ∼ U(yt − , yt + ), which value is accepted or not according to the standard Metropolis-Hastings ratio, 3. and outcome inverted into xt+1 = 1/yt+1 with probability 1/2 simple version of the folding algorithm, with folding set the unit interval (−1, 1) 5 / 25
  • 7. new proposal Metropolis-Hastings alternative: 1. the current value xt of the Markov chain is first inverted into yt = 1/xt if found outside (−1, 1), 2. then moved by a random walk on (−1, 1) to zt ∼ U(yt − , yt + ), which value is accepted or not according to the standard Metropolis-Hastings ratio, 3. and outcome inverted into xt+1 = 1/yt+1 with probability 1/2 simple version of the folding algorithm, with folding set the unit interval (−1, 1) 5 / 25
  • 8. new proposal Metropolis-Hastings alternative: 1. the current value xt of the Markov chain is first inverted into yt = 1/xt if found outside (−1, 1), 2. then moved by a random walk on (−1, 1) to zt ∼ U(yt − , yt + ), which value is accepted or not according to the standard Metropolis-Hastings ratio, 3. and outcome inverted into xt+1 = 1/yt+1 with probability 1/2 simple version of the folding algorithm, with folding set the unit interval (−1, 1) 5 / 25
  • 9. validation simple version of the folding algorithm, with folding set the unit interval (−1, 1) Cauchy target still stationary for this distribution probability 1/2 resulting from Jacobian rather than from P(|X| < 1) = 1/2 not-so-simple [but still-manageable] probabilty if chosing folding interval (−2, 2) and inversion yt = 4/xt fundamental reason is that Cauchy is invariant by inversion resulting Markov chain is uniformly ergodic 6 / 25
  • 10. validation simple version of the folding algorithm, with folding set the unit interval (−1, 1) Cauchy target still stationary for this distribution probability 1/2 resulting from Jacobian rather than from P(|X| < 1) = 1/2 not-so-simple [but still-manageable] probabilty if chosing folding interval (−2, 2) and inversion yt = 4/xt fundamental reason is that Cauchy is invariant by inversion resulting Markov chain is uniformly ergodic 6 / 25
  • 11. simulation outcome −4 −2 0 2 4 02000400060008000 x t x Density −20 −10 0 10 20 0.000.050.100.150.200.25 Figure : (Left) Folded Markov chain for Cauchy target with same scale of the random walk. (Right) Empirical distribution of the Markov chain and fit to the Cauchy target 7 / 25
  • 12. folding the Markov chain Consider target π on state space X Let A0, A1, . . . , AM be a finite partition of the state space and create differentiable bijections g1, . . . , gM from A0 to A1, . . . , AM, respectively. Set X = A0 as the folded space Define the distribution π (x ) = π(x ) + π(g1x ) |dx g1 (x )| + . . . + π(gMx ) |dx gM (x )| on X c π (·) is a proper density on X 8 / 25
  • 13. folding the Markov chain Consider target π on state space X Let A0, A1, . . . , AM be a finite partition of the state space and create differentiable bijections g1, . . . , gM from A0 to A1, . . . , AM, respectively. Set X = A0 as the folded space Define the distribution π (x ) = π(x ) + π(g1x ) |dx g1 (x )| + . . . + π(gMx ) |dx gM (x )| on X c π (·) is a proper density on X 8 / 25
  • 14. unfolding the folded Markov chain Simulating from π is equivalent to simulating from π: Lemma If x ∼ π , then x =    x with probability π(x )/π (x ) g1x with probability π(g1x ) |dx g1 (x )| /π (x ) · · · gMx with probability π(gMx ) |dx gM (x )| /π (x ) is distributed from the target π. c build MCMC sampler aiming at π 9 / 25
  • 15. unfolding the folded Markov chain Simulating from π is equivalent to simulating from π: Lemma If x ∼ π , then x =    x with probability π(x )/π (x ) g1x with probability π(g1x ) |dx g1 (x )| /π (x ) · · · gMx with probability π(gMx ) |dx gM (x )| /π (x ) is distributed from the target π. c build MCMC sampler aiming at π 9 / 25
  • 16. Cauchy example validated For the Cauchy example: A0 = (−1, 1), A1 = (−1, 1)c, g1x = 1/x and π (x) = π(x ) + π(g1x ) |dx g1 (x )| = 1 (1 + x2)π + 1 (1 + 1/x2)π 1 x2 = 2 (1 + x2)π unfolding by x = x w.p. 1/2 1/x w.p. 1/2 10 / 25
  • 17. Cauchy example validated For the alternative A0 = (−2, 2), A1 = (−2, 2)c, g1x = 4/x and π (x) = π(x ) + π(g1x ) |dx g1 (x )| = 1 (1 + x2)π + 1 (1 + 4/x2)π 4 x2 = 1 (1 + x2)π + 4 (4 + x2)π unfolding by x = x w.p. π(x )/π (x ) 1/x w.p. 4π(4/x )/(x )2π (x ) 10 / 25
  • 18. Convergence Introduction Convergence Improving the acceptance rate Asymptotic variance Practicals [under development] 11 / 25
  • 19. improving the acceptance rate Define folded transition kernel, K (x , dy ) as k (x , y ) = M i=0 π(gi x ) |dx gi (x )| π (x ) M j=0 k(gi x , gj y ) |dx gj (y )| Kernel considers all possible images in original space X and brings them into the folded space X (1) k X ,(1) k X (1) k+1 X ,(1) k+1 Q Q H K, π 12 / 25
  • 20. improving the acceptance rate Define folded transition kernel, K (x , dy ) as k (x , y ) = M i=0 π(gi x ) |dx gi (x )| π (x ) M j=0 k(gi x , gj y ) |dx gj (y )| Kernel considers all possible images in original space X and brings them into the folded space X (0) k X ,(0) k X (0) k+1 X ,(0) k+1 Q Q H Q KQ, π 12 / 25
  • 21. improving the acceptance rate Define folded transition kernel, K (x , dy ) as k (x , y ) = M i=0 π(gi x ) |dx gi (x )| π (x ) M j=0 k(gi x , gj y ) |dx gj (y )| Proposition If α(x, y), resp. α (x , y ), is Metropolis–Hasting acceptance probability for the original, resp. folded, proposal kernel K then E[α (X , Y )] ≥ E[α(X, Y )] when expectations computed under respective stationary distributions, π (x )K (x , y ) and π(x)K(x, y) 12 / 25
  • 22. asymptotic variance Given (X, X) and (X , X ), define the folding mapping ϕ : X → X and write Q(x, dx ) = δϕ(x)(dx ) X (1) k X ,(1) k X (1) k+1 X ,(1) k+1 Q Q H K, π 13 / 25
  • 23. asymptotic variance Given (X, X) and (X , X ), define the folding mapping ϕ : X → X and write Q(x, dx ) = δϕ(x)(dx ) For π target probability on (X, X), set π = π ◦ ϕ−1 and define kernel Q on X × X by π(dx)Q(x, dx ) = π (dx )Q (x , dx) X (1) k X ,(1) k X (1) k+1 X ,(1) k+1 Q Q H K, π X (0) k X ,(0) k X (0) k+1 X ,(0) k+1 Q Q H Q KQ, π 13 / 25
  • 24. asymptotic variance Given (X, X) and (X , X ), define the folding mapping ϕ : X → X and write Q(x, dx ) = δϕ(x)(dx ) set π = π ◦ ϕ−1 and define kernel Q on X × X by π(dx)Q(x, dx ) = π (dx )Q (x , dx) Lemma for all (f , g) ∈ L2(π) × L2(π ), f ; Qg π = Q f ; g π where f ; g µ = µ(fg) If K is π-reversible, then, Q KQ is π -reversible, since f ; Q KQg π = Qf ; KQg π = KQf ; Qg π = Q KQf ; g π 13 / 25
  • 25. comparing two π-reversible Markov chains Let P0 and P1 be two π-reversible Markov kernels. easy-to-check conditions on P0 and P1 ensuring that for all f in some ”class of functions”, v(f , P0) ≥ v(f , P1) where we have defined, for a Markov chain (X() k)k∈N with π-reversible transition kernel P and initial distribution π, v(f , P) := lim n→∞ 1 n Var n−1 k=0 f (Xk) = lim n→∞ √ nVarˆπn(f ) 14 / 25
  • 26. two notions Definition 1. P1 dominates P0 on the off-diagonal, i.e. P1 P0, if ∀(x, A), P1(x, A {x}) ≥ P0(x, A {x}) . 2. P1 dominates P0 in the covariance ordering, i.e. P1 P0, if ∀f ∈ L2 (π), f ; P1f π ≤ f ; P0f π where f ; g π = π(dx)f (x)g(x). Theorem P1 P0 ⇒ P1 P0 ⇒ v(f , P0) ≥ v(f , P1) ∀f ∈ L2(π) . [Peskun (1973) and Tierney (1998)] 15 / 25
  • 27. two notions Definition 1. P1 dominates P0 on the off-diagonal, i.e. P1 P0, if ∀(x, A), P1(x, A {x}) ≥ P0(x, A {x}) . 2. P1 dominates P0 in the covariance ordering, i.e. P1 P0, if ∀f ∈ L2 (π), f ; P1f π ≤ f ; P0f π where f ; g π = π(dx)f (x)g(x). Theorem P1 P0 ⇒ P1 P0 ⇒ v(f , P0) ≥ v(f , P1) ∀f ∈ L2(π) . [Peskun (1973) and Tierney (1998)] 15 / 25
  • 28. two notions Definition 1. P1 dominates P0 on the off-diagonal, i.e. P1 P0, if ∀(x, A), P1(x, A {x}) ≥ P0(x, A {x}) . 2. P1 dominates P0 in the covariance ordering, i.e. P1 P0, if ∀f ∈ L2 (π), f ; P1f π ≤ f ; P0f π where f ; g π = π(dx)f (x)g(x). Theorem P1 P0 ⇒ P1 P0 ⇒ v(f , P0) ≥ v(f , P1) ∀f ∈ L2(π) . [Peskun (1973) and Tierney (1998)] 15 / 25
  • 29. induced kernel Given a proposition kernel K and the target distribution π, write H K, π the Metropolis-Hastings kernel defined by: H K, π (x, A {x}) = K(x, dy)α(x, y)IA{x}(y) where    α(x, y) = 1 ∧ r(x, y) r(x, y) = dµ dν (x, y) µ(dxdy) = π(dy)K(y, dx) ν(dxdy) = π(dx)K(x, dy) 16 / 25
  • 30. two approximate expectations 1. Let {X (1) k } a Markov chain of transition kernel H K, π . The Rao-Blackwellised approximation is defined by ˆπ (1) n (h) = 1 n n k=1 QQ h(X (1) k ) (1) 2. Let {X ,(0) k } a Markov chain of transition kernel H Q KQ, π and consider the Rao-Blackwellised approximation ˆπ (0) n (h) = 1 n n k=1 Q h(X ,(0) k ) (2) 17 / 25
  • 31. two approximate expectations 1. Let {X (1) k } a Markov chain of transition kernel H K, π . The Rao-Blackwellised approximation is defined by ˆπ (1) n (h) = 1 n n k=1 QQ h(X (1) k ) (1) 2. Let {X ,(0) k } a Markov chain of transition kernel H Q KQ, π and consider the Rao-Blackwellised approximation ˆπ (0) n (h) = 1 n n k=1 Q h(X ,(0) k ) (2) 17 / 25
  • 32. comparison Theorem For h real-valued measurable function on (X, X) such that πh2 < ∞ and {X (1) k , k ∈ N} Markov chain with kernel H K, π starting from π {X ,(0) k , k ∈ N} Markov chain with kernel H Q KQ, π starting from π Then, lim n→∞ nVar(ˆπ (0) n (h)) ≤ lim n→∞ nVar(ˆπ (1) n (h)) with ˆπ (0) n (h) and ˆπ (1) n (h) defined in (2) and (1) 18 / 25
  • 33. comparison Theorem For h real-valued measurable function on (X, X) such that πh2 < ∞ and {X (1) k , k ∈ N} Markov chain with kernel H K, π starting from π {X ,(0) k , k ∈ N} Markov chain with kernel H Q KQ, π starting from π Then, lim n→∞ nVar(ˆπ (0) n (h)) ≤ lim n→∞ nVar(ˆπ (1) n (h)) with ˆπ (0) n (h) and ˆπ (1) n (h) defined in (2) and (1) 18 / 25
  • 35. folding set Unless target distribution simple enough for informed choice, natural choice for A0 is HPD region Hα = {x ∈ X; π(x) ≥ α} as π [and hence π] lower bounded on Hα resulting Hα compact some transition kernels produce uniform ergodic chains partition of X into A0, Ac 0 with natural stereoscopic projection [provided A0 star-convex] g1(x ) = 2 |x |2 x 20 / 25
  • 36. practical implementation While Hα usually unavailable, approximations can be found from preliminary MCMC runs when π(x) or unnormalised version of it can be computed preliminary run produces simulations with [relative] values of π, π(x1), . . . , π(xN) derivation of higher density values [and potential clustering] choice of an HPD approximation as ball and g1 as natural projection reevaluation of the folding set after further simulations note: black box compatibility with MCMC code 21 / 25
  • 37. practical implementation While Hα usually unavailable, approximations can be found from preliminary MCMC runs when π(x) or unnormalised version of it can be computed preliminary run produces simulations with [relative] values of π, π(x1), . . . , π(xN) derivation of higher density values [and potential clustering] choice of an HPD approximation as ball and g1 as natural projection reevaluation of the folding set after further simulations note: black box compatibility with MCMC code 21 / 25
  • 38. Cauchy illustration preliminary run produces simulations with values of π(x) derivation of higher density values and clustering q q qq q q q q q q q qq q q q q q q qq q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q qq q q q q q qq q q q q q q q q q q qq q q q qq q q qq q q q q q q q q q q q q q q q qqq qqq q q q q qq qq q q q q q qq q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q qq q q qq q q q q qq q q qq q q qq q q q q q q qq q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q qq q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qqq qq q qq q q q qq q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q qq q q qq q q q q q q qq q q q q q q q q q q q q q q q q q q qq q qq q q q q q q q q q q q q q q q q q q q q qq qq q q q q q q q q q qq qq q q q q q q q q q q q q qq q q q q q q q q q q q q qq q q q q q q qq q q qq q q qq q q q q q q q qq q q q qq q q q q q q q q q q q q q q q q q qq q q q q q q q q q q qqqq q q q q qq q q q q q qq q q q q q q q q q q q qq q q q q q q q q q q qq q q q q q q q q q q q q q q q q qq q q q q q q q q qqqq q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q qq qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q qq q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q qqq q q q q q q q q q q q q q q q q q qq q q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q qq q q qq q q qq q q q q q q q q q q q q q q q q q q q q q q q q qq q qq q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q qq q q qq q q q q q q q q q q q q qq qq qq q qq qq qq q q q q q q qq q q q q q q q q q q q q qq q q q q q q q qq q q q q q q qq q q q q q q qqq −1.5 −1.0 −0.5 0.0 0.100.150.200.250.30 x π(x) 22 / 25
  • 39. Cauchy illustration preliminary run produces simulations with values of π(x) derivation of higher density values and clustering choice of an HPD approximation as ball and g1 as natural projection potential reevaluation of the folding set after further simulations x Density −0.6 −0.4 −0.2 0.0 0.2 0.00.51.01.52.0 22 / 25
  • 40. Cauchy illustration preliminary run produces simulations with values of π(x) derivation of higher density values and clustering q q qqq q q q qqq q q qqq q q q q qq q q q qq q q qq q q q q q qq q q q q qqq q q q q qq q q q q qqq qq qq q qq q qq q qq q q q q q q qq qq q q q q qq q q qq qq q q q qq q q qq q q q q q q q q q q q qq q q q q q q q q q q q q q qq q qq q qq q q q q q q q q q qqq q q q q q q q q q qq q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq qqq qqq q qq q q q qqq qqq qq q q q q q q q qqq q q q q q q q q q q q q q q qq q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q qq qq qq q q q q q q qq qq qq q q q q q q q qqq q q qq q q q q q q q q q q q q q q q qq q q q q qq q q q q q q q q q q q qqq q q q q q q q q q q q q q q q qq q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qqq q q q q q q q q qq q q q q q q q q q q q qq qq q q q qq q qq q q q q q q q q q q q qq q q q q q q q q q q q q q q qq q q q q q qq q q q q q q qq q qq q q q q q q q q q qqq q q q qq q qq q q q q q q q qq q q q q q q q q q q q q qq q q q q q qqq q q q q qq q q q q q q q q q q qq q q q qq q q q q q q q qq q qq qq q q q qq q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q qq q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q qq q q q q q q qq q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q qq qq qq q q q q q qq q q qq q q q q q q q q qq q q q q q q qq q q q q q q q qq q q q qq q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q qq q q qqq qq q q q q q q q q q q q q qq qq q q q q q q q q q q q qq qq q qq q q q q q q q q qq q q q q q q q q q q qq q q q q q q q q qq q q qq qq q q q qq q q q qq q q q q q q q q 1.0 1.5 2.0 2.5 0.050.100.150.20 x π(x) 22 / 25
  • 41. Cauchy illustration preliminary run produces simulations with values of π(x) derivation of higher density values and clustering choice of an HPD approximation as ball and g1 as natural projection potential reevaluation of the folding set after further simulations x Density 0.8 1.0 1.2 1.4 1.6 01234 22 / 25
  • 42. Cauchy illustration preliminary run produces simulations with values of π(x) derivation of higher density values and clustering choice of an HPD approximation as ball and g1 as natural projection potential reevaluation of the folding set after further simulations x Density 1.3 1.4 1.5 1.6 1.7 0246810 qMC version using sobol(1e5,3) 22 / 25
  • 43. Gaussian sugarloaf Target π(x) ∝ ϕ(x; µ, Σ) × exp{−α/||x − x0||2 } 23 / 25
  • 44. Gaussian sugarloaf Target π(x) ∝ ϕ(x; µ, Σ) × exp{−α/||x − x0||2 } preliminary run produces simulations with values of π(x) derivation of higher density values and clustering q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q qq qq q qq q q q q qq qq q q q q q qq q q q q q q q qq q q qqq qq qq qqq qqq qq q q q qqqqq qq q qq q qq qq qq q q qq q q q q q q q qq qq qqq qq q q qqq q q qqq q q qq q q qq q q qq qqq qqqq qq qqqq q q qq q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q qq q q qq qq q qq qq q q q q qq q q q qq q q q q q q q q q q q q q q q q q q q q q q q q qqq q q q q q q qq q q q q q q q q qq qq q q qq qq q q q q q q q q qq q q qq q q q qq qq qqqqqq q q qqqqq q qq qq q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q −1.0 −0.5 0.0 0.5 −1012 q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q qq q q q q q q q qq q qq q q q q q qqq q q q qqq q q q q qqqq q q q qq q q q q qq qq q qqqq qqqqqq q q qq q q qqq q q q qq qqq qqqqqq qqq q q qqqq q qqq qq qqqqq q qqq q q q qq q q qq q q q qq q q q q q q q q q q q q q q q q q q q q qq qq qqq qqq qqq qq qqq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q qq q q qq q q qq q q q q qq q q qq q qq q q q qqq qq q q q q q q q q q qq q qq q qq q q q q qq qq q qq qq q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q −1 0 1 2 −1.5−1.0−0.50.00.5 q q q q qq q q q q qq q q q q q q q q q q q qq q q q q q q q q qq q qq q q qq q q q q q q q qq qq q q q q q q q q q q q q qq q q q q q q q q q q qqq qq q qqq q qqqq q q q qq q q qqq qq q qq qq q qqq q q q qq qq qq qqq q qq qqqqq q qqq q q q qqqqq q qq qqq q qq q q q q qqq qqqq q qq q q q q q q q q q q q q q q q q qq q q q q q q q qq qq q q qq q q q qq q q qq q q q qq q q q q q q q q q q q q q q q q q q q q q q qq q q q qq q q q q q q q q q qq q qqq q q q qq q q q q qq q qq q q qqq q q q q q qq q q qq q q qqq qqq q q qq q qq qq q q q qq q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q qq q qq q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq qq q q q q q q q q q qq q qq q q −1.5 −1.0 −0.5 0.0 0.5 −3.0−2.5−2.0−1.5−1.0−0.50.0 q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q qqq q q q q q qq q q q q q q q q q qq q q q q q q q q q q q q qq q q qq q q q q q q qqq q q q qqq q qqqq q q q qq q q qqq q q q qq qq q qq q q q q qq qq qq qqq q qq qqqq q q qq q q q q qqq qq q qq qq qq qq qq q q qqq qq q q q q q qqq q q q q q q q q q q q q q q q q q q q q q qqq qq q q q q q q q qq q q qq q q q qq q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q qq q q qq q q q qqq qq q qqq qq q q q q q q q q qqq qq q q q q q q q qq q q qqqqq q q q qq q qq qq q q q qq q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q qq q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q qq q q −1.0 −0.5 0.0 0.5 −3.0−2.5−2.0−1.5−1.0−0.50.0 23 / 25
  • 45. Gaussian sugarloaf Target π(x) ∝ ϕ(x; µ, Σ) × exp{−α/||x − x0||2 } preliminary run produces simulations with values of π(x) derivation of higher density values and clustering choice of an HPD approximation as ball and g1 as natural projection potential reevaluation of the folding set after further simulations x Density −4 −2 0 2 4 0.00.10.20.3 x Density −4 −2 0 2 4 0.00.10.20.30.4 x Density −4 −2 0 2 4 0.00.10.20.30.4 x Density −4 −2 0 2 4 0.000.100.200.30 23 / 25
  • 46. Gaussian sugarloaf Target π(x) ∝ ϕ(x; µ, Σ) × exp{−α/||x − x0||2 } preliminary run produces simulations with values of π(x) derivation of higher density values and clustering choice of an HPD approximation as ball and g1 as natural projection potential reevaluation of the folding set after further simulations q q q q q q q q q q q qqqq qq qqqq qq q q qq q qq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqq qq qqqqqqq qq qq qq qqq qqqqqqqqqqqqqq qqqq qqq q qq q q qqq qq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqq q qq qq q q q qqqqqqq qqqqqq qq q qq qqqqqqqqqq q qqqqqqqqqq qqqqqqqqqqqqqqqq qqqqq qq q qqqqq qqqq qq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq q qqq qqq qqqqq qqq q q qqq q qq qqqq qqq qqqqq q q qqq q qqq q q q q q q qq qq qqq q qq qq q q q q q q q q qq q q q q q qq q q q q q q qq q qqqq qqqqqq qqqqqqqqqqqq qqqq qq qqqqqqqqq qqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqq q qq qqqqqqqqqq qqq q qq q qqq qqqqq q q qqq qqq qqqqqqqq qqqq qqqqqq q qqqqqqq qqqqqq q qqqq qqqqq qq q q q q q q qqqq q q qq q q qq qq q qqq qq qq qq q q qqqq qq q q q q q q qq q qq q qq q q q q qq q q q qq qq qq q q q qq q q q q q qq q q q q q q q q qq q q q q qq q qqq qqq q q q qq q q q q q q q q q q q q qq q qq q qqq q q q q q qq q q q q q q q q q q qqq qqqqq q q qqqqq qqqq qqq q qqqqqq q q q q qq q q q q q q q q q qq qqqq qqqqqqqqqqq qqqqqqq q qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqq qq q qq qq q qqqq qq qq q qq q qq q qq q qqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqq qqq qqqq qqq q qqq qqq qqqqqqqqq qqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqq qqqqqqqq qqqq qqqqqqq q qqqq qq q q qqqq qq q q q q q q q qqq q q qq q qq q qq qqqq q q q q q qq qq qq q q q q q q q q q q q q q q qq qq q q qqqqqq qqqq q q qqqqq q q qqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq q qqqqqqqqq q qqq qq qqq q q q qqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqq qqqqqqqqqqqqq q qq qq q q qq q qq q q qq q q q qq q q q qqq q q q q q qq q qq q q q qq q qq q q q q q q q q q q q qqqqq q q q q qqq q q q q q q q q q qq q qq qq q q q q q q q q q q q q q q q qqq qq qqq q q q q qq q qq q q q q q qq qqq q q q q q q qq qq q q q qqq q qqq q q qq q qqqq q q qqq q q q q q qqq q q q qq qq qq q qq qq qqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq q q qqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqq q q qqqq qqqqqqqqqqqqqqqqqqqqqqqqqq q qqqqqqqq qq q qq qqqq qqq qqq q qqq qqqq q qqq q q q qq q q qq q qq qqqq qq qq qqqqq q qq q q q q q q q q q qqq q q q q qq qq q q qqq q q q q q q q q q q qq q q qq q q q qq q qq q qq qq q q qq q q q q q q qq qq q q qqq q qq q q q q q q q q q q q q q q q qqqq qqqq q q qq q qqqqq q qq q q q q q qqqqq q q q qq qqqq qqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq 0 20 40 60 −50−40−30−20−10010 q qq qq qq q qq q qq qqq q qqq qq qq qq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqq qqqq qqqq qqqqqqq qqq q qqqqqqqqqqqqqqqqqqqqq qq qq qqq qqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqq q qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq q q q qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqq qqqqqq q q qqqqqqqqq qq qqqqqq q qqqq q qq q q q qqqq q q q q q q q q qq qq qq qq q q q q q qq q qq q q q q q q q q q q qq qqq qqqqqqqqqqqqqqq qqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqq qqqq qq qqqq q q qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqq qqqqqq qq q q q q qqq qqqq qq qqq qq q qq qqq q q qq qqq q q q q q qq qq q q q q q q q q q q qq q q q q q q q q q qq qq q q q q q q q q q qq q qqqq q q q q q q q q q q q q qq q qqq q qqqqq qqqq q q q qqq q q qq q q q qq q qqq qq q q q qq qq q q qq q q q q q qq qqq q q q q qqqqqq qq qqqq qq qqqqq qq qq qqq q q q q q qq qq q qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqq q qq q q qq qq q qq qqqqqq qq q qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqq qq qq q q q qqq qqqqqq qqqqqqqqqq qqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq q qqqq qqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqq qqqqqqqqqq q qq qq qq q qq q q qq qq q qqq qq q qq qq q qq qq qq qq q q q q qqq qq q q q q q q q q q q q q q q qq q q qqq qqqq qqqqqq qqqqqq q q q qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qq qqqqq qq q qq qqq qq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqq qqqqqqq qqqqqqqqqq qqq q q q q qq q q q q q qq q q qqq q qqqq qq qqqqq q q qqq q qq q qqqqqq q q q q q q q q q q q q qq q q q q q q qq q q q qqq q q q qq q q q qq q q q q qq q q q q q qq q q q q q qq q qq qq q qq q q q q q q q q q q qqq q qq qq qq q q qqqq q q q qqq q q qq qq q qq qqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq q qqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq q qqqqqqqqqq q qq q qqq qq qq q qq q qq qqq q q q q q q q qqqq qqqq qqq qq qq q q q q q q qq q q q q q qqq q qq qqq qq q q q q q q qq q q q q q q qq q q q q qq q q qq q qqq qq q qq q q q qq qq qq q q qq q q q q q q q qq q q q q qqq qq qqq q q qqqq qqqqqq q q qq q qq q q q qqqqq q q q q qq q q q q q q qqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq −50 −40 −30 −20 −10 0 10 −20−10010203040 q q q q qq q q q q q qq qq q q q q q q q q q q qq q q q qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqq q qqq qqq qq qqqqqq q qqq qqqq qqqqqqqqqqqqqqqqqq qqqq q qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qq qqqqq q qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqq qqq qq qqqqqqq qqqqqqq qq q q qq qqqq qqq qqqqqqqqqqqqqqq qqqqqqqqqqqqqq qq q q q qq qqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqq q qqqq qq qqqq qq q qqq q qq q q q qqq qqq q q q qqqqq qqqq qqq q qq q q qqq qq q q q q q qq qqq q qq q q q q qq q q q q q q q q q q q q q qq qqqqqq qqqqqqq qq qq qq q q qqqqq qqqqqqqqqqqq qqqqqqqq qq qqqqqqqqqqqqqqqqqqqq qqqq q q qq qqqqqq qqqq q qqqqqqqq qqqq qqq qqqqq q qqqqqqqqqq q q qqq qqqqq qqq qqqqqqq qq qqqq qqqq q q q q q qqq q qqq q qqq q q q qq q q q qq qqqq q qq q q q q q qqq q q q q q q q q q q q qq q q q q q q q q q qq qq q q q q q q qq q q q qq q q qq q q q q q q q q q q qqq q qq q q q qqq q q qq q q qqq qq q q q q q qq q q qq q qq q q q q q q q q qq q qqq q q q q qq qq q q q qqqqq qq q q q q q q q q qqqqq q qqq qq q q q q qq qqq q q q qqqq qq qqqqq qqqqqqq qq qqq qqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqq qqq qqqqqqqqqqqqqqqqqqqqqqq qqq qq qqq q qqqq q qq qqq qqqq qqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qq q q q qqqq q qqq qqqqqqqqqqqqq q q q qqqq q q qqq qq qq qqqqq q q qqqqqq q qqq q qqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqq qq qqq q qq qqq qq qq qq qqqq qqqq qq qqqqq qqq qq q q q qqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq q q q q q q qqqqqqqqqqqq qqqqqq qqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqq qqqqqqqqqqqqqqqqqqqqqqqqq qq qq qqqq qq qq qqqqqqq q q qqq qqq q qq q q q q qq q q q q qq q q q q qqq qq qq q qq q qqqqq q q q qq qq qq q qq qq qq q q q q q qq qq q q q q q q q qq q q qq qq q qqqqqq qq qq q qqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq q q q q qqq qq qq qq qqqqq q q q qq q qq qq q qqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqq qq qqqqqqqqqqqqqqq qqqqqqqqqqqqq qqqq qq qqqq qqqqq qq q q q qq qq qq q q qq q q q q qqq q qq q qqq q q q qq q q qq qq q q q q q qqq qq qq q q q q q q q q q q q q qq q qq q qq q q q q q qq q q qq qq q q q q qq q qq q q q q q q q qq q q q q q qqq qq qq q q qq q q q q qq q q q q q q qqq q qq qqqqq q q q qqq qq qq q q qqq qqqqqq qqq q q q q qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqq qqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqq qqqqq qqqq q qqqq qqq qq qq q q q qq qqqqq qqq q q qq q q q q qqq qq qq qqq q qq q q q qq qq q qq q qqqq qq q q qq qq qq q q q q q q q q q q qqq qq qq q q q q q q q q q q qq q qq q q q q q q q q qq q q q q q q q q qq q qq q q q q q q q qq q q q qq q qq q q q q qq qq q qqqqqq qq qq q qqq q q qq q qq q qqqq q q q qqq qq q qq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq −20 −10 0 10 20 30 40 −10010203040 q q q q qq q q q q q qq qq q q q q q q q q q q qq q q q qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqq q qqq qqq qq qqqqqq q qqq qqqq qqqqqqqqqqqqqqqqqq qqqq q qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qq qqqqq q qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqq qqq qq qqqqqqq qqqqqqq q q q q qq qqqq qqq qqqqqqqqqqqqqqq qqqqqqqqqqqqqq qq q q q qq qqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqq q qqqq qq qqqq qq q qqq q qq q q q qqq qqq q q q qqqqq qqqq qqq q qq q q qq q q q q q q q q qq qq q q q q qq q q qq q q q q qq q q q q q q q qq qqqqqq qqqqqqq qq qq qq q q qqqqq qqqqqqqqqqqq qqqqqqqq qq qqqqqqqqqqqqqqqqqqqq qqqq q q qq qqqqqq qqqq q qqqqqqqq qqqq qqq qqqqq q qqqqqqqqqq q q qqq qqqqq qqq qqqqqqq qq qqqq qqqq q q q q q qqq q qqq q qqq q q q qq q q q qq qqqq q qq q q q q q qqq q q q q q q q q q q q qq q q q q q q q q q qq qq q qq q q q qq q q q q qq q qq qq q q q q q q q q q q q q qq q q q qqq q q qq q q qqq qq q q q q q qqq q qq qq q q q q q q q q q qq q qqq q q q q qq qq q q q qqqqq qq q q q q q q q q qqqqq q qqq qq q q qq qq qqq q q q qqqq qq qqqqq qqqqqqq qq qqq qqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqq qqq qqqqqqqqqqqqqqqqqqqqqqq qqq qq qqq q qqqq q qq qqq qqqq qqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qq q q q qqqq q qqq qqqqqqqqqqqqq q q q qqqq q q qqq qq qq qqqqq q q qqqqqq q qqq q qqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqq qq qqq q qq qqq qq qq qq qqqq qqqq qq qqqqq qqq qq q q q qqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq q q q q q q qqqqqqqqqqqq qqqqqq qqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqq qqqqqqqqqqqqqqqqqqqqqqqqq qq qq qqqq qq qq qqqqqqq q q qqq qqq q qq q q q q qq q q q q q q q qq q qq q qq qq q qq q qqq qq q q q qq qq qq q qq q q qq q q q q q q qqq q qq q q q q qq q q qq qq q qqqqqq qq qq q qqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq q q q q qqq qq qq qq qqqqq q q q qq q qq qq q qqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqq qq qqqqqqqqqqqqqqq qqqqqqqqqqqqq qqqq qq qqqq qqqqq qq q q q qq qqqq q q qq q q q q qqq q q q q qqq q q q q q q q qq qq q q q q q qqq q q qq q q q q q q q q q q q q qq q qq q qq q q q q q qq q q qq qq q q q q qqq qq q q q q q q q q q q q q q q qqq qq qq q q qq q q q q qq q q qqq q qqq q qq qqqqq q q q qqq qq qq q q qqq qqqqqq qqq q q q q qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqq qqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq qqqqqqq qqqqq qqqq q qqqq qqq qq qq q q q qqq qqqq qqq q q qq q q q q qqq qq qq qqq q qq q q q qq q q q qq q qqq q qq q q qq qq qq q q q qq q q q q q q qq qq qq q q q q q q q q q q qq q qq qqq q q q q q qq q q q q q q q q qq q qq q q q q q q q qq q q q qq q qq q q q q qq qq q qqqqqq qq qq q qqq q q qq q qq q qqqq q q q qqq qq q qq qqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqqq 0 20 40 60 −10010203040 23 / 25
  • 47. keep folding: the origaMCMC When A0 shows too much variability of π , it can be folded again: the procedure can be iterated or a more elaborated partition can be constructed by clustering cost of unfolding possibly a deterent over-concentration not an issue with projected proposal plus other proposals may be included possible connection with Wang-Landau flat histogram algorithm, although Jacobian may prevent flatness (and become a liability) [Jacob & Ryder, 2014] 24 / 25
  • 48. keep folding: the origaMCMC When A0 shows too much variability of π , it can be folded again: the procedure can be iterated or a more elaborated partition can be constructed by clustering cost of unfolding possibly a deterent over-concentration not an issue with projected proposal plus other proposals may be included possible connection with Wang-Landau flat histogram algorithm, although Jacobian may prevent flatness (and become a liability) [Jacob & Ryder, 2014] 24 / 25
  • 49. further questions 1. Folding increases the acceptance probabilities and improve the asymptotic covariance. What about achieving geometric ergodicity? 2. Folding is only possible if folding and unfolding the Markov chains is not costly. What about a computing time criterion? 3. Domination results are obtained with the kernel induced on the folded space [black box]. What about selecting more appropriate [black/white box] folded kernels? 25 / 25
  • 50. further questions 1. Folding increases the acceptance probabilities and improve the asymptotic covariance. What about achieving geometric ergodicity? 2. Folding is only possible if folding and unfolding the Markov chains is not costly. What about a computing time criterion? 3. Domination results are obtained with the kernel induced on the folded space [black box]. What about selecting more appropriate [black/white box] folded kernels? 25 / 25
  • 51. further questions 1. Folding increases the acceptance probabilities and improve the asymptotic covariance. What about achieving geometric ergodicity? 2. Folding is only possible if folding and unfolding the Markov chains is not costly. What about a computing time criterion? 3. Domination results are obtained with the kernel induced on the folded space [black box]. What about selecting more appropriate [black/white box] folded kernels? 25 / 25