une méthode de calcul en théorie de la décision bayésienne ... · montpellier juin 2008...
TRANSCRIPT
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Une méthode de calcul en théorie de la décisionbayésienne robuste
Christophe Abraham
UMR ASB, Montpellier SupAgro
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Exemple 1 : Pêche du saumon
• Décision d : taux d’exploitation
• Capture Ct ∼ Bin(At , d) (année t)
• At : nombre d’adultes (année t)
At = p1Rt−3 + p2Rt−4 + p3Rt−5
Rt = St eα−βSt eεt (Ricker)
At = Ct + St (St : stock)
εt ∼ N(0, σ2)
• θ = (α, β, p1, p2, p3, σ2)
• Observation x ∼ Pθ
• Utilité U(θ, d)
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Exemple 2 : Hauteur d’une digue
• Décision d : hauteur d’une digue
• Observations des hauteurs d’eau des dernières crues :x = (x1, . . . , xn) ∼ Pθ
• Utilité : U(θ, d)
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Les élèments
• La décision d ∈ D• Le paramètre θ ∈ Θ
• La loi a priori θ ∼ π
• L’observation x ∼ Pθ
• La fonction d’utilité U(θ, d)
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Le principe
• Mise à jour de l’information sur θ
→ construction de la loi a posteriori πx (théorème de Bayes)
• La décision optimale maximise l’utilité a posteriori :∫Θ
U(θ, d)πx(dθ)
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Les conséquences
Choix de U ?
• R : conséquence de choisir d si le paramètre est θ
• R ∼ ξθ,d à valeurs dans R• u(r) l’utilité de la conséquence r ∈ R• On pose
U(θ, d) =
∫R
u(r) ξθ,d(dr)
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Exemples
1. Pêche du saumon• R = C1000 : capture dans 1000 ans• R ∼ ξθ,d• u(r) ↗ sur [0,∞)
2. Digue• R = d − H• H ∼ ξθ : hauteur d’eau d’une crue• u(r) = ?
• inondation si r < 0• digue trop haute si r >> 0
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Construction deu
• Subjective• Par comparaison entre des conséquences certaines et
conséquences aléatoires• Soit r∗ (resp. r∗) la plus mauvaise (meilleure) conséquence• On pose u(r∗) = 0 et u(r∗) = 1• r ∈ R : on cherche α ∈ [0, 1] tel que
r ∼ αδr∗ + (1− α)δr∗ ,
alors u(r) = α
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Construction deU
• Ne permet pas de construire une utilité unique• On obtient plutôt une classe du type :
V = {u : R→ R : ak ≤ u(rk ) ≤ bk , k = 1, . . . , K}
• Eventuellement, avec des contraintes de formes et derégularité (S)
• Finalement,
U = V ∩ S
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Exemple : Pêche du saumon
• D = [0, 1]
• R = [0,∞)
• S = {u : [0,∞) → [0, 1], croissante, continue, concave}
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Exemple : Digue
• D = [0, 1]
• H ∈ [0, 1]
• R = [−1, 1]
• S = {u : [−1, 1] → [0, 1], continue,croissante sur [−1, 0], décroissante sur [0, 1]}
−1.0 −0.5 0.0 0.5 1.0
0.0
0.2
0.4
0.6
0.8
1.0
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Récapitulatif
• u ∈ U• U(θ, d) =
∫R u(r) ξθ,d(dr)
•
uµ(d) =
∫Θ
U(θ, d) πx(dθ)
=
∫R
u(r)∫
Θξθ,d(dr) πx(dθ)
=
∫R
u(r) µd(dr)
• Finalement : R ∼ µd et uµ(d) = E(u(R))
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Robustesse
• u ∈ U• M(u) = {d ∈ D : uµ(d) = supt∈D uµ(t)}• Si D ⊂ R, on pose
• d−u = inf M(u) et d+u = sup M(u)
• d−U = infu∈U d−u et d+U = supu∈U d+
u
• Problème : calculer d−U et d+U .
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
La stratégie
Une exploration aléatoire de U avec attraction pour lesfonctions u associées à des d−u petits (resp. d+
u grands).
Difficile (impossible) car :
• U espace de dim ∞• u ∈ U doit satisfaire des contraintes
• Pas de calcul rapide pour d−u (ou d+u ) à u fixée
Solution
• Approximation simultanée de U et R→ calcul rapide de d−u• Algorithme de recuit simulé → prise en compte des
contraintes de U .
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
La stratégie
Une exploration aléatoire de U avec attraction pour lesfonctions u associées à des d−u petits (resp. d+
u grands).
Difficile (impossible) car :
• U espace de dim ∞• u ∈ U doit satisfaire des contraintes
• Pas de calcul rapide pour d−u (ou d+u ) à u fixée
Solution
• Approximation simultanée de U et R→ calcul rapide de d−u• Algorithme de recuit simulé → prise en compte des
contraintes de U .
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Hypothèses
H1 U = V ∩ S est constitué de fonctions continues
H2 Conséquence de la forme R = d − Y , Y ∼ ξθ
H3 D = Y = [0, 1] et R = [−1, 1]
H4 µ admet une densité / Lebesgue sur [0, 1]
Contexte assez général (estimation, prévision)
uµ(d) =
∫Y
u(d − y) µ(dy).
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Calcul ded−u etd+u
0.0 0.2 0.4 0.6 0.8 1.0
0.00
0.05
0.10
0.15
0.20
0.25
0.30
• u(r) ≈ uγ(r) =∑j
l=−j γlFl(r)
• µ(dy) ≈ µj(dy) =∑j
i=1 µi δi/j(dy)
• r = d − y
uµ(d) ≈j∑
l=−j
γl
∫Y
Fl(d − y)µ(dy)
≈j∑
l=−j
j∑i=1
µiγlFl(d − i/j) =
j∑l=−j
j∑i=1
µiγlFl+i(d)
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
RésultatsHypothèses• R est de la forme R = d − H avec H ∼ ξθ
⇒ uµ(d) =∫
u(d − h)µ(dh)
• D = [0, 1], R = [−1, 1],
Approximations• Il , intervalle de longueur j−1, R = ∪l Il• u(r) ≈ uγ(r) linéaire par morceau de pente γl on Il• µ(dy) ≈ µj(dy) discrète qui charge les points l/j
Résultats• Si M(u) = {du}, pour j assez grand du ≈ duγ où
M(uγ) = {duγ}• u
µjγ est linéaire par morceau avec la pente b′lγ sur Il• bl ne dépend pas de γ•
∥∥uµγ − uµj
γ
∥∥∞ → 0 as j →∞
• Résultats analogues pour la dérivée de uµjγ
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
RésultatsHypothèses• R est de la forme R = d − H avec H ∼ ξθ
⇒ uµ(d) =∫
u(d − h)µ(dh)
• D = [0, 1], R = [−1, 1],
Approximations• Il , intervalle de longueur j−1, R = ∪l Il• u(r) ≈ uγ(r) linéaire par morceau de pente γl on Il• µ(dy) ≈ µj(dy) discrète qui charge les points l/j
Résultats• Si M(u) = {du}, pour j assez grand du ≈ duγ où
M(uγ) = {duγ}• u
µjγ est linéaire par morceau avec la pente b′lγ sur Il• bl ne dépend pas de γ•
∥∥uµγ − uµj
γ
∥∥∞ → 0 as j →∞
• Résultats analogues pour la dérivée de uµjγ
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
RésultatsHypothèses• R est de la forme R = d − H avec H ∼ ξθ
⇒ uµ(d) =∫
u(d − h)µ(dh)
• D = [0, 1], R = [−1, 1],
Approximations• Il , intervalle de longueur j−1, R = ∪l Il• u(r) ≈ uγ(r) linéaire par morceau de pente γl on Il• µ(dy) ≈ µj(dy) discrète qui charge les points l/j
Résultats• Si M(u) = {du}, pour j assez grand du ≈ duγ où
M(uγ) = {duγ}• u
µjγ est linéaire par morceau avec la pente b′lγ sur Il• bl ne dépend pas de γ•
∥∥uµγ − uµj
γ
∥∥∞ → 0 as j →∞
• Résultats analogues pour la dérivée de uµjγ
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Résultats théoriques
• Duµjγ =
∑2jl=−j(a
′lγ) Fl
• al indépendant de γ• supd∈D
∣∣Duµγ (d)− Duµj
γ (d)∣∣ ≤ Aj(µ) maxl∈{−j,...,j} |γl |
• uµjγ =
∑2jl=−j(b
′lγ) Fl
• bl indépendant de γ• supd∈D
∣∣uµγ (d)− uµj
γ (d)∣∣ ≤ Bj(µ) maxl∈{−j,...,j} |γl |
• Si M(u) = {du}, ∃(uγj ) telle que, si j →∞• uγj → u unif.• tj → du où {tj} = M(uγj )
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Exploration aléatoire deU
• Algorithme (recuit simulé) :A l’iteration n, l’algorithme est à γ(n).
1. Simuler γ avec la loi Pγ(n)
2. Accepter γ(n+1) = γ avec la probabilité
ρn = exp{−βn(d−γ − d−
γ(n))}∧ 1 ; prendre γ(n+1) = γ(n)
sinon.
• Contraintes V ∩ S → 1.• γ ∼ Pγ(n) , γ = (γ−j , . . . , γj)
• i ∼ U{−j,...,j}• γi ∼ U{uγ∈V∩S}
• γ = (γ(n)−j , . . . , γ
(n)i−1, γi , γi+1, γ
(n)i+2, . . . , γ
(n)j )
• Convergence vers d−U → 2.
• Preuve pour βn = Cte log(n + e)
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Exploration aléatoire deU
• Algorithme (recuit simulé) :A l’iteration n, l’algorithme est à γ(n).
1. Simuler γ avec la loi Pγ(n)
2. Accepter γ(n+1) = γ avec la probabilité
ρn = exp{−βn(d−γ − d−
γ(n))}∧ 1 ; prendre γ(n+1) = γ(n)
sinon.
• Contraintes V ∩ S → 1.• γ ∼ Pγ(n) , γ = (γ−j , . . . , γj)
• i ∼ U{−j,...,j}• γi ∼ U{uγ∈V∩S}
• γ = (γ(n)−j , . . . , γ
(n)i−1, γi , γi+1, γ
(n)i+2, . . . , γ
(n)j )
• Convergence vers d−U → 2.
• Preuve pour βn = Cte log(n + e)
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Construction d’une digue
• La classe U
−1.0 −0.5 0.0 0.5 1.0
0.0
0.2
0.4
0.6
0.8
1.0
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Construction d’une digue
• Duµj
γ(n) pour n = 3000, 105, 4× 105
−1.0 −0.5 0.0 0.5 1.0 1.5 2.0
−1.0
−0.5
0.0
0.5
1.0
1.5
2.0
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Construction d’une digue
• Chaines du recuit simulé
0e+00 1e+05 2e+05 3e+05 4e+05
0.2
0.3
0.4
0.5
0.6
0.7
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Construction d’une digue
• Histogrammes de d−γ(n) et d+
γ(n)
0.2 0.3 0.4 0.5 0.6 0.7
05
10
15
20
25
0.2 0.3 0.4 0.5 0.6 0.7
010
20
30
40
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Construction d’une digue
• Fonctions d’utilité uγ(n) pour d−Ujet d+
Uj
−1.0 −0.5 0.0 0.5 1.0
0.0
0.2
0.4
0.6
0.8
1.0
MONTPELLIER JUIN 2008
INTRODUCTION THÉORIE DE LA DÉCISION BAYÉSIENNE CONSTRUCTION DE L’ UTILITÉ ROBUSTESSE CALCUL APPLICATION
Construction d’une digue
• j = 20
• µ = Beta(5, 7)
• [d−Uj, d+Uj
] = [0.2408, 0.6624]
(entre 1/4 et 2/3 de la hauteur maximum)
• nombre d’itération : 4× 105
• durée du calcul < 2 minutes