M2 - MP2L
Machine Deep Learning
Approches probabilistes
Eléments de correction en bleu
Exercice 1 : Rappels - Formule de Bayes
Dans la région de Aïn Draham, on observe les probabilités suivantes d’apparition du beau
temps et de la pluie :
Lorsqu’il pleut, dans 90% des cas le baromètre l’a annoncé :
P(soleil)=0.6
P(pluie)=0.4
P(BP/Pluie)=0.9
P(BS/Pluie)=0.1
Lorsqu’il fait beau, dans 70% des cas le baromètre l’a annoncé.
Notations : BP : Baromètre indique Pluie,
BS : Baromètre indique Soleil
On cherche à prédire le temps en fonction de l’état du baromètre (par exemple : le baromètre
annonce la pluie).
1. Précisez le contexte d’apprentissage : précisez les attributs ou variables explicatifs et à
expliquer (variable expliquer : c’est-à-dire la classe).
Une variable explicative : Etat du baromètre, à 2 modalités {BP, BS}
La classe a 2 modalités : Pluie ou Soleil
2. Nous étudions la règle de décision bayésienne. Précisez les ensembles de départ et
d’arrivée de la fonction de classement correspondant à cette règle.
Notons CBayes la règle de décision bayésienne pour notre cas d’études.
CBayes: {BP, BS}
{ Pluie, Soleil}
Publicité
3. Dans le cas général, rappelez la formule de Bayes.
Formule de Bayes,
yP(
j
/X)
=
P(X/
)y)P(
y
j
j
P(X)
avec les notations du cours :
X : vecteur représentant une observation (avec les variables explicatives)
yj : une classe
4. Dans notre contexte d’apprentissage supervisé, comment s’appellent les probabilités
suivantes :
a) P(pluie) : probabilité a priori
b) P(BP/Pluie) : probabilité conditionnelle
c) P(Soleil/BP) : probabilité a posteriori
5. Donnez la prédiction du temps par la règle de décision bayésienne quand le baromètre
annonce la pluie. Vous détaillerez votre réponse. Quelle est la fiabilité de cette
prédiction ?
1
(cid:190)
(cid:190)
Publicité
(cid:190)
fi
Quelle classe associer à l’observation « BP » ?
CBayes: {BP, BS}(cid:190)
(cid:190)
{ Pluie, Soleil}
k / P(k/BP) = max (P(Pluie/BP), P(Soleil/BP))
BP
Calculons chacune des probabilités a posteriori P(Pluie/BP) et P(Soleil/BP).
Calcul de P(Pluie/BP)
Nous utilisons pour cela la formule de Bayes :
P(Pluie/BP) = P(Pluie). P(BP/Pluie) / P(BP)
Pour P(BP), nous pouvons écrire :
P(BP) = P(BP/Pluie).P(Pluie) + P(BP/Soleil).P(Soleil) en supposant que {Pluie, Soleil}
est un système complet d’évènement.
Nous avons :
P(Pluie)=0.4
P(Soleil) = 0.6
P(BP/Pluie)= 0.9
P(BP/Soleil)=0.3 :
Lorsqu’il fait beau, dans 70% des cas le baromètre l’a annoncé,
càd que P(BS/Soleil) =0.7 et donc P(BP/Soleil)=0.3
D’où en remplaçant dans P(BP) = P(BP/Pluie).P(Pluie) + P(BP/Soleil).P(Soleil)
=0.9 x0.4 + 0.3 x 0.6 = 0.54
Nous avons alors P(Pluie/BP) = P(Pluie). P(BP/Pluie) / P(BP)
= 0.4 x0.9 / 0.54 = 0,67
Publicité
Nous pouvons alors en déduire que
P(Soleil/BP) = 1- P(Pluie/BP) = 1-0,67 = 0,33
Nous aurions pu calculer P(Soleil/BP) pour vérifier que nos résultats sont corrects (voir
détails plus loin).
On constate que : P(Pluie/BP) > P(Soleil/BP)
En effet : max(P(Pluie/BP), P(Soleil/BP))= max(0,67, 0,33) = 0,67 = P(Pluie/BP)
La classe associée à BP est alors Pluie, avec une fiabilité de 67%.
CBayes: {BP, BS}(cid:190)
(cid:190)
BP
{ Pluie, Soleil}
Pluie
En d’autres termes, si le baromètre annonce la pluie :
on peut prédire qu’il va pleuvoir
la fiabilité de notre prédiction est de 67%
Vous pourrez, chez vous, donnez la prédiction du temps par la règle de décision
bayésienne quand le baromètre annonce le soleil. Vous détaillerez votre réponse.
Quelle est la fiabilité de cette prédiction ?
CBayes: {BP, BS}(cid:190)
{ Pluie, Soleil}
(cid:190)
?
BS
2
(cid:190)
(cid:190)
Publicité
fi
(cid:190)
(cid:190)
fi
(cid:190)
(cid:190)
fi
(cid:190)
(cid:190)
fi
(cid:190)
(cid:190)
fi
(cid:190)
(cid:190)
fi
Détails du calcul de P(Soleil/BP) :
Nous utilisons pour cela la formule de Bayes :
P(Soleil/BP) = P(Soleil). P(BP/Soleil) / P(BP)
Nous avons déjà calculé P(BP) = P(BP/Pluie).P(Pluie) + P(BP/Soleil).P(Soleil)
=0.9 x0.4 + 0.3 x 0.6 =0.54
Nous avons alors P(Soleil/BP) = P(Soleil). P(BP/Soleil) / P(BP)
= 0.6 x0.3 / 0.54 = 0,33
3