Probabilités et Signaux Aléatoires

Ce document présente les notions fondamentales des probabilités et des signaux aléatoires, destinées aux étudiants en sciences et ingénierie. Il couvre les bases des probabilités, les variables aléatoires discrètes et continues, les lois classiques, ainsi que la caractérisation temporelle et statistique des signaux aléatoires, avec des concepts clés tels que la stationnarité et l'ergodicité.

Notion de probabilité

Une expérience aléatoire est une expérience dont le résultat ne peut être prédit à l'avance et qui, dans des conditions identiques, peut donner des résultats différents. Le résultat d'une expérience aléatoire est appelé événement et noté ω.

Les événements possibles forment un ensemble appelé univers, noté Ω.

Exemple : Le lancer d'une pièce de monnaie. L'univers est Ω = {ω1, ω2} où ω1 représente « pile » et ω2 « face ».

La loi de probabilité est la règle qui attribue une probabilité à chaque événement de Ω.

Théorie des probabilités

L'univers Ω contient tous les événements possibles, avec la propriété :

P(Ω) = 1 et P(∅) = 0, où ∅ est l'ensemble vide.

Pour un événement A de probabilité non nulle, on note P(A) sa probabilité. La probabilité de l'événement contraire A̅ est :

P(A̅) = 1 - P(A)

Si A et B sont deux événements de Ω, alors :

• Monotonie : Si A ⊆ B alors P(A) ≤ P(B)
• Probabilité de l'union : P(A ∪ B) = P(A) + P(B) - P(A ∩ B)

Pour un ensemble d'événements disjoints (mutuellement exclusifs) {ωi} couvrant Ω, on a :

P(Ω) = Σ P(ωi) = 1

En cas d'équiprobabilité (toutes les issues ont la même probabilité) :

P(ω1) = P(ω2) = ... = P(ωn) = 1/n

La probabilité d'un événement A est alors :

P(A) = (nombre d'issues favorables à A) / (nombre d'issues possibles)

Probabilité conditionnelle

La probabilité conditionnelle de A sachant B, notée P(A | B), est la probabilité que A se réalise sachant que B s'est réalisé :

P(A | B) = P(A ∩ B) / P(B)

Formule de Bayes

Cette formule permet d'inverser les probabilités conditionnelles, utile pour estimer la probabilité d'une cause à partir d'un effet observé.

Exemple : Deux usines fabriquent des ampoules :

• 1ère usine : 1% d'ampoules défectueuses, 600 ampoules sur 1000
• 2nde usine : 3% d'ampoules défectueuses, 400 ampoules sur 1000

On tire une ampoule au hasard et elle est défectueuse. Quelle est la probabilité qu'elle provienne de la 1ère usine ?

Soit :

• A : ampoule provient de la 1ère usine
• B : ampoule provient de la 2nde usine
• D : ampoule est défectueuse

On cherche P(A | D) :

P(A | D) = P(A ∩ D) / P(D) = [P(D | A) × P(A)] / P(D)

Avec :

• P(D | A) = 0,01
• P(A) = 600/1000 = 0,6
• P(D | B) = 0,03
• P(B) = 400/1000 = 0,4

Calcul de P(D) :

P(D) = P(D | A) × P(A) + P(D | B) × P(B) = 0,01 × 0,6 + 0,03 × 0,4 = 0,006 + 0,012 = 0,018

Donc :

P(A | D) = (0,01 × 0,6) / 0,018 = 0,006 / 0,018 = 1/3 ≈ 0,333

La probabilité que l'ampoule défectueuse provienne de la 1ère usine est donc d'environ 33,3%.

Variables aléatoires

Une variable aléatoire (v.a.) est une grandeur numérique dont la valeur dépend du résultat d'une expérience aléatoire.

Exemples :

• Somme des faces de deux dés (variable discrète)
• Distance entre le point d'impact d'une flèche et la cible (variable continue)
• Vecteur aléatoire (exemple : km parcouru et retard d'un bus)

Chaque élément ω de Ω est associé à une valeur réelle X(ω).

Exemple

On tire au hasard une personne dans une population :

• U(ωi) = taille de la personne i
• V(ωi) = poids de la personne i
• W(ωi) = année de naissance de la personne i

Variables discrètes et continues

• Si l'ensemble des valeurs X(Ω) est dénombrable, X est une variable discrète.
• Si X(Ω) n'est pas dénombrable, X est une variable continue.

Loi de probabilité d'une variable aléatoire

La loi de probabilité d'une variable aléatoire est donnée par l'ensemble des valeurs qu'elle peut prendre et la probabilité associée à chacune.

Exemple : Pour une variable aléatoire U représentant la taille, si ui = 1,73 m, alors P(U = ui) est la probabilité qu'une personne ait cette taille.

Fonction de répartition

La fonction de répartition FX d'une variable aléatoire X est définie par :

FX(x) = P(X ≤ x)

Variables aléatoires continues

Une variable aléatoire est continue si elle peut prendre toutes les valeurs d'un intervalle donné.

Exemples : masse corporelle, distance d'impact d'une flèche.

Densité de probabilité

La densité de probabilité f(x) est une fonction continue positive telle que :

∫ f(x) dx = 1

sur l'ensemble des valeurs possibles.

Fonction de répartition pour variable continue

La fonction de répartition FX est la primitive de la densité de probabilité f(x) :

FX(x) = ∫_{-∞}^x f(t) dt

Elle représente la probabilité cumulée jusqu'à x.

Propriétés de la fonction de répartition

• FX est croissante et continue à droite.
• Limites : FX(-∞) = 0 et FX(+∞) = 1.

Espérance et variance

Espérance mathématique

L'espérance E[X] d'une variable aléatoire X est la moyenne pondérée des valeurs possibles :

E[X] = Σ x_i P(X = x_i)  (pour variable discrète)

ou

E[X] = ∫ x f(x) dx  (pour variable continue)

C'est le moment d'ordre 1.

Propriétés de l'espérance

Si X et Y sont deux variables aléatoires définies sur le même univers, alors :

• E[aX + bY] = a E[X] + b E[Y], pour tous réels a et b.

Variance

La variance V[X] mesure la dispersion autour de l'espérance :

V[X] = E[(X - E[X])^2]

C'est le moment centré d'ordre 2.

L'écart-type est la racine carrée de la variance :

σ_X = √V[X]

Variable centrée et réduite

• Une variable aléatoire X est dite centrée si E[X] = 0.
• Elle est dite réduite si V[X] = 1.

On peut associer à toute variable X une variable centrée réduite :

Z = (X - E[X]) / √V[X]

Quelques lois de probabilité classiques

Loi uniforme

La densité de probabilité est constante sur un intervalle [a, b] :

f(x) = 1 / (b - a)  pour x ∈ [a, b]

La fonction de répartition est :

F(x) = 0  pour x < a
F(x) = (x - a) / (b - a)  pour a ≤ x ≤ b
F(x) = 1  pour x > b

Loi normale

La densité de probabilité de la loi normale de moyenne μ et variance σ^2 est :

f(x) = (1 / (σ √(2π))) × exp(- (x - μ)^2 / (2σ^2))

La fonction de répartition n'a pas de forme analytique simple mais est la primitive de f(x).

Signaux aléatoires

Un signal aléatoire est un phénomène qui dépend à la fois du temps et du hasard.

Caractérisation temporelle

Moyenne temporelle : moyenne des valeurs du signal sur une durée donnée.

Auto-corrélation temporelle

Mesure la similarité du signal avec lui-même décalé dans le temps.

Caractérisation statistique

Moyenne statistique : moyenne des valeurs du signal sur un ensemble d'observations.

Fonction d'auto-corrélation statistique : corrélation du signal avec lui-même en fonction du décalage.

Fonction d'inter-corrélation statistique : corrélation entre deux signaux différents.

Stationnarité

• Un signal est stationnaire au premier ordre si sa moyenne est constante dans le temps.
• Il est stationnaire au second ordre si, en plus, sa fonction d'auto-corrélation dépend uniquement du retard τ et non du temps absolu.

Ergodicité

• Un signal est ergodique au premier ordre si sa moyenne temporelle est égale à sa moyenne statistique.
• Au second ordre, l'ergodicité implique que les fonctions d'auto-corrélation temporelle et statistique coïncident.

Glossaire des termes clés

• Expérience aléatoire : expérience dont le résultat est incertain.
• Événement : résultat possible d'une expérience aléatoire.
• Univers (Ω) : ensemble de tous les événements possibles.
• Loi de probabilité : règle attribuant une probabilité à chaque événement.
• Probabilité conditionnelle : probabilité d'un événement sachant qu'un autre est réalisé.
• Formule de Bayes : relation permettant de calculer une probabilité inverse.
• Variable aléatoire : grandeur numérique dépendant d'une expérience aléatoire.
• Variable discrète : variable aléatoire prenant un nombre dénombrable de valeurs.
• Variable continue : variable aléatoire prenant un nombre non dénombrable de valeurs.
• Fonction de répartition (FX) : probabilité que la variable soit inférieure ou égale à une valeur donnée.
• Densité de probabilité (f) : fonction dont la primitive est la fonction de répartition pour une variable continue.
• Espérance (E[X]) : moyenne pondérée des valeurs d'une variable aléatoire.
• Variance (V[X]) : mesure de la dispersion des valeurs autour de l'espérance.
• Signal aléatoire : signal dépendant du temps et du hasard.
• Stationnarité : propriété d'un signal dont les caractéristiques statistiques ne varient pas dans le temps.
• Ergodicité : propriété d'un signal pour lequel les moyennes temporelles et statistiques coïncident.

Points clés à retenir

• La probabilité mesure la chance qu'un événement se réalise dans un univers donné.
• La formule de Bayes permet d'inverser les probabilités conditionnelles pour estimer des causes à partir d'effets.
• Les variables aléatoires peuvent être discrètes ou continues, avec des lois de probabilité associées.
• L'espérance et la variance sont des mesures fondamentales pour caractériser une variable aléatoire.
• Les signaux aléatoires sont caractérisés par leurs propriétés temporelles et statistiques.
• La stationnarité et l'ergodicité sont des notions essentielles pour l'analyse des signaux aléatoires.