Signaux aléatoires

Ce document présente les notions fondamentales des signaux aléatoires et des processus stochastiques, destinées aux étudiants en automatique, traitement du signal et théorie de l'estimation. Il aborde la modélisation probabiliste des signaux, leurs caractéristiques statistiques, les processus remarquables ainsi que leur transmission par des systèmes linéaires.

Introduction à l’étude des processus stochastiques

Définition d’un processus stochastique

Un processus stochastique (scalaire ou vectoriel) est une famille de variables ou vecteurs aléatoires indexée par un ensemble de paramètres t ∈ T, généralement le temps. La notation est {x_t(ω) | t ∈ T}. T peut être discret ou continu.

• Pour chaque t, x_t(•) est une variable aléatoire représentant l’état du processus à l’instant t.
• Pour ω fixé, x_•(ω) est une réalisation du processus, fonction du temps.
• Pour t et ω fixés, x_t(ω) est un nombre.

Les processus peuvent être à état discret ou continu. En temps discret, ils sont appelés séquences aléatoires. En temps continu, on parle simplement de processus stochastiques.

Exemple

Un satellite en orbite périodique autour de la Terre fournit un signal aléatoire x(t) représentant son altitude mesurée par plusieurs capteurs. Ce signal est analogique et en temps continu, reflétant les incertitudes des mesures.

Caractérisations probabilistes des processus stochastiques

Loi de distribution

Pour toute partition finie {t₁, ..., t_n} de T, la loi de distribution conjointe des variables aléatoires x_t1, ..., x_tn caractérise le processus. Elle peut être donnée par :

• La fonction de répartition conjointe : F_{x(t1),...,x(tn)}(α₁, ..., α_n)
• La fonction densité de probabilité conjointe : p_{x(t1),...,x(tn)}(α₁, ..., α_n)

Spécifier l’une de ces fonctions pour toutes les partitions définit la loi du processus.

Exemple

Le processus défini par x(t) = a + bt, où a et b sont des variables aléatoires conjointement normales, est un vecteur gaussien dont la moyenne et la covariance dérivent de celles de [a b].

Processus du second ordre

Un processus est dit du second ordre s’il est entièrement caractérisé par ses densités de probabilité du premier et du second ordre :

• Densité du premier ordre : p_x(t)(α)
• Densité du second ordre : p_{x(t), x(τ)}(α, β)

Caractéristiques statistiques

À partir des densités, on définit :

• Moyenne : mx(t) = E[x(t)] = ∫ α p(α, t) dα
• Matrice d’autocorrélation : R(t, τ) = E[x(t) x(τ)^T]
• Matrice d’autocovariance : P(t, τ) = E[(x(t) − mx(t))(x(τ) − mx(τ))^T]

Ces matrices vérifient :

• P(t, τ) = P(τ, t)
• R(t, τ) = R(τ, t)
• R(t, t) ≥ 0
• Q(t) = P(t, t) ≥ 0
• P(t, τ) = R(t, τ) − mx(t) mx(τ)^T

Exemple

Pour x(t) = a + bt :

• mx(t) = E[a] + t E[b] = m_a + t m_b
• r(t, τ) = E[a²] + (t + τ) E[ab] + t τ E[b²]
• p(t, τ) = var(a) + cov(a, b)(t + τ) + var(b) t τ

Caractéristiques importantes

Stationnarité au sens strict

Un processus x(t) est stationnaire au sens strict si, pour toute partition {t₁, ..., t_n} et tout décalage θ :

p_{x(t1),...,x(tn)}(α₁, ..., α_n) = p_{x(t1+θ),...,x(tn+θ)}(α₁, ..., α_n)

Stationnarité au sens large

Un processus est stationnaire au sens large si :

• mx(t) = mx (indépendante du temps)
• P(t, τ) = P(t − τ)

Exemple

Le processus x(t) = a cos(2πt) + b sin(2πt), avec a et b variables aléatoires non corrélées de moyenne nulle et variance unitaire, est stationnaire au sens large :

• m(t) = 0
• r(t + τ, t) = cos(2πτ)

Ergodicité

La moyenne temporelle d’un échantillon est définie par :

<x(t)> = lim_T→+∞ (1/2T) ∫_−T^T x(t) dt

Un processus est ergodique si toutes les moyennes temporelles existent et sont égales à la moyenne statistique, quelle que soit la réalisation :

lim_t1→∞ (1/(t1 − t0)) ∫_t0^t1 f[x(t)] dt = E[f(x(t))]

Densité spectrale de puissance

La densité spectrale de puissance Ψ_x(ω) est la transformée de Fourier de la matrice de corrélation R_x(τ) :

Ψ_x(ω) = ∫_−∞^+∞ e^−jωτ R_x(τ) dτ

R_x(τ) = (1/2π) ∫_−∞^+∞ e^jωτ Ψ_x(ω) dω

Propriétés :

• Ψ_x(−ω) = Ψ_x(ω)
• Ψ_x^*(ω) = Ψ_x(ω)
• Ψ_x(ω) ≥ 0
• (1/2π) ∫ Ψ_x(ω) dω = R_x(0)

Exemple

Pour un processus stationnaire v(t) de matrice de corrélation :

R_v(t − τ) = σ² exp(−|t − τ|/θ), θ > 0

La densité spectrale de puissance est :

Ψ_v(ω) = (2 σ² θ) / (1 + ω² θ²)

Indépendance et décorrélation

Deux processus v₁(t) et v₂(t) sont :

• Indépendants si tous les vecteurs aléatoires {v₁(t₁), ..., v₁(t_l)} et {v₂(t₁), ..., v₂(t_m)} sont indépendants pour tous t_i.
• Décorrélés si v₁(t₁) et v₂(t₂) sont décorrélés pour tous t₁, t₂.

Soient x(t) et y(t) deux processus stochastiques :

• Matrice d’intercorrélation : R_xy(t₁, t₂) = E[x(t₁) y^T(t₂)]
• Matrice d’intercovariance : P_xy(t₁, t₂) = R_xy(t₁, t₂) − m_x(t₁) m_y^T(t₂)

Définitions :

• Orthogonalité : x(t) et y(t) sont orthogonaux si R_xy(t₁, t₂) = 0 ∀ t₁, t₂.
• Décorrélation : x(t) et y(t) sont décorrélés si P_xy(t₁, t₂) = 0 ∀ t₁, t₂.

Densité spectrale croisée

Définition :

Ψ_xy(ω) = ∫_−∞^+∞ R_xy(τ) e^−jωτ dτ

De même :

Ψ_yx(ω) = ∫_−∞^+∞ R_yx(τ) e^−jωτ dτ

Relations inverses :

R_xy(τ) = (1/2π) ∫_−∞^+∞ Ψ_xy(ω) e^jωτ dω

Propriétés :

• Ψ_xy(ω) = Ψ_yx(−ω) = Ψ_xy^*(ω)

Processus stochastiques remarquables

Processus gaussien

Un processus stochastique x(t) est gaussien si pour toute partition finie {t₁, ..., t_n}, le vecteur [x(t₁), ..., x(t_n)] est gaussien. Sa loi est entièrement déterminée par la moyenne et la covariance, ce qui en fait un processus du second ordre.

Propriété : un processus gaussien stationnaire au sens large est aussi stationnaire au sens strict.

Exemple

Le processus x(t) = a + b t, où a et b sont des variables gaussiennes non corrélées de moyenne nulle et variance unitaire, est gaussien. Sa matrice de covariance est :

P = [
  1 + t1²   1 + t1 t2  ... 1 + t1 tn
  ...       ...        ... ...
  1 + tn t1  ...  1 + tn²
]

Processus markovien

Un processus stochastique x(t) est markovien si la connaissance de l’état présent suffit à décrire la distribution future, indépendamment du passé :

P[x(t_n) < α_n | x(t_n−1), ..., x(t₁)] = P[x(t_n) < α_n | x(t_n−1)]

La fonction densité de probabilité de transition px(t_n) / x(t_n−1) est ainsi définie.

Propriété : un processus markovien est un processus du second ordre.

Exemple

La suite définie par l’équation aux différences :

x_n+1 = x_n + w_n, n = 0, 1, ...

où les w_i sont des variables gaussiennes indépendantes, est un processus markovien gaussien.

Marche aléatoire

Processus en temps discret et à état discret, modélisant un déplacement aléatoire par pas successifs.

À chaque pas, on avance d’une distance s à droite ou à gauche selon le résultat d’un lancer de pièce. La position après n pas est :

x(nT) = m s, avec m = 2k − n, où k est le nombre de faces obtenues en n lancers.

La probabilité de cette position est :

P[x(nT) = m s] = C_kⁿ / 2ⁿ

Les moments sont :

• E[x(nT)] = 0
• E[x²(nT)] = n s²

Pour n grand, la distribution tend vers une loi normale centrée.

Bruit blanc

Définition (séquence blanche)

Une séquence aléatoire blanche {x_n} est une séquence de Markov telle que :

p_xk/xl(α_k/α_l) = p_xk(α_k) pour k > l

Les variables sont mutuellement indépendantes et totalement imprévisibles.

Bruit blanc gaussien

Un bruit blanc gaussien est un processus stochastique gaussien défini par :

• E[x(t)] = m_x(t)
• P(t, τ) = V(t) δ(t − τ)

où V(t) ≥ 0 est l’intensité du bruit et δ(•) l’impulsion de Dirac.

Si V(t) est constante, le processus est stationnaire au sens large avec une densité spectrale de puissance :

Ψ_x(ω) = V

Cette densité est uniforme, justifiant le terme de bruit blanc par analogie avec la lumière blanche.

Remarque : la puissance totale d’un bruit blanc stationnaire est infinie, ce qui montre que ce processus n’existe pas physiquement. Mathématiquement, le bruit blanc gaussien est la dérivée d’un processus de Wiener.

Bruit blanc à bande limitée

Un signal aléatoire est un bruit blanc à bande limitée si :

Ψ_x(ω) = η/2 pour |ω| ≤ ω_B, et 0 sinon.

La fonction d’autocorrélation est :

R_x(τ) = (η ω_B / 2π) (sin ω_B τ) / (ω_B τ)

Processus aléatoire à bande étroite

Un processus stationnaire à moyenne nulle et densité spectrale de puissance non nulle uniquement dans une bande étroite de largeur 2W est appelé processus à bande étroite.

Glossaire des termes clés

• Processus stochastique : famille de variables aléatoires indexées par le temps.
• Stationnarité au sens strict : invariance de la loi conjointe sous translation temporelle.
• Stationnarité au sens large : moyenne constante et covariance ne dépendant que de la différence de temps.
• Ergodicité : égalité entre moyenne temporelle et moyenne statistique pour toutes les réalisations.
• Densité spectrale de puissance : transformée de Fourier de la fonction d’autocorrélation.
• Processus gaussien : processus dont toute réalisation finie est un vecteur gaussien.
• Processus markovien : processus dont le futur ne dépend que du présent, pas du passé.
• Marche aléatoire : processus discret modélisant un déplacement par pas aléatoires.
• Bruit blanc : processus à valeurs indépendantes, souvent gaussien, avec densité spectrale uniforme.
• Bruit blanc à bande limitée : bruit blanc dont la densité spectrale est nulle hors d’une bande de fréquences.
• Densité spectrale croisée : transformée de Fourier de la fonction d’intercorrélation entre deux processus.

Points clés à retenir

• Un signal aléatoire est modélisé par un processus stochastique, famille de variables aléatoires indexées par le temps.
• Les processus du second ordre sont caractérisés par leurs moments d’ordre un et deux (moyenne, covariance).
• La stationnarité et l’ergodicité sont des propriétés essentielles pour l’analyse des signaux aléatoires.
• La densité spectrale de puissance décrit la répartition de la puissance moyenne du signal en fréquence.
• Les processus gaussiens et markoviens sont des modèles fondamentaux en traitement du signal.
• Le bruit blanc gaussien est un modèle idéal de bruit, avec une densité spectrale constante sur toutes les fréquences.
• Le bruit blanc à bande limitée est une version plus réaliste du bruit blanc, avec une bande spectrale finie.