INSA
Signaux al´eatoires
Notes de cours
Version 2.0
D. Arzelier
Avertissement : Ce document est constitu´e de notes de cours et ne pr´etend
donc ni a l’exhaustivit´e ni a l’originalit´e. Ces notes doivent en effet beaucoup
aux emprunts faits aux ouvrages r´ef´erenc´es en bibliographie.
3
Notations
- R : corps des nombres r´eels.
- A(cid:1) : matrice transpos´ee de la matrice A.
- A > 0 : A matrice d´efinie positive.
- A ≥ 0 : A matrice semi-d´efinie positive.
- (cid:2) • (cid:2) : norme Euclidienne pour un vecteur et induite par la norme Eu-
clidienne pour une matrice.
- P [•] : probabilit´e simple.
- P [•/•] : probabilit´e conditionnelle.
- v.a. : variable al´eatoire.
- V.A. : vecteur al´eatoire.
- E[•] : esp´erance math´ematique.
- E[x/y] : esp´erance conditionnelle de x sachant y.
- px(α) : densit´e de probabilit´e de la v.a. x.
- px1,··· ,xn(α1, · · · , αn) : densit´e de probabilit´e conjointe.
- px/y(α/β) : densit´e de probabilit´e conditionnelle.
- Z ∼ N (mZ, QZ) : vecteur gaussien de moyenne mZ et de matrice de
covariance QZ.
- R(t, τ ) : matrice d’autocorr´elation.
- P (t, τ ) : matrice d’autocovariance.
4
- δkl : symbole de Kronecker.
- δ(t) : impulsion de Dirac.
- 1n : matrice identit´e de dimension n.
- 0n×m : matrice nulle de dimensions n × m.
TABLE DES MATI `ERES
5
Table des mati`eres
1 Introduction `a l’´etude des processus stochastiques
11
1.1
Introduction et d´efinition . . . . . . . . . . . . . . . . . . . . . 11
1.2 Caract´erisations probabilistes des processus stochastiques . . . 13
1.2.1 Loi de distribution . . . . . . . . . . . . . . . . . . . . 13
1.2.2 Processus du second ordre . . . . . . . . . . . . . . . . 14
1.2.3 Caract´eristiques statistiques . . . . . . . . . . . . . . . 14
1.3 Caract´eristiques importantes . . . . . . . . . . . . . . . . . . . 16
Stationnarit´e au sens strict . . . . . . . . . . . . . . . . 16
1.3.1
1.3.2
Stationnarit´e au sens large . . . . . . . . . . . . . . . . 16
1.3.3 Ergodicit´e . . . . . . . . . . . . . . . . . . . . . . . . . 17
1.3.4 La densit´e spectrale de puissance . . . . . . . . . . . . 18
1.3.5
Ind´ependance et d´ecorr´elation . . . . . . . . . . . . . . 22
1.3.6 Densit´e spectrale crois´ee . . . . . . . . . . . . . . . . . 23
2 Processus stochastiques remarquables
25
2.1 Processus gaussien . . . . . . . . . . . . . . . . . . . . . . . . 25
2.2 Processus markovien . . . . . . . . . . . . . . . . . . . . . . . 26
2.3 La marche al´eatoire . . . . . . . . . . . . . . . . . . . . . . . . 28
. . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
2.4 Bruit blanc
. . . . . . . . . . . . . . . . . . . 31
2.5 Bruit blanc `a bande limit´ee
2.6 Processus al´eatoire `a bande ´etroite
. . . . . . . . . . . . . . . 31
2.7 Processus de Wiener
. . . . . . . . . . . . . . . . . . . . . . . 33
2.8 Processus de Poisson . . . . . . . . . . . . . . . . . . . . . . . 35
3 Syst`emes lin´eaires et processus stochastiques : th´eorie fr´equentielle 37
3.1 Filtrage lin´eaire des signaux al´eatoires
. . . . . . . . . . . . . 37
3.1.1 Moyenne et corr´elation du signal de sortie . . . . . . . 38
3.1.2 Densit´e spectrale de puissance du signal de sortie . . . 38
3.2 Repr´esentation spectrale des signaux al´eatoires . . . . . . . . . 40
6
TABLE DES MATI `ERES
4 Syst`emes lin´eaires et processus gaussiens-markoviens
43
4.1 Syst`emes discrets . . . . . . . . . . . . . . . . . . . . . . . . . 43
4.1.1 La moyenne ou esp´erance math´ematique . . . . . . . . 44
4.1.2 La matrice de covariance . . . . . . . . . . . . . . . . . 44
4.1.3 Nature du processus stochastique xk
. . . . . . . . . . 46
4.1.4 Processus stationnaires . . . . . . . . . . . . . . . . . . 47
4.1.5 Fonction densit´e de probabilit´e de transition . . . . . . 48
4.2 Syst`emes continus . . . . . . . . . . . . . . . . . . . . . . . . . 49
4.2.1 Esp´erance math´ematique . . . . . . . . . . . . . . . . . 50
4.2.2 Matrice de covariance . . . . . . . . . . . . . . . . . . . 50
4.2.3 Nature du processus stochastique x(t) . . . . . . . . . . 51
4.2.4 Processus stationnaires . . . . . . . . . . . . . . . . . . 52
4.3 Processus g´en´erateur - repr´esentation de markov . . . . . . . . 53
4.3.1 D´efinition . . . . . . . . . . . . . . . . . . . . . . . . . 53
4.3.2 Quelques exemples
. . . . . . . . . . . . . . . . . . . . 54
4.3.3 Constante al´eatoire . . . . . . . . . . . . . . . . . . . . 54
4.3.4 La marche al´eatoire . . . . . . . . . . . . . . . . . . . . 54
4.3.5 Variable al´eatoire exponentiellement corr´el´ee . . . . . . 55
A Rappels de la th´eorie des probabilit´es
A.3 Vecteurs al´eatoires
59
A.1 Approche empirique des ph´enom`enes al´eatoires . . . . . . . . . 60
A.2 Th´eorie axiomatique des probabilit´es . . . . . . . . . . . . . . 63
A.2.1 Espace probabilis´e
. . . . . . . . . . . . . . . . . . . . 63
. . . . . . . . . . . . . . . 65
A.2.2 Probabilit´es conditionnelles
A.2.3 Variables al´eatoires . . . . . . . . . . . . . . . . . . . . 67
A.2.4 Propri´et´es statistiques des v.a. . . . . . . . . . . . . . . 72
A.2.5 Exemples de lois de distribution . . . . . . . . . . . . . 75
. . . . . . . . . . . . . . . . . . . . . . . . 78
A.3.1 Loi de distribution conjointe . . . . . . . . . . . . . . . 78
. . . . . . . . . . . . . . 81
A.3.2 Loi de distribution marginale
. . . . . . . . . . . . . . . . . . 82
A.3.3 Propri´et´es statistiques
. . . . . . . . . . . . . . . . . 84
A.3.4 Un th´eor`eme important
A.4 Distributions conditionnelles . . . . . . . . . . . . . . . . . . . 84
A.4.1 D´efinition . . . . . . . . . . . . . . . . . . . . . . . . . 84
A.4.2 La rˆegle de Bayes . . . . . . . . . . . . . . . . . . . . . 86
. . . . . . . . . . . . . . . . . . 86
A.4.3 Propri´et´es statistiques
. . . . . . . . . . . . . . . . 87
A.4.4 Propri´et´e d’ind´ependance
. . . . . . . . . . . . . . . . . . . . . . . . 87
A.5.1 D´efinition . . . . . . . . . . . . . . . . . . . . . . . . . 87
A.5.2 Propri´et´es . . . . . . . . . . . . . . . . . . . . . . . . . 88
A.5 Vecteurs gaussiens
7
B Rappels sur la transform´ee de Fourier
91
B.1 D´efinition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
B.2 Propri´et´es de la transform´ee de Fourier . . . . . . . . . . . . . 92
B.2.1 Lin´earit´e . . . . . . . . . . . . . . . . . . . . . . . . . . 92
B.2.2 D´erivation . . . . . . . . . . . . . . . . . . . . . . . . . 92
B.2.3 D´ecalage temporel
. . . . . . . . . . . . . . . . . . . . 92
B.2.4 Convolution . . . . . . . . . . . . . . . . . . . . . . . . 92
. . . . . . . . . . . . . . . . . . . 92
B.2.5 Relation de Parseval
B.3 Table de transform´ee . . . . . . . . . . . . . . . . . . . . . . . 93
8
Tables des mati`eres
Introduction g´en´erale
9
Introduction g´en´erale
La n´ecessit´e d’introduire la notion de signal al´eatoire ou de processus
stochastique provient de la constatation facile `a ´etablir que le cadre d´efini
par les signaux d´eterministes est insuffisant pour d´ecrire et ´etudier l’en-
semble des probl`emes rencontr´e en Automatique, en th´eorie de l’estimation
et en traitement du signal. En effet, partant du fait qu’un signal “natu-
rel” est plus ou moins impr´evisible et `a ce titre transporte de l’informa-
tion, la limitation du mod`ele d´eterministe des signaux apparaˆıt clairement
sachant qu’il ne comprend aucun ´el´ement d’incertitude et ne transporte
donc aucune information. Si l’on ajoute qu’en tout ´etat de cause aucun
mod`ele math´ematique ne peut pr´etendre repr´esenter exactement la r´ealit´e,
qu’il est ´egalement n´ecessaire de pr´evoir et de mod´eliser les perturbations non
pr´evisibles de maniere d´eterministe et que tout systeme de mesure fournit des
donn´ees incompl`etes et bruit´ees, il semble alors naturel de souhaiter disposer
d’un mod`ele compl´ementaire refl´etant l’aspect al´eatoire entrant dans toute
repr´esentation et mod´elisation des signaux et syst`emes.
Dans le cadre de ce cours, nous nous limiterons volontairement `a l’´etude de
la mod´elisation des signaux al´eatoires et a leur transmission par des systemes
lin´eaires. Afin de mieux circonscrire math´ematiquement l’objet en question,
nous nous pla¸cons volontairement dans un cadre probabiliste. Nous utilise-
rons donc de mani`ere privil´egi´ee le cadre math´ematique de la th´eorie axioma-
tique des probabilit´es d´evelopp´ee par Kolmogorov. Il sera donc suppos´e que
nous disposons de suffisamment de connaissance a priori sur le signal pour
permettre une description appropri´ee de ses propri´et´es moyennes. La majeure
partie du cours sera donc consacr´ee `a la d´efinition des caract´eristiques sta-
tistiques essentielles ainsi qu’aux caract´eristiques temporelles. Les propri´et´es
de ces caract´eristiques et les rapports qu’elles entretiennent permettront de
d´efinir les notions essentielles d’ergodicit´e et de stationnarit´e. Un chapˆıtre
sera ´egalement consacr´e `a l’´etude de signaux al´eatoires remarquables. Fina-
lement, la transmission des signaux al´eatoires par les syst`emes lin´eaires sera
´etudi´ee en d´etails. Dans tout ce qui pr´ec`ede, seul le terme de signal al´eatoire a
´et´e employ´e. Le terme de processus stochastique est ´egalement fr´equent dans
10
Introduction g´en´erale
la litt´erature. Un signal al´eatoire est l’image d’une grandeur associ´ee `a un
ph´enom`ene physique al´eatoire g´en´eralement appel´e processus stochastique.
Dans la suite, ces deux termes seront confondus et utilis´es indiff´eremment.
11
Chapitre 1
Introduction `a l’´etude des
processus stochastiques
1.1 Introduction et d´efinition
La notion de processus stochastique est une notion fondamentale qui
Advertisement
va servir d’une part a la d´efinition de modeles pour les perturbations, les
ph´enomenes de bruit mais ´egalement a la d´efinition des ´equations aux diff´erences
et ´equations diff´erentielles stochastiques. Les solutions de ces ´equations sto-
chastiques d´efiniront ´egalement des processus stochastiques poss´edant des
propri´et´es particuli`eres.
D´efinition 1.1.1 : processus stochastique
Un processus stochastique (scalaire ou vectoriel) est d´efini comme
une famille de variables ou vecteurs al´eatoires index´ee par un ensemble de
param`etres t ∈ T , que l’on va consid´erer dans la suite du cours comme ´etant
le temps. La notation est {xt(ω) | t ∈ T }. T peut ˆetre un ensemble discret ou
continu.
C’est donc une fonction de deux parametres : le temps et ω parametre al´eatoire
(r´esultat d’une exp´erience).
- Pour chaque t, xt(•) est une variable al´eatoire ´egale `a l’´etat du
processus consid´er´e `a l’instant t.
- Pour ω fix´e, x•(ω) est une r´ealisation du processus qui est une
fonction du temps.
- Pour t et ω fix´es, xt(ω) est un nombre.
12
Introduction `a l’´etude des processus stochastiques
Si la variable (vecteur) al´eatoire prend ses valeurs dans un espace discret,
on dira que c’est une chaˆıne, ou un processus stochastique `a ´etat dis-
cret, qui peut ˆetre d´efini en temps discret ou en temps continu. Dans le cas
contraire, le processus sera d´efini comme un processus stochastique `a
´etat continu en temps discret ou continu. Dans le cadre de ce cours, nous
nous int´eresserons principalement aux processus `a ´etat continu qui, en temps
discret sont appel´es s´equences al´eatoires et dans le cas continu plus sim-
plement processus stochastiques si aucune confusion n’est possible. La
notation est alors simplifi´ee en x(t) pour un processus en temps continu et
xt pour une s´equence.
Exemple :
Soit un satellite en orbite p´eriodique autour de la terre pour lequel on souhaite
connaˆıtre les param`etres orbitaux afin d’analyser et de corriger d’´eventuelles
phases de d´erive. On dispose pour cela de plusieurs instruments de mesure
fonctionnant en parall`ele. La restitution de l’altitude x(t) du satellite par
l’ensemble de ses capteurs d´efinit un signal al´eatoire analogique en temps
continu.
Ω
ω
i
ω
1
ω
2
ω
n
résultat i
ω1
x ( )
t
t1
t
2
ω
x ( )
1
t1
ω2
x ( )
t
ω
x ( )
1
t2
ω
x ( )
t1
2
t1
2ω
x ( )
t2
t
2
n
ω n
x ( )
t1
ωn
x ( )
t
t1
x
1
t
2
ωn
x ( )
t2
x
2
t
t
t
Fig. 1.1 – restitution d’un param`etre orbital d’un satellite
1.2. CARACT ´ERISATIONS PROBABILISTES DES PROCESSUS STOCHASTIQUES13
1.2 Caract´erisations probabilistes des proces-
sus stochastiques
1.2.1 Loi de distribution
Soit {xt(ω) | t ∈ T } un processus stochastique. T peut ˆetre continu ou
discret. Pour n’importe quelle partition {t1, · · · , tn} de T , qui peut ˆetre ob-
tenue par discr´etisation dans le cas continu, la loi de distribution conjointe
des variables (vecteurs) al´eatoires xt1, · · · , xtn est appel´ee loi de distribu-
tion finie du processus. Le processus stochastique peut ˆetre caract´eris´e par la
d´efinition de la loi de distribution finie pour tous les ensembles finis {ti} ∈ T ,
donn´ee de mani`ere ´equivalente par :
- La fonction de r´epartition conjointe :
Fx(t1),··· ,x(tn)(α1, · · · , αn)
- La fonction densit´e de probabilit´e :
px(t1),··· ,x(tn)(α1, · · · , αn)
pour toutes les partitions {ti} ∈ T .
Sp´ecifier l’une des deux fonctions pr´ec´edentes ∀ {ti} ∈ T , consiste `a d´efinir
la loi de probabilit´e du processus stochastique.
Exemple :
Un processus stochastique x(t) peut ˆetre d´efini par :
x(t) = a + bt
o`u a, b sont des variables al´eatoires de distribution connue. On suppose
de plus que a, b sont deux variables al´eatoires conjointement normalement
distribu´ees. Puisque l’on peut ´ecrire :
x(t1)
...
x(tn)
=
1 t1
...
...
1 tn
(cid:7)
(cid:8)
a
b
On peut dire que le vecteur al´eatoire [x(t1), · · · , x(tn)](cid:1) est un vecteur gaus-
sien dont la moyenne et la covariance peuvent ˆetre donn´ees `a partir de la
moyenne et de la covariance de [a b](cid:1).
14
Introduction `a l’´etude des processus stochastiques
1.2.2 Processus du second ordre
Soit un processus stochastique {xt(ω) | t ∈ T }. Bien que non suffisantes
dans le cas le plus g´en´eral, la sp´ecification des densit´es de probabilit´e du
premier ordre et du deuxi`eme ordre est souvent int´eressante :
- Densit´e du premier ordre :
px(t)(α) = p(α, t)
- Densit´e du deuxi`eme ordre :
px(t),x(τ )(α, β) = p(α, β, t, τ )
Ces fonctions ne suffisent, en g´en´eral, pas a la caract´erisation complete des
processus stochastiques mais il existe certaines classes de processsus (gaus-
siens - markoviens) pour lesquelles la loi de distribution est enti`erement
d´etermin´ee par la connaissance des fonctions densit´e de probabilit´e, au se-
cond ordre.
D´efinition 1.2.1 : processus du second ordre
Un processus stochastique caract´eris´e enti`erement par ses lois de distribu-
tions au premier et deuxi`eme ordre est appel´e processus du second ordre.
1.2.3 Caract´eristiques statistiques
A partir de ces fonctions densit´e de probabilit´e, peuvent ˆetre d´efinis les
moments du processus stochastique.
D´efinition 1.2.2 : moyenne
Soit un processus stochastique {xt(ω) | t ∈ T } not´e x(t), alors la moyenne
de x(t) est d´efinie par :
(cid:9) +∞
mx(t) = E[x(t)] =
αp(α, t)dα
−∞
C’est une fonction du param`etre t.
D´efinition 1.2.3 : matrice d’autocorr´elation et d’autocovariance
On peut d´efinir la matrice d’autocorr´elation
R(t, τ ) = E[x(t)x(τ )(cid:1)]
Caract´erisations probabilistes des processus stochastiques
15
dont les ´el´ements sont :
(cid:9) +∞
(cid:9) +∞
rij(t, τ ) =
αiβjp[α, t, β, τ ]dαdβ
−∞
−∞
et la matrice d’autocovariance :
P (t, τ ) = E[(x(t) − mx(t))(x(τ ) − mx(τ ))(cid:1)]
On v´erifie ais´ement les propri´et´es suivantes :
Advertisement
Propri´et´e 1.2.1 :
- P (t, τ ) = P (τ, t) ∀ t, τ
- R(t, τ ) = R(τ, t) ∀ t, τ
- R(t, t) ≥ 0 ∀ t
- Q(t) = P (t, t) ≥ 0 ∀ t
- P (t, τ ) = R(t, τ ) − mx(t)mx(τ )(cid:1) ∀ t, τ
Le pr´efixe ”auto”, souvent omis, n’est utilis´e que lorsqu’il peut y avoir confu-
sion avec l’intercorr´elation et l’intercovariance, d´efinies par rapport `a deux
processus stochastiques distincts x(t) et y(t) par :
Γxy(t, τ ) = E[x(t)y(τ )(cid:1)]
pour l’intercorr´elation et :
Cxy(t, τ ) = E[(x(t) − mx(t))(y(τ ) − my(τ ))(cid:1)]
pour l’intercovariance.
La moyenne et la matrice de corr´elation sont g´en´eralement plus faciles `a
manipuler que la loi de probabilit´e et n’en donne pas moins de nombreuses
informations sur le processus.
Exemple :
Soit le processus stochastique :
x(t) = a + bt
de l’exemple pr´ec´edent. Les moments de ce processus sont donn´es par :
mx(t) = E[a] + tE[b] = ma + tmb
r(t, τ ) = E[a2] + (t + τ )E[ab] + tτ E[b2]
p(t, τ ) = var(a) + cov(a, b)(t + τ ) + var(b)tτ
On peut noter que ces moments ne d´ependent que des moments de a et b.
16
Introduction `a l’´etude des processus stochastiques
1.3 Caract´eristiques importantes
La stationnarit´e fixe la propri´et´e d’invariance par rapport au temps t des
lois de probabilit´e qui caract´erisent le processus stochastique. Elle est en
pratique tr`es importante et peut ˆetre d´efinie de diff´erentes fa¸cons.
1.3.1 Stationnarit´e au sens strict
D´efinition 1.3.1 : stationnarit´e au sens strict
x(t) est dit stationnaire au sens strict, sur T intervalle de d´efinition,
si pour toute partition {t1, t2, · · · , tn} de T :
∀ n, ∀ θ, px(t1),··· ,x(tn)(α1, · · · , αn) = px(t1+θ),··· ,x(tn+θ)(α1, · · · , αn)
1.3.2 Stationnarit´e au sens large
La stationnarit´e au sens large est une notion plus pratique qui est d´efinie
a l’ordre deux et g´en´eralement a partir des deux premiers moments du pro-
cessus.
D´efinition 1.3.2 : stationnarit´e au sens large
x(t) est un processus stochastique stationnaire au sens large si
mx(t) = mx (ind´ependant du temps)
P (t, τ ) = P (t − τ )
Dans la condition pr´ec´edente, la covariance peut ˆetre de fa¸con ´equivalente
remplac´ee par la corr´elation.
Caract´eristiques importantes
17
Exemple :
Le processus
x(t) = acos(2πt) + bsin(2πt)
o`u a, b sont des variables al´eatoires non corr´el´ees de moyenne nulle et de
variance unit´e est stationnaire au sens large :
m(t) = 0
r(t + τ, t) = cos(2πτ )
Nota : il est `a noter qu’un processus stationnaire au sens strict est stationnaire
au sens large mais la r´eciproque n’est pas n´ecessairement vraie.
1.3.3 Ergodicit´e
On a d´efini pr´ec´edemment des moyennes statistiques `a des instants donn´es.
Il est ´egalement int´eressant de d´efinir des moyennes temporelles.
D´efinition 1.3.3 : moyenne temporelle
On d´efinit la moyenne temporelle d’un ´echantillon du processus par la
relation :
< x(t) >= lim
T →+∞
(cid:9) T
−T
1
2T
x(t)dt
lorsque cette limite existe.
Nota : d’autres moyennes temporelles peuvent ˆetre d´efinies. Par exemple :
< x2(t) >= lim
T →+∞
1
2T
x2(t)dt
−T
(cid:9) T
La limite ainsi d´efinie peut ne pas exister pour certains ´echantillons ou
d´ependre de l’´echantillon mais elle ne d´epend pas du temps. Toutefois, il
existe des cas o`u la moyenne temporelle et la moyenne statistique sont ´egales.
D´efinition 1.3.4 : ergodicit´e
Un processus stochastique x(t) est ergodique si toutes les moyennes tem-
porelles existent et ont mˆeme valeur quelque soit l’´echantillon.
(cid:9) t1
∀ f,
[
lim
t1→∞
1
t1 − t0
f [x(t)]dt] = E[f (x(t))]
(1.1)
t0
Cette notion d’ergodicit´e est tr`es importante du fait que pratiquement, pour
´evaluer les moyennes statistiques, l’on ne dispose g´en´eralement que d’un
´echantillon sur lequel on fait une moyenne temporelle. Ce proc´ed´e n’a de
valeur que si le processus stochastique est stationnaire et ergodique.
18
Introduction `a l’´etude des processus stochastiques
1.3.4 La densit´e spectrale de puissance
En th´eorie du signal, les spectres sont associ´es `a la transform´ee de Fourier.
Dans le cas de signaux d´eterministes, c’est une fa¸con de repr´esenter les si-
gnaux comme une superposition d’exponentielles. Pour les signaux al´eatoires,
il s’agit principalement d’´etudier la transform´ee des moyennes.
Caract´eristiques importantes
19
D´efinition 1.3.5 : puissance
On d´efinit la puissance moyenne d’un processus stochastique station-
naire au sens large par :
- Cas continu x(t) :
- Cas discret xN :
Propri´et´e 1.3.1 :
p = E[x(cid:1)(t)x(t)]
p = lim
N →+∞
1
2N + 1
N(cid:13)
−N
x2
N
p = T race[Rx(0)]
Soit un processus stochastique x(t) stationnaire au sens large et poss´edant
une matrice de corr´elation Rx(t − τ ) = Rx(τ ).
D´efinition 1.3.6 : densit´e spectrale de puissance
La densit´e spectrale de puissance Ψx(ω) du processus stochastique
x(t) est d´efinie comme la transformation de Fourier, si elle existe, de la
matrice de corr´elation Rx(τ ) :
R´eciproquement,
Ψx(ω) =
(cid:9) ∞
−∞
e−jωτ Rx(τ )dτ
Rx(τ ) = 1
2π
(cid:9) ∞
−∞
ejωτ Ψx(ω)dω
Les deux relations pr´ec´edentes sont connues sous le nom de formules de
Wiener-Khinchin. Ψx(ω) est une matrice complexe poss´edant les propri´et´es :
Propri´et´e 1.3.2 :
- Ψx(−ω) = Ψx(ω)(cid:1) ∀ ω
- Ψ∗
x(ω) = Ψx(ω) ∀ ω
20
Introduction `a l’´etude des processus stochastiques
- Ψx(ω) ≥ 0 ∀ ω
(cid:9) ∞
−∞
-
1
2π
Ψx(ω)dω = Rx(0)
Exemple :
Soit le processus stochastique v(t) stationnaire au sens large de matrice de
corr´elation :
(cid:7)
Rv(t − τ ) = σ2exp
−
(cid:8)
|t − τ |
θ
θ > 0
Il est facile de montrer par le calcul que :
Ψv(ω) =
2σ2θ
1 + ω2θ2
Nous donnons quelques exemples de densit´e spectrale de puissance de pro-
1
0.9
0.8
0.7
0.6
0.5
0.4
0.3
0.2
0.1
)
a
g
e
m
o
(
Advertisement
i
h
P
0
−10
−8
−6
−4
−2
0
omega
2
4
6
8
10
Fig. 1.2 – Spectre de v(t)
Caract´eristiques importantes
21
cessus stochatiques d´efinis par leur matrice de corr´elation.
Rx(τ )
δ(τ )
ejβτ
e−α|τ |
Ψx(ω)
1
2π(δ(ω − β)
2α
α2 + ω2
e−α|τ |cos(βτ )
α
α2 + (ω − β)2 +
α
α2 + (ω + β)2
1
2πδ(ω)
cos(βτ )
πδ(ω + β) + πδ(ω − β)
L’introduction de la densit´e spectrale de puissance peut se justifier `a travers
le r´esultat suivant.
Th´eor`eme 1.3.1 :
Soit le processus stochastique x(t), alors pour toute matrice sym´etrique
W (t) :
E[x(t)(cid:1)W (t)x(t)] = T race[W (t)Rx(t, t)]
Si, de plus, x(t) est stationnaire au sens large de moyenne nulle et W est
constante alors :
E[x(t)(cid:1)W x(t)] = T race[W Rx(0)] =
1
2π
T race[
W Ψx(ω)dω]
−∞
(cid:9) ∞
Ce r´esultat permet de donner une interpr´etation au terme densit´e spec-
trale de puissance. En effet, la ”puissance” totale E[x(t)(cid:1)W x(t)] d’un pro-
cessus stochastique de moyenne nulle et stationnaire au sens large est ob-
tenue par int´egration de T race[W Ψx(ω)] sur toutes les fr´equences. Ainsi,
22
Introduction `a l’´etude des processus stochastiques
T race[W Ψx(ω)] peut ˆetre consid´er´ee comme une mesure de la densit´e de
puissance `a la pulsation ω. La matrice W est une matrice de pond´eration
qui d´etermine la contribution des divers composantes de x(t) `a la puissance.
La densit´e spectrale de puissance repr´esente la r´epartition harmonique de la
puissance moyenne p de x(t).
1.3.5 Ind´ependance et d´ecorr´elation
Il est possible d’´etendre les notions d’ind´ependance et de d´ecorr´elation
aux processus stochastiques.
D´efinition 1.3.7 : ind´ependance
Soient v1(t), v2(t) deux processus stochastiques. Alors v1(t), v2(t) sont
m)}
dits ind´ependants si {v1(t1), v1(t2), · · · , v1(tl)} et {v2(t(cid:1)
sont des ensembles ind´ependants de vecteurs al´eatoires pour tous les
t1, t2, · · · , tl, t(cid:1)
De mˆeme,
m et pour tout m et l.
2), · · · , v2(t(cid:1)
1, · · · , t(cid:1)
1), v2(t(cid:1)
D´efinition 1.3.8 : d´ecorr´elation
v1(t), v2(t) sont dits d´ecorr´el´es si v1(t1) et v2(t2) sont des vecteurs
al´eatoires d´ecorr´el´es pour tous les t1, t2.
Soient deux processus stochastiques x(t) et y(t).
D´efinition 1.3.9 : matrice d’intercorr´elation et d’intercovariance
On d´efinit
- la matrice d’intercorr´elation par :
Rxy(t1, t2) = E[x(t1)y(cid:1)(t2)]
- la matrice d’intercovariance par :
Pxy(t1, t2) = Rxy(t1, t2) − mx(t1)m(cid:1)
y(t2)
Une notion importante li´ee `a ces concepts est l’orthogonalit´e.
D´efinition 1.3.10 : orthogonalit´e
x(t), y(t) sont deux processus stochastiques orthogonaux si
Rxy(t1, t2) = 0
∀ t1, t2
De plus,
D´efinition 1.3.11 : d´ecorr´elation
x(t), y(t) sont deux processus stochastiques d´ecorr´el´es si
Pxy(t1, t2) = 0
∀ t1, t2
Caract´eristiques importantes
23
1.3.6 Densit´e spectrale crois´ee
D´efinition 1.3.12 :
La densit´e spectrale crois´ee ou interspectre de puissance a pour
d´efinition :
aussi bien que :
Ψxy(ω) =
Ψyx(ω) =
(cid:9) ∞
−∞
(cid:9) ∞
−∞
Rxy(τ )e−jωτ dτ
Ryx(τ )e−jωτ dτ
R´eciproquement, on aura :
Rxy(ω) =
(cid:9) ∞
1
2π
(cid:9) ∞
Ψxy(τ )ejωτ dω
−∞
Rxy(ω) =
Ψxy(τ )ejωτ dω
−∞
Du fait des propri´et´es de l’intercorr´elation, on a :
Ψxy(ω) = Ψyx(−ω) = Ψ∗
xy(ω)
24
Introduction `a l’´etude des processus stochastiques
25
Chapitre 2
Processus stochastiques
remarquables
2.1 Processus gaussien
Les processus gaussiens sont des processus tr`es importants du fait qu’on
les rencontre tr`es souvent en pratique et du fait que de nombreux proces-
sus physiques sont approximativement gaussiens. Ceci est la cons´equence du
th´eoreme de la limite centrale. Sans entrer dans les d´etails, le th´eoreme de la
limite centrale ´etablit que si l’on consid`ere la somme :
x = x1 + · · · + xn
o`u xi sont des variables al´eatoires ind´ependantes, alors sous certaines condi-
tions, la distribution de probabilit´e de x approche la distribution gaussienne
quand n → ∞.
D´efinition 2.1.1 : processus gaussien
Le processus stochastique x(t) est gaussien si pour toute partition
{t1, t2, · · · , tn} de T , le vecteur des variables al´eatoires [x(t1), · · · , x(tn)] est
gaussien.
La loi de distribution d’un vecteur gaussien est enti`erement d´etermin´ee par
la connaissance des moments du premier ordre (moyenne et covariance) qui,
eux-mˆemes, ne n´ecessitent pour leur calcul que les fonctions densit´e de pro-
babilit´e du premier et du second ordre px(α, t), px(α, t, β, τ ). Il s’agit donc
bien d’un processus du second ordre. Noter que la fonction du premier ordre
peut ˆetre calcul´ee `a partir de celle du second ordre par la fonction marginale :
(cid:9) +∞
px(α, t) =
px(α, t, β, τ )dβ
−∞
26
Processus stochastiques remarquables
Propri´et´e 2.1.1 :
Un processus gaussien stationnaire au sens large l’est au sens strict.
Exemple :
Soit le processus d´efini par :
x(t) = a + bt
o`u a, b sont des variables al´eatoires gaussiennes non corr´el´ees de moyenne
nulle et de variance unit´e. Alors, r´e´ecrivant
x(t1)
...
x(tn)
=
1 t1
...
...
1 tn
on peut trouver que :
(cid:7)
(cid:8)
Advertisement
a
b
E[x(t1), · · · , x(tn)](cid:1) = 0
1 + t2
1
...
1 + tnt1
· · ·
...
· · ·
1 + t1tn
...
1 + t2
n
P =
Le processus est de plus gaussien.
De par le th´eor`eme de la limite centrale dont nous avons parl´e en d´ebut
de section, un processus gaussien est souvent un bon mod`ele pour le bruit
dans les circuits physiques tels que les transmetteurs et r´ecepteurs radios, les
radars etc.
2.2 Processus markovien
Cette classe de processus stochastiques est importante du fait qu’elle
g´en´eralise `a l’univers stochastique une propri´et´e fondamentale des ´equations
diff´erentielles ordinaires. En effet, la solution x(t2) = g(t2, x(t1), t1) de l’´equation
diff´erentielle ˙x(t) = f (x(t)) est une fonction de x(t1) et ne d´epend pas de
x(τ ), τ < t1.
D´efinition 2.2.1 : processus markovien
Le processus stochastique x(t) est markovien si ∀ {t1, t2, · · · , tn} de T :
P [x(tn) < αn/x(tn−1), · · · , x(t1)] = P [x(tn) < αn/x(tn−1)]
soit en termes de fonction densit´e de probabilit´e :
px(tn)/x(tn−1),··· ,x(t1)(αn/αn−1, · · · , α1) = px(tn)/x(tn−1)(αn/αn−1)
Processus markovien
27
Toute l’information sur le pass´e est concentr´ee dans le dernier ´etat ”observ´e”.
Un processus de Markov est donc un processus stochastique dont le pass´e n’a
pas d’influence sur le futur si le pr´esent est connu.
D´efinition 2.2.2 : densit´e de probabilit´e de transition
px(tn)/x(tn−1)(αn/αn−1) est appel´ee fonction densit´e de probabilit´e de
transition.
Propri´et´e 2.2.1 :
Le processus markovien est un processus du second ordre.
En effet, la fonction densit´e de probabilit´e conjointe de (x(t1), · · · , x(tn))
s’exprime ainsi :
px(tn),x(tn−1),··· ,x(t1)(αn, αn−1, · · · , α1) = px(tn)/x(tn−1)(αn/αn−1)•
px(tn−1)/x(tn−2)(αn−1/αn−2) · · · px(t2)/x(t1)(α2/α1)px(t1)(α1)
qui se d´etermine donc `a partir de la connaissance de px(t)(α) = px(α, t), la
densit´e de probabilit´e simple et de px(t)/x(t0)(α/x0), la densit´e de probabilit´e
de transition. On rappelle que :
- px(α, t) =
∂F (α, t)
∂α
=
∂P [x(t) ≤ α]
∂α
- px(t)/x(t0)(α/x0) = px(t)/x(t0)(α/x(t0) = x0)
- px(α, t) =
(cid:9) +∞
−∞
px(x0, t0)px(t)/x(t0)(α/x0)dx0
- px(t)/x(t0)
t→t0−→ δ(α − x0)
Exemple :
On consid`ere l’´equation aux diff´erences :
xn+1 = xn + wn n = 0, 1, · · ·
o`u les variables wi sont des variables al´eatoires ind´ependantes gaussiennes
et la condition initiale x0 est gaussienne et ind´ependante de wi, ∀ i. La
s´equence {xn}n est clairement markovienne puisque pour xn donn´ee, xn+1
d´epend uniquement de wn qui est ind´ependant de xn−1, · · · , x0. De plus,
elle est ´egalement gaussienne puisque combinaison lin´eaire de variables gaus-
siennes.
Comme nous le verrons dans la suite de ce cours, les processus de Markov
ont une grande importance dans l’´etude des ´equations aux diff´erences stochas-
tiques (syst`emes dynamiques en temps discret) et dans l’´etude des ´equations
diff´erentielles stochastiques (syst`emes dynamiques en temps continu).
28
Processus stochastiques remarquables
2.3 La marche al´eatoire
La marche al´eatoire est le nom donn´e `a un processus stochastique en
temps discret et `a ´etat discret que l’on peut d´ecrire de la fa¸con suivante.
On lance une pi`ece non truqu´ee toutes les T secondes et suivant que l’on
obtient face ou pile, on effectue un pas a droite ou a gauche de longueur s. Le
processus d´ebute pour t = 0 et la position du marcheur al´eatoire `a l’instant
t suit une fonction en escalier o`u les discontinuit´es sont aux points t = nT .
x(t)
s
T
2T
t
Fig. 2.1 – Exemple de marche al´eatoire
On suppose maintenant que l’on a effectu´e n tirages de la pi`ece, pour
lesquels on a observ´e k fois pile et donc n − k fois face. La position du
marcheur al´eatoire `a l’instant t = nT est :
x(nT ) = ks − (n − k)s = ms m = 2k − n
De plus, la probabilit´e d’avoir k fois pile dans n tirages est alors :
P [x(nT ) = ms] =
Ck
n
2n
k =
m + n
2
En remarquant que :
x(nT ) = x1 + x2 + · · · + xn
o`u xi est la taille du ieme pas et les xi sont ind´ependantes. En prenant la
valeur ±s avec E[xi] = 0, E[x2
i ] = s2, on obtient :
E[x(nT )] = 0
E[x2(nT )] = ns2
2.4. BRUIT BLANC
29
Quand le nombre de tirages augmente, il est possible de montrer, en utilisant
le th´eor`eme de DeMoivre-Laplace que :
n pkqn−k (cid:9)
Ck
1√
2πnpq
e−(k−np)2/2npq
√
pour k dans un
npq voisinage de np.
Ici, p = q = 0.5 et m = 2k − n, ce qui conduit `a :
P [x(nT ) = ms] (cid:9)
1(cid:14)
nπ/2
e−m2/2n
pour m de l’ordre de
√
n.
2.4 Bruit blanc
Le bruit blanc est un processus stochastique utilis´e afin de mod´eliser les
bruits intervenant dans toute mod´elisation de syst`emes dynamiques.
D´efinition 2.4.1 : s´equence blanche
Une s´equence al´eatoire blanche {xn , n = 1, 2, · · · } est une s´equence
de markov telle que :
pxk/xl(αk/αl) = pxk(αk)
(k > l)
Cela signifie que les xk sont mutuellement ind´ependants. Connaˆıtre la r´ealisation
de xl n’aide pas `a connaˆıtre celle de xk. Une s´equence blanche est totalement
impr´evisible.
Si les xk sont normalement distribu´es alors c’est une s´equence blanche
gaussienne d´efinie par sa moyenne et sa covariance :
E[xn] = mn
P (n, k) = Vnδnk δnk =
(cid:15)
1
0
n = k
n (cid:11)= k
, Vn ≥ 0 Intensit´e
En g´en´eral, le bruit du `a la superposition d’un grand nombre de faibles
effets al´eatoires ind´ependants est gaussien (ceci provenant de l’application
du th´eor`eme de la limite centrale).
Puisque une s´equence blanche gaussienne est un bon mod`ele pour le bruit
affectant un systeme dynamique d´ecrit par un modele en temps discret, on
30
Processus stochastiques remarquables
souhaite disposer d’un ´equivalent pour les bruits affectant les mod`eles dyna-
miques en temps continu. Dans ce cas, le bruit blanc peut ˆetre d´efini formel-
lement par extension du cas discret.
D´efinition 2.4.2 : bruit blanc
x(t) est un bruit blanc s’il v´erifie :
px(t)/x(τ )(α/β) = px(t)(α)
t > τ
Cette d´efinition formelle quoique poss´edant les propri´et´es indispensables
caract´erisant un bruit, n’est pas d’une utilisation tr`es facile.
Nous d´efinissons donc formellement un bruit blanc gaussien par sa moyenne
et sa covariance :
D´efinition 2.4.3 : bruit blanc gaussien
Un bruit blanc gaussien est un processus stochastique gaussien d´efini
par :
o`u :
E[x(t)] = mx(t)
P (t, τ ) = E[(x(t) − mx(t))(x(τ ) − mx(τ ))(cid:1)] = V (t)δ(t − τ )
- V (t) ≥ 0 intensit´e du bruit blanc.
- δ(•) impulsion de Dirac.
Dans le cas o`u l’intensit´e du bruit blanc est constante, le processus est sta-
tionnaire au sens large et il est possible d’introduire sa densit´e spectrale de
puissance qui est donn´ee par :
Ψx(ω) = V
Cela montre qu’un bruit blanc gaussien stationnaire a une densit´e de puis-
sance identique `a toutes les fr´equences. Cela justifie la d´enomination de bruit
blanc par analogie avec la lumi`ere blanche. Toutefois, si l’on calcule la puis-
sance totale d’un bruit blanc en utilisant le r´esultat du th´eor`eme 6, nous
Advertisement
obtenons une valeur infini...