Signaux aléatoires

Signal Processing, Stochastic Processes · course

Voir tous les documents en électronique et automatique

INSA

Signaux al´eatoires

Notes de cours

Version 2.0

D. Arzelier

Avertissement : Ce document est constitu´e de notes de cours et ne pr´etend

donc ni a l’exhaustivit´e ni a l’originalit´e. Ces notes doivent en effet beaucoup

aux emprunts faits aux ouvrages r´ef´erenc´es en bibliographie.

3

Notations

  • R : corps des nombres r´eels.
  • A(cid:1) : matrice transpos´ee de la matrice A.
  • A > 0 : A matrice d´efinie positive.
  • A ≥ 0 : A matrice semi-d´efinie positive.
  • (cid:2) • (cid:2) : norme Euclidienne pour un vecteur et induite par la norme Eu-

clidienne pour une matrice.

  • P [•] : probabilit´e simple.
  • P [•/•] : probabilit´e conditionnelle.
  • v.a. : variable al´eatoire.
  • V.A. : vecteur al´eatoire.
  • E[•] : esp´erance math´ematique.
  • E[x/y] : esp´erance conditionnelle de x sachant y.
  • px(α) : densit´e de probabilit´e de la v.a. x.
  • px1,··· ,xn(α1, · · · , αn) : densit´e de probabilit´e conjointe.
  • px/y(α/β) : densit´e de probabilit´e conditionnelle.
  • Z ∼ N (mZ, QZ) : vecteur gaussien de moyenne mZ et de matrice de

covariance QZ.

  • R(t, τ ) : matrice d’autocorr´elation.
  • P (t, τ ) : matrice d’autocovariance.

4

  • δkl : symbole de Kronecker.
  • δ(t) : impulsion de Dirac.
  • 1n : matrice identit´e de dimension n.
  • 0n×m : matrice nulle de dimensions n × m.

TABLE DES MATI `ERES

5

Table des mati`eres

1 Introduction `a l’´etude des processus stochastiques

11

1.1

Introduction et d´efinition . . . . . . . . . . . . . . . . . . . . . 11

1.2 Caract´erisations probabilistes des processus stochastiques . . . 13

1.2.1 Loi de distribution . . . . . . . . . . . . . . . . . . . . 13

1.2.2 Processus du second ordre . . . . . . . . . . . . . . . . 14

1.2.3 Caract´eristiques statistiques . . . . . . . . . . . . . . . 14

1.3 Caract´eristiques importantes . . . . . . . . . . . . . . . . . . . 16

Stationnarit´e au sens strict . . . . . . . . . . . . . . . . 16

1.3.1

1.3.2

Stationnarit´e au sens large . . . . . . . . . . . . . . . . 16

1.3.3 Ergodicit´e . . . . . . . . . . . . . . . . . . . . . . . . . 17

1.3.4 La densit´e spectrale de puissance . . . . . . . . . . . . 18

1.3.5

Ind´ependance et d´ecorr´elation . . . . . . . . . . . . . . 22

1.3.6 Densit´e spectrale crois´ee . . . . . . . . . . . . . . . . . 23

2 Processus stochastiques remarquables

25

2.1 Processus gaussien . . . . . . . . . . . . . . . . . . . . . . . . 25

2.2 Processus markovien . . . . . . . . . . . . . . . . . . . . . . . 26

2.3 La marche al´eatoire . . . . . . . . . . . . . . . . . . . . . . . . 28

. . . . . . . . . . . . . . . . . . . . . . . . . . . . 29

2.4 Bruit blanc

. . . . . . . . . . . . . . . . . . . 31

2.5 Bruit blanc `a bande limit´ee

2.6 Processus al´eatoire `a bande ´etroite

. . . . . . . . . . . . . . . 31

2.7 Processus de Wiener

. . . . . . . . . . . . . . . . . . . . . . . 33

2.8 Processus de Poisson . . . . . . . . . . . . . . . . . . . . . . . 35

3 Syst`emes lin´eaires et processus stochastiques : th´eorie fr´equentielle 37

3.1 Filtrage lin´eaire des signaux al´eatoires

. . . . . . . . . . . . . 37

3.1.1 Moyenne et corr´elation du signal de sortie . . . . . . . 38

3.1.2 Densit´e spectrale de puissance du signal de sortie . . . 38

3.2 Repr´esentation spectrale des signaux al´eatoires . . . . . . . . . 40

6

TABLE DES MATI `ERES

4 Syst`emes lin´eaires et processus gaussiens-markoviens

43

4.1 Syst`emes discrets . . . . . . . . . . . . . . . . . . . . . . . . . 43

4.1.1 La moyenne ou esp´erance math´ematique . . . . . . . . 44

4.1.2 La matrice de covariance . . . . . . . . . . . . . . . . . 44

4.1.3 Nature du processus stochastique xk

. . . . . . . . . . 46

4.1.4 Processus stationnaires . . . . . . . . . . . . . . . . . . 47

4.1.5 Fonction densit´e de probabilit´e de transition . . . . . . 48

4.2 Syst`emes continus . . . . . . . . . . . . . . . . . . . . . . . . . 49

4.2.1 Esp´erance math´ematique . . . . . . . . . . . . . . . . . 50

4.2.2 Matrice de covariance . . . . . . . . . . . . . . . . . . . 50

4.2.3 Nature du processus stochastique x(t) . . . . . . . . . . 51

4.2.4 Processus stationnaires . . . . . . . . . . . . . . . . . . 52

4.3 Processus g´en´erateur - repr´esentation de markov . . . . . . . . 53

4.3.1 D´efinition . . . . . . . . . . . . . . . . . . . . . . . . . 53

4.3.2 Quelques exemples

. . . . . . . . . . . . . . . . . . . . 54

4.3.3 Constante al´eatoire . . . . . . . . . . . . . . . . . . . . 54

4.3.4 La marche al´eatoire . . . . . . . . . . . . . . . . . . . . 54

4.3.5 Variable al´eatoire exponentiellement corr´el´ee . . . . . . 55

A Rappels de la th´eorie des probabilit´es

A.3 Vecteurs al´eatoires

59

A.1 Approche empirique des ph´enom`enes al´eatoires . . . . . . . . . 60

A.2 Th´eorie axiomatique des probabilit´es . . . . . . . . . . . . . . 63

A.2.1 Espace probabilis´e

. . . . . . . . . . . . . . . . . . . . 63

. . . . . . . . . . . . . . . 65

A.2.2 Probabilit´es conditionnelles

A.2.3 Variables al´eatoires . . . . . . . . . . . . . . . . . . . . 67

A.2.4 Propri´et´es statistiques des v.a. . . . . . . . . . . . . . . 72

A.2.5 Exemples de lois de distribution . . . . . . . . . . . . . 75

. . . . . . . . . . . . . . . . . . . . . . . . 78

A.3.1 Loi de distribution conjointe . . . . . . . . . . . . . . . 78

. . . . . . . . . . . . . . 81

A.3.2 Loi de distribution marginale

. . . . . . . . . . . . . . . . . . 82

A.3.3 Propri´et´es statistiques

. . . . . . . . . . . . . . . . . 84

A.3.4 Un th´eor`eme important

A.4 Distributions conditionnelles . . . . . . . . . . . . . . . . . . . 84

A.4.1 D´efinition . . . . . . . . . . . . . . . . . . . . . . . . . 84

A.4.2 La rˆegle de Bayes . . . . . . . . . . . . . . . . . . . . . 86

. . . . . . . . . . . . . . . . . . 86

A.4.3 Propri´et´es statistiques

. . . . . . . . . . . . . . . . 87

A.4.4 Propri´et´e d’ind´ependance

. . . . . . . . . . . . . . . . . . . . . . . . 87

A.5.1 D´efinition . . . . . . . . . . . . . . . . . . . . . . . . . 87

A.5.2 Propri´et´es . . . . . . . . . . . . . . . . . . . . . . . . . 88

A.5 Vecteurs gaussiens

7

B Rappels sur la transform´ee de Fourier

91

B.1 D´efinition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91

B.2 Propri´et´es de la transform´ee de Fourier . . . . . . . . . . . . . 92

B.2.1 Lin´earit´e . . . . . . . . . . . . . . . . . . . . . . . . . . 92

B.2.2 D´erivation . . . . . . . . . . . . . . . . . . . . . . . . . 92

B.2.3 D´ecalage temporel

. . . . . . . . . . . . . . . . . . . . 92

B.2.4 Convolution . . . . . . . . . . . . . . . . . . . . . . . . 92

. . . . . . . . . . . . . . . . . . . 92

B.2.5 Relation de Parseval

B.3 Table de transform´ee . . . . . . . . . . . . . . . . . . . . . . . 93

8

Tables des mati`eres

Introduction g´en´erale

9

Introduction g´en´erale

La n´ecessit´e d’introduire la notion de signal al´eatoire ou de processus

stochastique provient de la constatation facile `a ´etablir que le cadre d´efini

par les signaux d´eterministes est insuffisant pour d´ecrire et ´etudier l’en-

semble des probl`emes rencontr´e en Automatique, en th´eorie de l’estimation

et en traitement du signal. En effet, partant du fait qu’un signal “natu-

rel” est plus ou moins impr´evisible et `a ce titre transporte de l’informa-

tion, la limitation du mod`ele d´eterministe des signaux apparaˆıt clairement

sachant qu’il ne comprend aucun ´el´ement d’incertitude et ne transporte

donc aucune information. Si l’on ajoute qu’en tout ´etat de cause aucun

mod`ele math´ematique ne peut pr´etendre repr´esenter exactement la r´ealit´e,

qu’il est ´egalement n´ecessaire de pr´evoir et de mod´eliser les perturbations non

pr´evisibles de maniere d´eterministe et que tout systeme de mesure fournit des

donn´ees incompl`etes et bruit´ees, il semble alors naturel de souhaiter disposer

d’un mod`ele compl´ementaire refl´etant l’aspect al´eatoire entrant dans toute

repr´esentation et mod´elisation des signaux et syst`emes.

Dans le cadre de ce cours, nous nous limiterons volontairement `a l’´etude de

la mod´elisation des signaux al´eatoires et a leur transmission par des systemes

lin´eaires. Afin de mieux circonscrire math´ematiquement l’objet en question,

nous nous pla¸cons volontairement dans un cadre probabiliste. Nous utilise-

rons donc de mani`ere privil´egi´ee le cadre math´ematique de la th´eorie axioma-

tique des probabilit´es d´evelopp´ee par Kolmogorov. Il sera donc suppos´e que

nous disposons de suffisamment de connaissance a priori sur le signal pour

permettre une description appropri´ee de ses propri´et´es moyennes. La majeure

partie du cours sera donc consacr´ee `a la d´efinition des caract´eristiques sta-

tistiques essentielles ainsi qu’aux caract´eristiques temporelles. Les propri´et´es

de ces caract´eristiques et les rapports qu’elles entretiennent permettront de

d´efinir les notions essentielles d’ergodicit´e et de stationnarit´e. Un chapˆıtre

sera ´egalement consacr´e `a l’´etude de signaux al´eatoires remarquables. Fina-

lement, la transmission des signaux al´eatoires par les syst`emes lin´eaires sera

´etudi´ee en d´etails. Dans tout ce qui pr´ec`ede, seul le terme de signal al´eatoire a

´et´e employ´e. Le terme de processus stochastique est ´egalement fr´equent dans

10

Introduction g´en´erale

la litt´erature. Un signal al´eatoire est l’image d’une grandeur associ´ee `a un

ph´enom`ene physique al´eatoire g´en´eralement appel´e processus stochastique.

Dans la suite, ces deux termes seront confondus et utilis´es indiff´eremment.

11

Chapitre 1

Introduction `a l’´etude des

processus stochastiques

1.1 Introduction et d´efinition

La notion de processus stochastique est une notion fondamentale qui

Publicité

va servir d’une part a la d´efinition de modeles pour les perturbations, les

ph´enomenes de bruit mais ´egalement a la d´efinition des ´equations aux diff´erences

et ´equations diff´erentielles stochastiques. Les solutions de ces ´equations sto-

chastiques d´efiniront ´egalement des processus stochastiques poss´edant des

propri´et´es particuli`eres.

D´efinition 1.1.1 : processus stochastique

Un processus stochastique (scalaire ou vectoriel) est d´efini comme

une famille de variables ou vecteurs al´eatoires index´ee par un ensemble de

param`etres t ∈ T , que l’on va consid´erer dans la suite du cours comme ´etant

le temps. La notation est {xt(ω) | t ∈ T }. T peut ˆetre un ensemble discret ou

continu.

C’est donc une fonction de deux parametres : le temps et ω parametre al´eatoire

(r´esultat d’une exp´erience).

  • Pour chaque t, xt(•) est une variable al´eatoire ´egale `a l’´etat du

processus consid´er´e `a l’instant t.

  • Pour ω fix´e, x•(ω) est une r´ealisation du processus qui est une

fonction du temps.

  • Pour t et ω fix´es, xt(ω) est un nombre.

12

Introduction `a l’´etude des processus stochastiques

Si la variable (vecteur) al´eatoire prend ses valeurs dans un espace discret,

on dira que c’est une chaˆıne, ou un processus stochastique `a ´etat dis-

cret, qui peut ˆetre d´efini en temps discret ou en temps continu. Dans le cas

contraire, le processus sera d´efini comme un processus stochastique `a

´etat continu en temps discret ou continu. Dans le cadre de ce cours, nous

nous int´eresserons principalement aux processus `a ´etat continu qui, en temps

discret sont appel´es s´equences al´eatoires et dans le cas continu plus sim-

plement processus stochastiques si aucune confusion n’est possible. La

notation est alors simplifi´ee en x(t) pour un processus en temps continu et

xt pour une s´equence.

Exemple :

Soit un satellite en orbite p´eriodique autour de la terre pour lequel on souhaite

connaˆıtre les param`etres orbitaux afin d’analyser et de corriger d’´eventuelles

phases de d´erive. On dispose pour cela de plusieurs instruments de mesure

fonctionnant en parall`ele. La restitution de l’altitude x(t) du satellite par

l’ensemble de ses capteurs d´efinit un signal al´eatoire analogique en temps

continu.

Ω

ω

i

ω

1

ω

2

ω

n

résultat i

ω1

x ( )

t

t1

t

2

ω

x ( )

1

t1

ω2

x ( )

t

ω

x ( )

1

t2

ω

x ( )

t1

2

t1

x ( )

t2

t

2

n

ω n

x ( )

t1

ωn

x ( )

t

t1

x

1

t

2

ωn

x ( )

t2

x

2

t

t

t

Fig. 1.1 – restitution d’un param`etre orbital d’un satellite

1.2. CARACT ´ERISATIONS PROBABILISTES DES PROCESSUS STOCHASTIQUES13

1.2 Caract´erisations probabilistes des proces-

sus stochastiques

1.2.1 Loi de distribution

Soit {xt(ω) | t ∈ T } un processus stochastique. T peut ˆetre continu ou

discret. Pour n’importe quelle partition {t1, · · · , tn} de T , qui peut ˆetre ob-

tenue par discr´etisation dans le cas continu, la loi de distribution conjointe

des variables (vecteurs) al´eatoires xt1, · · · , xtn est appel´ee loi de distribu-

tion finie du processus. Le processus stochastique peut ˆetre caract´eris´e par la

d´efinition de la loi de distribution finie pour tous les ensembles finis {ti} ∈ T ,

donn´ee de mani`ere ´equivalente par :

  • La fonction de r´epartition conjointe :

Fx(t1),··· ,x(tn)(α1, · · · , αn)

  • La fonction densit´e de probabilit´e :

px(t1),··· ,x(tn)(α1, · · · , αn)

pour toutes les partitions {ti} ∈ T .

Sp´ecifier l’une des deux fonctions pr´ec´edentes ∀ {ti} ∈ T , consiste `a d´efinir

la loi de probabilit´e du processus stochastique.

Exemple :

Un processus stochastique x(t) peut ˆetre d´efini par :

x(t) = a + bt

o`u a, b sont des variables al´eatoires de distribution connue. On suppose

de plus que a, b sont deux variables al´eatoires conjointement normalement

distribu´ees. Puisque l’on peut ´ecrire :

x(t1)

...

x(tn)

 =

1 t1

...

...

1 tn

(cid:7)

(cid:8)

a

b

On peut dire que le vecteur al´eatoire [x(t1), · · · , x(tn)](cid:1) est un vecteur gaus-

sien dont la moyenne et la covariance peuvent ˆetre donn´ees `a partir de la

moyenne et de la covariance de [a b](cid:1).

14

Introduction `a l’´etude des processus stochastiques

1.2.2 Processus du second ordre

Soit un processus stochastique {xt(ω) | t ∈ T }. Bien que non suffisantes

dans le cas le plus g´en´eral, la sp´ecification des densit´es de probabilit´e du

premier ordre et du deuxi`eme ordre est souvent int´eressante :

  • Densit´e du premier ordre :

px(t)(α) = p(α, t)

  • Densit´e du deuxi`eme ordre :

px(t),x(τ )(α, β) = p(α, β, t, τ )

Ces fonctions ne suffisent, en g´en´eral, pas a la caract´erisation complete des

processus stochastiques mais il existe certaines classes de processsus (gaus-

siens - markoviens) pour lesquelles la loi de distribution est enti`erement

d´etermin´ee par la connaissance des fonctions densit´e de probabilit´e, au se-

cond ordre.

D´efinition 1.2.1 : processus du second ordre

Un processus stochastique caract´eris´e enti`erement par ses lois de distribu-

tions au premier et deuxi`eme ordre est appel´e processus du second ordre.

1.2.3 Caract´eristiques statistiques

A partir de ces fonctions densit´e de probabilit´e, peuvent ˆetre d´efinis les

moments du processus stochastique.

D´efinition 1.2.2 : moyenne

Soit un processus stochastique {xt(ω) | t ∈ T } not´e x(t), alors la moyenne

de x(t) est d´efinie par :

(cid:9) +∞

mx(t) = E[x(t)] =

αp(α, t)dα

−∞

C’est une fonction du param`etre t.

D´efinition 1.2.3 : matrice d’autocorr´elation et d’autocovariance

On peut d´efinir la matrice d’autocorr´elation

R(t, τ ) = E[x(t)x(τ )(cid:1)]

Caract´erisations probabilistes des processus stochastiques

15

dont les ´el´ements sont :

(cid:9) +∞

(cid:9) +∞

rij(t, τ ) =

αiβjp[α, t, β, τ ]dαdβ

−∞

−∞

et la matrice d’autocovariance :

P (t, τ ) = E[(x(t) − mx(t))(x(τ ) − mx(τ ))(cid:1)]

On v´erifie ais´ement les propri´et´es suivantes :

Publicité

Propri´et´e 1.2.1 :

  • P (t, τ ) = P (τ, t) ∀ t, τ
  • R(t, τ ) = R(τ, t) ∀ t, τ
  • R(t, t) ≥ 0 ∀ t
  • Q(t) = P (t, t) ≥ 0 ∀ t
  • P (t, τ ) = R(t, τ ) − mx(t)mx(τ )(cid:1) ∀ t, τ

Le pr´efixe ”auto”, souvent omis, n’est utilis´e que lorsqu’il peut y avoir confu-

sion avec l’intercorr´elation et l’intercovariance, d´efinies par rapport `a deux

processus stochastiques distincts x(t) et y(t) par :

Γxy(t, τ ) = E[x(t)y(τ )(cid:1)]

pour l’intercorr´elation et :

Cxy(t, τ ) = E[(x(t) − mx(t))(y(τ ) − my(τ ))(cid:1)]

pour l’intercovariance.

La moyenne et la matrice de corr´elation sont g´en´eralement plus faciles `a

manipuler que la loi de probabilit´e et n’en donne pas moins de nombreuses

informations sur le processus.

Exemple :

Soit le processus stochastique :

x(t) = a + bt

de l’exemple pr´ec´edent. Les moments de ce processus sont donn´es par :

mx(t) = E[a] + tE[b] = ma + tmb

r(t, τ ) = E[a2] + (t + τ )E[ab] + tτ E[b2]

p(t, τ ) = var(a) + cov(a, b)(t + τ ) + var(b)tτ

On peut noter que ces moments ne d´ependent que des moments de a et b.

16

Introduction `a l’´etude des processus stochastiques

1.3 Caract´eristiques importantes

La stationnarit´e fixe la propri´et´e d’invariance par rapport au temps t des

lois de probabilit´e qui caract´erisent le processus stochastique. Elle est en

pratique tr`es importante et peut ˆetre d´efinie de diff´erentes fa¸cons.

1.3.1 Stationnarit´e au sens strict

D´efinition 1.3.1 : stationnarit´e au sens strict

x(t) est dit stationnaire au sens strict, sur T intervalle de d´efinition,

si pour toute partition {t1, t2, · · · , tn} de T :

∀ n, ∀ θ, px(t1),··· ,x(tn)(α1, · · · , αn) = px(t1+θ),··· ,x(tn+θ)(α1, · · · , αn)

1.3.2 Stationnarit´e au sens large

La stationnarit´e au sens large est une notion plus pratique qui est d´efinie

a l’ordre deux et g´en´eralement a partir des deux premiers moments du pro-

cessus.

D´efinition 1.3.2 : stationnarit´e au sens large

x(t) est un processus stochastique stationnaire au sens large si

mx(t) = mx (ind´ependant du temps)

P (t, τ ) = P (t − τ )

Dans la condition pr´ec´edente, la covariance peut ˆetre de fa¸con ´equivalente

remplac´ee par la corr´elation.

Caract´eristiques importantes

17

Exemple :

Le processus

x(t) = acos(2πt) + bsin(2πt)

o`u a, b sont des variables al´eatoires non corr´el´ees de moyenne nulle et de

variance unit´e est stationnaire au sens large :

m(t) = 0

r(t + τ, t) = cos(2πτ )

Nota : il est `a noter qu’un processus stationnaire au sens strict est stationnaire

au sens large mais la r´eciproque n’est pas n´ecessairement vraie.

1.3.3 Ergodicit´e

On a d´efini pr´ec´edemment des moyennes statistiques `a des instants donn´es.

Il est ´egalement int´eressant de d´efinir des moyennes temporelles.

D´efinition 1.3.3 : moyenne temporelle

On d´efinit la moyenne temporelle d’un ´echantillon du processus par la

relation :

< x(t) >= lim

T →+∞

(cid:9) T

−T

1

2T

x(t)dt

lorsque cette limite existe.

Nota : d’autres moyennes temporelles peuvent ˆetre d´efinies. Par exemple :

< x2(t) >= lim

T →+∞

1

2T

x2(t)dt

−T

(cid:9) T

La limite ainsi d´efinie peut ne pas exister pour certains ´echantillons ou

d´ependre de l’´echantillon mais elle ne d´epend pas du temps. Toutefois, il

existe des cas o`u la moyenne temporelle et la moyenne statistique sont ´egales.

D´efinition 1.3.4 : ergodicit´e

Un processus stochastique x(t) est ergodique si toutes les moyennes tem-

porelles existent et ont mˆeme valeur quelque soit l’´echantillon.

(cid:9) t1

∀ f,

[

lim

t1→∞

1

t1 − t0

f [x(t)]dt] = E[f (x(t))]

(1.1)

t0

Cette notion d’ergodicit´e est tr`es importante du fait que pratiquement, pour

´evaluer les moyennes statistiques, l’on ne dispose g´en´eralement que d’un

´echantillon sur lequel on fait une moyenne temporelle. Ce proc´ed´e n’a de

valeur que si le processus stochastique est stationnaire et ergodique.

18

Introduction `a l’´etude des processus stochastiques

1.3.4 La densit´e spectrale de puissance

En th´eorie du signal, les spectres sont associ´es `a la transform´ee de Fourier.

Dans le cas de signaux d´eterministes, c’est une fa¸con de repr´esenter les si-

gnaux comme une superposition d’exponentielles. Pour les signaux al´eatoires,

il s’agit principalement d’´etudier la transform´ee des moyennes.

Caract´eristiques importantes

19

D´efinition 1.3.5 : puissance

On d´efinit la puissance moyenne d’un processus stochastique station-

naire au sens large par :

  • Cas continu x(t) :
  • Cas discret xN :

Propri´et´e 1.3.1 :

p = E[x(cid:1)(t)x(t)]

p = lim

N →+∞

1

2N + 1

N(cid:13)

−N

x2

N

p = T race[Rx(0)]

Soit un processus stochastique x(t) stationnaire au sens large et poss´edant

une matrice de corr´elation Rx(t − τ ) = Rx(τ ).

D´efinition 1.3.6 : densit´e spectrale de puissance

La densit´e spectrale de puissance Ψx(ω) du processus stochastique

x(t) est d´efinie comme la transformation de Fourier, si elle existe, de la

matrice de corr´elation Rx(τ ) :

R´eciproquement,

Ψx(ω) =

(cid:9) ∞

−∞

e−jωτ Rx(τ )dτ

Rx(τ ) = 1

(cid:9) ∞

−∞

ejωτ Ψx(ω)dω

Les deux relations pr´ec´edentes sont connues sous le nom de formules de

Wiener-Khinchin. Ψx(ω) est une matrice complexe poss´edant les propri´et´es :

Propri´et´e 1.3.2 :

  • Ψx(−ω) = Ψx(ω)(cid:1) ∀ ω
  • Ψ∗

x(ω) = Ψx(ω) ∀ ω

20

Introduction `a l’´etude des processus stochastiques

  • Ψx(ω) ≥ 0 ∀ ω

(cid:9) ∞

−∞

-

1

Ψx(ω)dω = Rx(0)

Exemple :

Soit le processus stochastique v(t) stationnaire au sens large de matrice de

corr´elation :

(cid:7)

Rv(t − τ ) = σ2exp

(cid:8)

|t − τ |

θ

θ > 0

Il est facile de montrer par le calcul que :

Ψv(ω) =

2σ2θ

1 + ω2θ2

Nous donnons quelques exemples de densit´e spectrale de puissance de pro-

1

0.9

0.8

0.7

0.6

0.5

0.4

0.3

0.2

0.1

)

a

g

e

m

o

(

Publicité

i

h

P

0

−10

−8

−6

−4

−2

0

omega

2

4

6

8

10

Fig. 1.2 – Spectre de v(t)

Caract´eristiques importantes

21

cessus stochatiques d´efinis par leur matrice de corr´elation.

Rx(τ )

δ(τ )

ejβτ

e−α|τ |

Ψx(ω)

1

2π(δ(ω − β)

α2 + ω2

e−α|τ |cos(βτ )

α

α2 + (ω − β)2 +

α

α2 + (ω + β)2

1

2πδ(ω)

cos(βτ )

πδ(ω + β) + πδ(ω − β)

L’introduction de la densit´e spectrale de puissance peut se justifier `a travers

le r´esultat suivant.

Th´eor`eme 1.3.1 :

Soit le processus stochastique x(t), alors pour toute matrice sym´etrique

W (t) :

E[x(t)(cid:1)W (t)x(t)] = T race[W (t)Rx(t, t)]

Si, de plus, x(t) est stationnaire au sens large de moyenne nulle et W est

constante alors :

E[x(t)(cid:1)W x(t)] = T race[W Rx(0)] =

1

T race[

W Ψx(ω)dω]

−∞

(cid:9) ∞

Ce r´esultat permet de donner une interpr´etation au terme densit´e spec-

trale de puissance. En effet, la ”puissance” totale E[x(t)(cid:1)W x(t)] d’un pro-

cessus stochastique de moyenne nulle et stationnaire au sens large est ob-

tenue par int´egration de T race[W Ψx(ω)] sur toutes les fr´equences. Ainsi,

22

Introduction `a l’´etude des processus stochastiques

T race[W Ψx(ω)] peut ˆetre consid´er´ee comme une mesure de la densit´e de

puissance `a la pulsation ω. La matrice W est une matrice de pond´eration

qui d´etermine la contribution des divers composantes de x(t) `a la puissance.

La densit´e spectrale de puissance repr´esente la r´epartition harmonique de la

puissance moyenne p de x(t).

1.3.5 Ind´ependance et d´ecorr´elation

Il est possible d’´etendre les notions d’ind´ependance et de d´ecorr´elation

aux processus stochastiques.

D´efinition 1.3.7 : ind´ependance

Soient v1(t), v2(t) deux processus stochastiques. Alors v1(t), v2(t) sont

m)}

dits ind´ependants si {v1(t1), v1(t2), · · · , v1(tl)} et {v2(t(cid:1)

sont des ensembles ind´ependants de vecteurs al´eatoires pour tous les

t1, t2, · · · , tl, t(cid:1)

De mˆeme,

m et pour tout m et l.

2), · · · , v2(t(cid:1)

1, · · · , t(cid:1)

1), v2(t(cid:1)

D´efinition 1.3.8 : d´ecorr´elation

v1(t), v2(t) sont dits d´ecorr´el´es si v1(t1) et v2(t2) sont des vecteurs

al´eatoires d´ecorr´el´es pour tous les t1, t2.

Soient deux processus stochastiques x(t) et y(t).

D´efinition 1.3.9 : matrice d’intercorr´elation et d’intercovariance

On d´efinit

  • la matrice d’intercorr´elation par :

Rxy(t1, t2) = E[x(t1)y(cid:1)(t2)]

  • la matrice d’intercovariance par :

Pxy(t1, t2) = Rxy(t1, t2) − mx(t1)m(cid:1)

y(t2)

Une notion importante li´ee `a ces concepts est l’orthogonalit´e.

D´efinition 1.3.10 : orthogonalit´e

x(t), y(t) sont deux processus stochastiques orthogonaux si

Rxy(t1, t2) = 0

∀ t1, t2

De plus,

D´efinition 1.3.11 : d´ecorr´elation

x(t), y(t) sont deux processus stochastiques d´ecorr´el´es si

Pxy(t1, t2) = 0

∀ t1, t2

Caract´eristiques importantes

23

1.3.6 Densit´e spectrale crois´ee

D´efinition 1.3.12 :

La densit´e spectrale crois´ee ou interspectre de puissance a pour

d´efinition :

aussi bien que :

Ψxy(ω) =

Ψyx(ω) =

(cid:9) ∞

−∞

(cid:9) ∞

−∞

Rxy(τ )e−jωτ dτ

Ryx(τ )e−jωτ dτ

R´eciproquement, on aura :

Rxy(ω) =

(cid:9) ∞

1

(cid:9) ∞

Ψxy(τ )ejωτ dω

−∞

Rxy(ω) =

Ψxy(τ )ejωτ dω

−∞

Du fait des propri´et´es de l’intercorr´elation, on a :

Ψxy(ω) = Ψyx(−ω) = Ψ∗

xy(ω)

24

Introduction `a l’´etude des processus stochastiques

25

Chapitre 2

Processus stochastiques

remarquables

2.1 Processus gaussien

Les processus gaussiens sont des processus tr`es importants du fait qu’on

les rencontre tr`es souvent en pratique et du fait que de nombreux proces-

sus physiques sont approximativement gaussiens. Ceci est la cons´equence du

th´eoreme de la limite centrale. Sans entrer dans les d´etails, le th´eoreme de la

limite centrale ´etablit que si l’on consid`ere la somme :

x = x1 + · · · + xn

o`u xi sont des variables al´eatoires ind´ependantes, alors sous certaines condi-

tions, la distribution de probabilit´e de x approche la distribution gaussienne

quand n → ∞.

D´efinition 2.1.1 : processus gaussien

Le processus stochastique x(t) est gaussien si pour toute partition

{t1, t2, · · · , tn} de T , le vecteur des variables al´eatoires [x(t1), · · · , x(tn)] est

gaussien.

La loi de distribution d’un vecteur gaussien est enti`erement d´etermin´ee par

la connaissance des moments du premier ordre (moyenne et covariance) qui,

eux-mˆemes, ne n´ecessitent pour leur calcul que les fonctions densit´e de pro-

babilit´e du premier et du second ordre px(α, t), px(α, t, β, τ ). Il s’agit donc

bien d’un processus du second ordre. Noter que la fonction du premier ordre

peut ˆetre calcul´ee `a partir de celle du second ordre par la fonction marginale :

(cid:9) +∞

px(α, t) =

px(α, t, β, τ )dβ

−∞

26

Processus stochastiques remarquables

Propri´et´e 2.1.1 :

Un processus gaussien stationnaire au sens large l’est au sens strict.

Exemple :

Soit le processus d´efini par :

x(t) = a + bt

o`u a, b sont des variables al´eatoires gaussiennes non corr´el´ees de moyenne

nulle et de variance unit´e. Alors, r´e´ecrivant

x(t1)

...

x(tn)

 =

1 t1

...

...

1 tn

on peut trouver que :

(cid:7)

(cid:8)

Publicité

a

b

E[x(t1), · · · , x(tn)](cid:1) = 0

1 + t2

1

...

1 + tnt1

· · ·

...

· · ·

1 + t1tn

...

1 + t2

n

P =

Le processus est de plus gaussien.

De par le th´eor`eme de la limite centrale dont nous avons parl´e en d´ebut

de section, un processus gaussien est souvent un bon mod`ele pour le bruit

dans les circuits physiques tels que les transmetteurs et r´ecepteurs radios, les

radars etc.

2.2 Processus markovien

Cette classe de processus stochastiques est importante du fait qu’elle

g´en´eralise `a l’univers stochastique une propri´et´e fondamentale des ´equations

diff´erentielles ordinaires. En effet, la solution x(t2) = g(t2, x(t1), t1) de l’´equation

diff´erentielle ˙x(t) = f (x(t)) est une fonction de x(t1) et ne d´epend pas de

x(τ ), τ < t1.

D´efinition 2.2.1 : processus markovien

Le processus stochastique x(t) est markovien si ∀ {t1, t2, · · · , tn} de T :

P [x(tn) < αn/x(tn−1), · · · , x(t1)] = P [x(tn) < αn/x(tn−1)]

soit en termes de fonction densit´e de probabilit´e :

px(tn)/x(tn−1),··· ,x(t1)(αn/αn−1, · · · , α1) = px(tn)/x(tn−1)(αn/αn−1)

Processus markovien

27

Toute l’information sur le pass´e est concentr´ee dans le dernier ´etat ”observ´e”.

Un processus de Markov est donc un processus stochastique dont le pass´e n’a

pas d’influence sur le futur si le pr´esent est connu.

D´efinition 2.2.2 : densit´e de probabilit´e de transition

px(tn)/x(tn−1)(αn/αn−1) est appel´ee fonction densit´e de probabilit´e de

transition.

Propri´et´e 2.2.1 :

Le processus markovien est un processus du second ordre.

En effet, la fonction densit´e de probabilit´e conjointe de (x(t1), · · · , x(tn))

s’exprime ainsi :

px(tn),x(tn−1),··· ,x(t1)(αn, αn−1, · · · , α1) = px(tn)/x(tn−1)(αn/αn−1)•

px(tn−1)/x(tn−2)(αn−1/αn−2) · · · px(t2)/x(t1)(α2/α1)px(t1)(α1)

qui se d´etermine donc `a partir de la connaissance de px(t)(α) = px(α, t), la

densit´e de probabilit´e simple et de px(t)/x(t0)(α/x0), la densit´e de probabilit´e

de transition. On rappelle que :

  • px(α, t) =

∂F (α, t)

∂α

=

∂P [x(t) ≤ α]

∂α

  • px(t)/x(t0)(α/x0) = px(t)/x(t0)(α/x(t0) = x0)
  • px(α, t) =

(cid:9) +∞

−∞

px(x0, t0)px(t)/x(t0)(α/x0)dx0

  • px(t)/x(t0)

t→t0−→ δ(α − x0)

Exemple :

On consid`ere l’´equation aux diff´erences :

xn+1 = xn + wn n = 0, 1, · · ·

o`u les variables wi sont des variables al´eatoires ind´ependantes gaussiennes

et la condition initiale x0 est gaussienne et ind´ependante de wi, ∀ i. La

s´equence {xn}n est clairement markovienne puisque pour xn donn´ee, xn+1

d´epend uniquement de wn qui est ind´ependant de xn−1, · · · , x0. De plus,

elle est ´egalement gaussienne puisque combinaison lin´eaire de variables gaus-

siennes.

Comme nous le verrons dans la suite de ce cours, les processus de Markov

ont une grande importance dans l’´etude des ´equations aux diff´erences stochas-

tiques (syst`emes dynamiques en temps discret) et dans l’´etude des ´equations

diff´erentielles stochastiques (syst`emes dynamiques en temps continu).

28

Processus stochastiques remarquables

2.3 La marche al´eatoire

La marche al´eatoire est le nom donn´e `a un processus stochastique en

temps discret et `a ´etat discret que l’on peut d´ecrire de la fa¸con suivante.

On lance une pi`ece non truqu´ee toutes les T secondes et suivant que l’on

obtient face ou pile, on effectue un pas a droite ou a gauche de longueur s. Le

processus d´ebute pour t = 0 et la position du marcheur al´eatoire `a l’instant

t suit une fonction en escalier o`u les discontinuit´es sont aux points t = nT .

x(t)

s

T

2T

t

Fig. 2.1 – Exemple de marche al´eatoire

On suppose maintenant que l’on a effectu´e n tirages de la pi`ece, pour

lesquels on a observ´e k fois pile et donc n − k fois face. La position du

marcheur al´eatoire `a l’instant t = nT est :

x(nT ) = ks − (n − k)s = ms m = 2k − n

De plus, la probabilit´e d’avoir k fois pile dans n tirages est alors :

P [x(nT ) = ms] =

Ck

n

2n

k =

m + n

2

En remarquant que :

x(nT ) = x1 + x2 + · · · + xn

o`u xi est la taille du ieme pas et les xi sont ind´ependantes. En prenant la

valeur ±s avec E[xi] = 0, E[x2

i ] = s2, on obtient :

E[x(nT )] = 0

E[x2(nT )] = ns2

2.4. BRUIT BLANC

29

Quand le nombre de tirages augmente, il est possible de montrer, en utilisant

le th´eor`eme de DeMoivre-Laplace que :

n pkqn−k (cid:9)

Ck

1√

2πnpq

e−(k−np)2/2npq

pour k dans un

npq voisinage de np.

Ici, p = q = 0.5 et m = 2k − n, ce qui conduit `a :

P [x(nT ) = ms] (cid:9)

1(cid:14)

nπ/2

e−m2/2n

pour m de l’ordre de

n.

2.4 Bruit blanc

Le bruit blanc est un processus stochastique utilis´e afin de mod´eliser les

bruits intervenant dans toute mod´elisation de syst`emes dynamiques.

D´efinition 2.4.1 : s´equence blanche

Une s´equence al´eatoire blanche {xn , n = 1, 2, · · · } est une s´equence

de markov telle que :

pxk/xl(αk/αl) = pxk(αk)

(k > l)

Cela signifie que les xk sont mutuellement ind´ependants. Connaˆıtre la r´ealisation

de xl n’aide pas `a connaˆıtre celle de xk. Une s´equence blanche est totalement

impr´evisible.

Si les xk sont normalement distribu´es alors c’est une s´equence blanche

gaussienne d´efinie par sa moyenne et sa covariance :

E[xn] = mn

P (n, k) = Vnδnk δnk =

(cid:15)

1

0

n = k

n (cid:11)= k

, Vn ≥ 0 Intensit´e

En g´en´eral, le bruit du `a la superposition d’un grand nombre de faibles

effets al´eatoires ind´ependants est gaussien (ceci provenant de l’application

du th´eor`eme de la limite centrale).

Puisque une s´equence blanche gaussienne est un bon mod`ele pour le bruit

affectant un systeme dynamique d´ecrit par un modele en temps discret, on

30

Processus stochastiques remarquables

souhaite disposer d’un ´equivalent pour les bruits affectant les mod`eles dyna-

miques en temps continu. Dans ce cas, le bruit blanc peut ˆetre d´efini formel-

lement par extension du cas discret.

D´efinition 2.4.2 : bruit blanc

x(t) est un bruit blanc s’il v´erifie :

px(t)/x(τ )(α/β) = px(t)(α)

t > τ

Cette d´efinition formelle quoique poss´edant les propri´et´es indispensables

caract´erisant un bruit, n’est pas d’une utilisation tr`es facile.

Nous d´efinissons donc formellement un bruit blanc gaussien par sa moyenne

et sa covariance :

D´efinition 2.4.3 : bruit blanc gaussien

Un bruit blanc gaussien est un processus stochastique gaussien d´efini

par :

o`u :

E[x(t)] = mx(t)

P (t, τ ) = E[(x(t) − mx(t))(x(τ ) − mx(τ ))(cid:1)] = V (t)δ(t − τ )

  • V (t) ≥ 0 intensit´e du bruit blanc.
  • δ(•) impulsion de Dirac.

Dans le cas o`u l’intensit´e du bruit blanc est constante, le processus est sta-

tionnaire au sens large et il est possible d’introduire sa densit´e spectrale de

puissance qui est donn´ee par :

Ψx(ω) = V

Cela montre qu’un bruit blanc gaussien stationnaire a une densit´e de puis-

sance identique `a toutes les fr´equences. Cela justifie la d´enomination de bruit

blanc par analogie avec la lumi`ere blanche. Toutefois, si l’on calcule la puis-

sance totale d’un bruit blanc en utilisant le r´esultat du th´eor`eme 6, nous

Publicité

obtenons une valeur infini...