Classification Hiérarchique et Non Hiérarchique

Page 1 sur 62Lecteur de document UniversityLib

Classification Hiérarchique et Non Hiérarchique

Statistiques, Apprentissage Automatique · course

Browse all intelligence artificielle et données documents

LA CLASSIFICATION

HIERARCHIQUE

Classification Hiérarchique

Principe de regroupement des individus

Méthode « descendante »

Méthode « ascendante »

Du groupe aux individus

Des individus au groupe

Les différents regroupements peuvent être représentés

graphiquement à l’aide d’un arbre hiérarchique ou dendrogramme.

Classification Hiérarchique

Classification Hiérarchique

Méthode « ascendante »

Etape n°1

Etape n°2

Etape n°3

2

5

1

3

4

2

5

1

3

4

2

5

1

3

4

Etape n°4

Etape n°5

2

5

1

3

4

2

Advertisement

5

1

3

4

CLASSIFICATION

HIERARCHIQUE

Calcul des

distances

Calcul des distances

entre individus

Indice de Dissimilarité

Calcul des distances

entre groupes

d’individus

Indice d’agrégation

CALCUL DES DISTANCES ENTRE INDIVIDUS

CALCUL DES DISTANCES ENTRE INDIVIDUS

Pour évaluer la dissimilarité entre les individus :

  • la distance euclidienne
  • Le carré de la distance euclidienne

CALCUL DES DISTANCES ENTRE INDIVIDUS

Supposons qu’on a deux individus I1 et

coordonnées respectivement :

I1 (X1,Y1,Z1)

I2 ayant pour

I2 (X2,Y2,Z2)

,

La distance euclidienne entre I1 et I2

d(I1,I2) =

(𝑋1 − 𝑋2)2+(𝑌1 − 𝑌2)2+(𝑍1 − 𝑍2)2

Le carré de la distance euclidienne entre I1 et I2

𝑑2 𝐼1, 𝐼2 = (𝑋1 − 𝑋2)2 + (𝑌1 − 𝑌2)2+(𝑍1 − 𝑍2)2

CALCUL DES DISTANCES ENTRE INDIVIDUS

Il faut faire attention au biais relatif aux

unités de mesure des différentes variables :

  • Standardiser
  • Centrer et réduire les données

CALCUL DES DISTANCES ENTRE GROUPES D’INDIVIDUS

CALCUL DES DISTANCES ENTRE GROUPES D’INDIVIDUS

Advertisement

  • La méthode du saut minimal
  • La méthode du diamètre
  • La distance moyenne
  • La méthode de Ward

• La distance du saut minimal:

jiGyGxiyxdInfGGdji,2,12,1•La distance du diamètre:

jiGyGxsyxdSupGGdji,2,12,1• La distance moyenne;

• La distance de Ward

jiGyGxmyxduearithmétiqMoyenneGGdji,2,12,1212121,22,1xxdNNNNGGdwClassification Hiérarchique

On ne définit pas a priori le nombre de classes

Utilisation du dendrogramme

Classification Hiérarchique

Le choix du nombre de groupes :

  • Des considérations théoriques, conceptuelles et pratiques.

-

Les tailles relatives des groupes doivent être sensées.

  • Se baser sur les distances d’agrégation des groupes et faire

une coupe au niveau du saut le plus important.

Classification Hiérarchique

Classification Hiérarchique

Classification Hiérarchique

Pour interpréter le profil des groupes :

  • On passe par l’examen des centres des groupes pour chaque variable

utilisée.

  • Etablir un profil plus poussé est possible à travers la recherche des variables

qui différencient significativement les groupes (analyse discriminante)

Classification Hiérarchique

 le nombre d’individus doit être au moins deux fois supérieur au

nombre de variables.

 N’est pas adaptée pour un grand nombre d’individus.

Classification Hiérarchique : Manipulation sur SPSS

Classification Hiérarchique

 le nombre d’individus doit être au moins deux fois supérieur au

nombre de variables.

 N’est pas adaptée pour un grand nombre d’individus!!!!!

LA CLASSIFICATION NON HIERARCHIQUE

  • NUÉES DYNAMIQUES -

Classification non hiérarchique

  • Uniquement sur des données numériques (plusieurs variables)

Advertisement

  • Plus intéressante si le nombre d’individus est assez important
  • Regrouper un nuage de points

(individus) en classes

homogènes.

  • Nécessite la fixation préalable du nombre de classes

Classification non hiérarchique

k1

k3

k2

Classification non hiérarchique

1- Choisir au hasard le centre de chacune des K classes

2- Affecter chaque élément à la classe dont le centre lui est le plus

proche (en utilisant par exemple une distance euclidienne)

3- déplacer chaque centre vers la moyenne des éléments de la classe

4- répéter jusqu'à convergence

Choisir 3 individus au hasard : centres de classes

Y

k1

k2

k3

X

Affecter chaque point à la classe dont le centre est le plus proche

Y

k1

k2

k3

X

Déplacer chaque centre de classe vers la moyenne de chaque classe

Y

k1

k1

k2

k2

k3

k3

X

Réaffecter les points qui sont plus proches du centre d'une autre classe

Y

k2

Advertisement

k1

k3

Quels sont les points qui changent de classe ?

X

les trois

points qui

changent de

classe

Y

k1

k3

k2

X

Recalculer les moyennes des classes

Y

k1

k3

k2

X

Déplacer les centres des classes vers les moyennes

Y

k2

k1

k3

X

Classification non hiérarchique : Manipulation sur SPSS

Classification non hiérarchique

Combien de classes retenir ?

  • Faire varier le nombre de classes
  • Calculer des moyennes par classes
  • Retenir la solution la plus intéressante

Classification non hiérarchique : Manipulation sur SPSS

  • Reprendre l’exemple précédent
  • Analyser les outputs et juger s’il faut retenir 2 ou 3 classes

Classification non hiérarchique : Manipulation sur SPSS