Data Mining
Data Mining
Programming, Math, etc. · course
Fiche de révisionFiche de cours
Rédigée à partir de ce document, puis vérifiée avant publication.
Ce document présente des exercices pratiques de fouille de données (Data Mining) destinés aux étudiants en informatique ou en sciences des données. Il couvre l'application de méthodes simples de classification sur une base de données « jouer tennis » et la classification de textes à l'aide de la méthode Naïve Bayes avec l'outil Weka.
La base de données contient 20 exemples décrits par 4 attributs nominaux :
La variable cible (classe) est jouer avec deux valeurs possibles : oui ou non.
Le domaine des attributs est de taille |D| = 3 × 3 × 2 × 2 = 36.
Pour les exercices, les données sont divisées en :
Pour utiliser cette base dans Weka, il faut convertir le fichier jouer_tennis.txt en format ARFF (jouer_tennis.arff).
ZeroR est une méthode de classification très simple qui prédit toujours la classe la plus fréquente dans l'échantillon d'entraînement.
Version 1 : Le taux de classification correcte est à calculer sur Xtrain.
Version 2 :
Les résultats obtenus avec Weka (Version 2) doivent être comparés aux calculs manuels.
OneR construit un classifieur simple basé sur un seul attribut. La démarche est la suivante :
Exemple de tableau à compléter pour chaque attribut :
| Attribut (xi) | Valeur | Pr[jouer=oui | xi, Xtrain] | Pr[jouer=non | xi, Xtrain] | Nombre d'exemplaires dans Xtrain | Décision du classifieur | Taux de classification correcte sur Xtest |
|---|---|---|---|---|---|---|
| Ciel | Ensoleillé | |||||
| Ciel | Couvert | |||||
| Ciel | Pluie |
Le meilleur classifieur est basé sur l'attribut : ________.
Taux de classification correcte du classifieur final sur Xtest : ________.
Résultats obtenus avec Weka (attribut choisi et taux de classification) : ________.
La méthode Naïve Bayes induit un classifieur probabiliste en estimant :
Le classifieur prédit la classe y qui maximise :
Pr[y | X] ∝ Pr[y | Xtrain] × ∏ Pr[xi | y, Xtrain]
Exemple de tableau à compléter :
| Classe | Nombre total d'exemplaires | Pr[y | Xtrain] | Attribut | Valeur xi | Nombre d'exemplaires avec xi | Pr[xi | y, Xtrain] |
|---|---|---|---|---|---|---|
| jouer = oui | Ciel | Ensoleillé | ||||
| jouer = non | Ciel | Ensoleillé |
Taux de classification correcte du classifieur Naïve Bayes sur Xtest : ________.
Résultats obtenus avec Weka : ________.
Cette partie utilise exclusivement l'outil Weka pour la classification de textes.
toy.news-train.arff.Ensuite, les textes sont convertis en attributs binaires :
filters → unsupervised → attribute → String2WordVector.ReutersCorn-small-train.arff.classifiers → bayes → NaiveBayes.