TP1 : Initiation Matlab et Théorie Bayesienne
TP1 : Initiation Matlab et Théorie Bayesienne
Programming, Math, etc. · lab
Fiche de révisionGuide de TP
Rédigée à partir de ce document, puis vérifiée avant publication.
Ce TP a pour objectif de vous initier à l'environnement Matlab et à la théorie bayésienne à travers un problème concret de reconnaissance de formes biomédicales. Vous travaillerez sur un jeu de données relatif au diagnostic du diabète, en utilisant deux variables clés pour visualiser et classifier les sujets. Ce TP nécessite Matlab et des connaissances de base en statistiques et programmation.
Les données proviennent d'un échantillon de 709 femmes amérindiennes Pimas, sujettes à un fort taux de diabète. Chaque sujet est décrit par huit variables biomédicales :
Pour ce TP, seules les variables (2) et (6) seront utilisées afin de faciliter la visualisation et la classification.
Commencez par charger le fichier « pima.mat » dans Matlab et extraire les variables (2) et (6) pour constituer une matrice d’apprentissage appelée xtemp.
load('pima.mat');
xtemp = xall(:, [2 6]);Cette étape permet d’isoler les variables d’intérêt pour la suite du TP.
Visualisez les distributions des deux variables pour chaque classe (diabétique et non diabétique) à l’aide d’histogrammes :
hist(xtemp(y == 1, 1)); % Histogramme glucose pour diabétiques
hist(xtemp(y == -1, 1)); % Histogramme glucose pour non diabétiques
hist(xtemp(y == 1, 2)); % Histogramme IMC pour diabétiques
hist(xtemp(y == -1, 2)); % Histogramme IMC pour non diabétiques
Ensuite, tracez les exemples en 2D en utilisant des couleurs différentes selon la classe :
plot(xtemp(y == 1, 1), xtemp(y == 1, 2), 'ro'); % Diabétiques en rouge
hold on;
plot(xtemp(y == -1, 1), xtemp(y == -1, 2), 'bo'); % Non diabétiques en bleu
hold off;
Cette visualisation permet de percevoir la séparation possible entre les classes.
Dans ce cas, on suppose que les variables sont indépendantes et ont la même variance pour toutes les classes.
P1 = sum(y == 1) / n;
P_1 = sum(y == -1) / n;
mu_all = mean(xtemp);
sigma_all = std(xtemp);
x = (xtemp - mu_all) ./ sigma_all;
La variance σ est fixée à 1 car les données sont normalisées.
mu1 = mean(x(y == 1, :));
mu_1 = mean(x(y == -1, :));
[X1, X2] = meshgrid(linspace(min(x(:,1)), max(x(:,1)), 100), linspace(min(x(:,2)), max(x(:,2)), 100));
Xtest = [X1(:) X2(:)];
g1 = -0.5 * sum((Xtest - mu1).^2, 2) + log(P1);
g_1 = -0.5 * sum((Xtest - mu_1).^2, 2) + log(P_1);
f = g1 - g_1;
F = reshape(f, size(X1));
contour(X1, X2, F, [0 0], 'LineWidth', 2);
hold on;
plot(x(y == 1, 1), x(y == 1, 2), 'ro');
plot(x(y == -1, 1), x(y == -1, 2), 'bo');
hold off;
Cette étape permet de visualiser la frontière de décision entre les classes sous l’hypothèse simplifiée.
Cette version ne fait aucune hypothèse sur la matrice de covariance, qui est estimée pour chaque classe.
P1 = sum(y == 1) / n;
P_1 = sum(y == -1) / n;
mu1 = mean(x(y == 1, :));
mu_1 = mean(x(y == -1, :));Sigma1 = cov(x(y == 1, :));
Sigma_1 = cov(x(y == -1, :));
invSigma1 = inv(Sigma1);
invSigma_1 = inv(Sigma_1);
detSigma1 = det(Sigma1);
detSigma_1 = det(Sigma_1);
g1 = -0.5 * sum((Xtest - mu1) * invSigma1 .* (Xtest - mu1), 2) - 0.5 * log(detSigma1) + log(P1);
g_1 = -0.5 * sum((Xtest - mu_1) * invSigma_1 .* (Xtest - mu_1), 2) - 0.5 * log(detSigma_1) + log(P_1);
f = g1 - g_1;
F = reshape(f, size(X1));
contour(X1, X2, F, [0 0], 'LineWidth', 2);
hold on;
plot(x(y == 1, 1), x(y == 1, 2), 'ro');
plot(x(y == -1, 1), x(y == -1, 2), 'bo');
hold off;
Comparez cette frontière de décision avec celle obtenue précédemment. La différence réside dans la forme plus flexible de la frontière, qui prend en compte la covariance entre variables.