Analyse en composantes principales

Jean-François DELMAS et Saad SALAM
Version pdf de ce document
Version sans bandeaux

Table des matières

1 Rappels

Considérons un nuage $ \nu$ de $ n$ points dans un espace $ E$ de dimension $ p$. Lorsque $ E$ est de dimension élevée, on ne peut pas visualiser l'espace de points. Un des buts de l'analyse en composantes principales est alors de trouver le meilleur sous-espace $ H$ de $ E$, de dimension $ h$ égale à 2 ou 3 par exemple, dans lequel on aura la meilleure représentation du nuage. En fait, on va chercher à trouver le sous-espace $ H$ de dimension $ h$ sur lequel le nuage projeté du nuage $ \nu$ aura la plus grande "dispersion". On cherchera donc à maximiser la somme des carrés des distances entre tous les couples de points projetés.


$\displaystyle \max_{H} \sum_{i,j} d_H^2(P_i,P_j)$ $\displaystyle =$ $\displaystyle \max_{H} \sum_{i,j} \parallel \vec{P_iP_j} \parallel_H ^2$  
  $\displaystyle =$ $\displaystyle \max_{H} \sum_{i,j} \parallel \vec{P_i G} \parallel_H ^2 + \parallel \vec{P_j G} \parallel_H ^2 - 2 \vec{GP_i} \cdot \vec{GP_j}$  
  $\displaystyle =$ $\displaystyle 2n \max_{H} \sum_{j} \parallel \vec{P_j G} \parallel_H ^2,$  

où $ G$ est le barycentre des points $ P_i$.

On voit donc que maximiser la somme des carrés des distances entre tous les couples de projetés des points équivaut à maximiser la somme des carrés des distances entre les projetés des points et leur centre de gravité.

Notons $ (\vec{e_1} ,\ldots, \vec{e_h})$ une base orthonormée de H.


$\displaystyle \sum_{j=1}^{n} d_H ^2 (P_j,G)$ $\displaystyle =$ $\displaystyle \sum_{j=1}^{n} \parallel \vec{P_j G} \parallel_H ^2$  
  $\displaystyle =$ $\displaystyle \sum_{j=1}^{n} \sum_{i=1}^{h} (\vec{GP_j} \cdot \vec{e_i})^2$  
  $\displaystyle =$ $\displaystyle \sum_{i=1}^{h} \sum_{j=1}^{n} (\vec{GP_j} \cdot \vec{e_i})^2$  
  $\displaystyle =$ $\displaystyle \sum_{i=1}^{h} \parallel X^t \cdot \vec{e_i} \parallel ^2$  
  $\displaystyle =$ $\displaystyle \sum_{i=1}^{h} (X^t \cdot \vec{e_i}) \cdot (X^t \cdot \vec{e_i})^t$  
  $\displaystyle =$ $\displaystyle \sum_{i=1}^{h} \vec{e_i} \cdot X^t \cdot X \cdot \vec{e_i} .$  

La matrice $ X^t \cdot X$ est symétrique réelle. C'est donc la matrice d'une forme quadratique Q dans une base $ (\xi)$ de E et ainsi est diagonalisable dans une base orthonormée. De plus, si on note $ (\lambda_1 \geq \ldots \geq \lambda_p$) le spectre de $ X^t \cdot X$ et $ (\vec{v_1} ,\ldots, \vec{v_p})$ la base orthonormée de vecteurs propres associée, alors $ \lambda_k= \max_{ \parallel x \parallel=1 , x \in Vect( \vec{v_{p-k+1}} ,\ldots, \vec{v_p}) } Q(x)$. Alors, afin de maximiser l'expression précédente il faut choisir $ \vec{e_1}=\vec{v_1} ,\ldots, \vec{e_h}=\vec{v_h}$.

Dans ce cas, $ \sum_{j=1}^{n} d_H ^2 (P_j,G)=\sum_{j=1}^{h} \lambda_j$ est l'inertie du nuage de points $ \nu$ par rapport au sous-espace H, et $ \frac{\sum_{j=1}^{h} \lambda_j}{\sum_{i=1}^{p} \lambda_i}$ est le pourcentage d'inertie expliqué par le sous-espace H. Ce pourcentage d'inertie rend compte de la part de dispersion du nuage $ \nu$ contenue dans le nuage projeté de $ \nu$ sur H.

2 Présentation des données

Nous allons étudier dans cette partie la distribution des mesures de poids de différentes parties d'un groupe de 23 bovins1 (cf la table ci-dessous).

Les variables représentent:

$ X_1$:
poids vif.
$ X_2$:
poids de la carcasse.
$ X_3$:
poids de la viande de première qualité.
$ X_4$:
poids de la viande totale.
$ X_5$:
poids du gras.
$ X_6$:
poids des os.

Bovin $ X_1$ $ X_2$ $ X_3$ $ X_4$ $ X_5$ $ X_6$
1 395 224 35.1 79.1 6.0 14.9
2 410 232 31.9 73.4 8.7 16.4
3 405 233 30.7 76.5 7.0 16.5
4 405 240 30.4 75.3 8.7 16.0
5 390 217 31.9 76.5 7.8 15.7
6 415 243 32.1 77.4 7.1 18.5
7 390 229 32.1 78.4 4.6 17.0
8 405 240 31.1 76.5 8.2 15.3
9 420 234 32.4 76.0 7.2 16.8
10 390 223 33.8 77.0 6.2 16.8
11 415 247 30.7 75.5 8.4 16.1
12 400 234 31.7 77.6 5.7 18.7
13 400 224 28.2 73.5 11.0 15.5
14 395 229 29.4 74.5 9.3 16.1
15 395 219 29.7 72.8 8.7 18.5
16 395 224 28.5 73.7 8.7 17.3
17 400 223 28.5 73.1 9.1 17.7
18 400 224 27.8 73.2 12.2 14.6
19 400 221 26.5 72.3 13.2 14.5
20 410 233 25.9 72.3 11.1 16.6
21 402 234 27.1 72.1 10.4 17.5
22 400 223 26.8 70.3 13.5 16.2
23 400 213 25.8 70.4 12.1 17.5

On dipose d'une matrice poids de taille $ (23,6)$ correspondant aux poids des 23 bovins selon les 6 critères. (fichier poids.txt). On charge les données dans Scilab, après avoir sauvegardé localement le fichier par exemple sous le nom poids.txt, à l'aide de la commande

poids=fscanfMat("poids.txt")




L'analyse des données nous conduit tout d'abord à calculer les paramètres descriptifs élémentaires presentés dans le tableau ci dessous.

  Moyenne Écart-type Min Max
$ X_1$ 401.6 8.2 390.0 420.0
$ X_2$ 228.8 8.7 213.0 247.0
$ X_3$ 29.9 2.6 25.8 35.1
$ X_4$ 74.7 2.5 70.3 79.1
$ X_5$ 8.9 2.4 4.6 13.5
$ X_6$ 16.6 1.2 14.5 18.7

L'écart-type d'une suite de poids $ P_1,\ldots, P_n$ est estimé par: $ \displaystyle \sqrt{\frac{1}{n-1} \sum_{i=1}^{n} (P_i-\bar{P})^2}$, où $ \bar P=\mathop{\frac{1}{ n}}\nolimits \sum_{i=1}^n P_i$.

3 Valeurs propres de la matrice des corrélations

La matrice des corrélations nous donne une première idée des associations existant entre les différentes variables.

  $ X_1$ $ X_2$ $ X_3$ $ X_4$ $ X_5$ $ X_6$
$ X_1$ 1.0000 0.6914 -0.0329 -0.0585 0.0820 0.0820
$ X_2$ 0.6914 1.0000 0.2837 0.3903 -0.3363 0.0917
$ X_3$ -0.0329 0.2837 1.0000 0.8948 -0.8773 0.0348
$ X_4$ -0.0585 0.3903 0.8948 1.0000 -0.9016 0.0032
$ X_5$ 0.0820 -0.3363 -0.8773 -0.9016 1.0000 -0.3368
$ X_6$ 0.0820 0.0917 0.0348 0.0032 -0.3368 1.0000

La matrice de corrélations est obtenue en exécutant la fonction MatCor=correlation(poids). Cette fonction fait appel à la fonction covariance.

Calculons les valeurs propres de la matrice des corrélations et intéressons nous aux pourcentages d'inertie.

Axe Valeur propre Inertie Inertie cumulée
1 2.9914 49.90% 49.90%
2 1.6125 26.90% 76.80%
3 1.0387 17.30% 94.10%
4 0.2487 4.10% 98.20%
5 0.0758 1.30% 99.50%
6 0.0329 0.50% 100.00%

GRAPH. 1: Éboulis des valeurs propres
\scalebox{.5}{\includegraphics{val-prop.eps}}

Les valeurs propres sont calculées sur la matrice de corrélation avec la fonction valprop(MatCor).

L'inertie expliquée par la i-ème composante principale, qui est associée à la i-ème plus grande valeur propre, est calculée avec la formule: $ \displaystyle \frac{\lambda_i}{\sum_{j=1}^{p} \lambda_j}$.

    

Question 1   Analyser le résultat obtenu.



4 Vecteurs propres de la matrice des corrélations

Les vecteurs propres sont calculés sur la matrice de corrélation avec la fonction vectprop(MatCor) qui renvoie les vecteurs propres rangés dans l'ordre décroissant des valeurs propres associées.

  $ \vec{v_1}$ $ \vec{v_2}$ $ \vec{v_3}$ $ \vec{v_4}$ $ \vec{v_5}$ $ \vec{v_6}$
$ X_1$ 0.063 0.743 0.060 0.597 0.283 -0.063
$ X_2$ 0.304 0.609 0.117 -0.643 -0.331 0.019
$ X_3$ 0.534 -0.164 0.137 0.461 -0.646 0.200
$ X_4$ 0.548 -0.138 0.176 -0.130 0.595 0.528
$ X_5$ -0.552 0.147 0.172 0.032 -0.193 0.778
$ X_6$ 0.120 0.100 -0.950 0.007 -0.040 0.266

5 ACP

Nous obtenons, à partir de la matrice des données, les coordonnées des projetés des individus dans la base orthonormée des vecteurs propres de la matrice des corrélations avec la fonction acpindiv(poids).

Cette fonction fait appel à la fonction reduire() qui permet de centrer et de normer une matrice de données de telle sorte que la moyenne de chaque variable soit nulle et que son écart-type soit égal à 1.

Les coordonnées, calculées à partir de la matrice des données, des variables dans la base orthonormée des vecteurs propres sont obtenues avec la fonction acpvar().

Cela nous permet de représenter le nuage projeté du nuage initial de poids et le cercle des corrélations dans le plan formé par deux composantes principales quelconques.

GRAPH. 2: Projection des individus sur les axes principaux 1 et 2
\scalebox{.5}{\includegraphics{acpind12.eps}}

GRAPH. 3: Cercle des corrélations pour les axes 1 et 2
\scalebox{.5}{\includegraphics{acpvar12.eps}}

    

Question 2   Que pouvez-vous dire sur le cercle des corrélations du plan factoriel 1-2?



Pour représenter les coordonnées de $ m$ points de $ {\mathbb{R}}^p$ sur les axes i-j, on utilise la fonction nuage(A,i,j), où les lignes de la matrice A sont les coordonnées des $ m$ points de $ {\mathbb{R}}^p$.

Pour représenter le cercle des corrélations sur les axes i-j, on utilise la fonction cercle(A,i,j), où A est la matrice des coordonnées des variables dans la base orthonormée des vecteurs propres.

    

Question 3   Que pouvez-vous dire sur le cercle des corrélations du plan factoriel 2-3?



6 Qualité de la représentation des individus

La qualité est représentée par le cosinus de l'angle entre le vecteur et son projeté sur le plan factoriel considéré.

On utilise la fonction qualiteindiv(poids,i,j) pour représenter la qualité des individus sur les plans factoriels i-j.

GRAPH. 4: Qualité de la représentation des individus dans le plan factoriel 1-2
\scalebox{.5}{\includegraphics{qualite12.eps}}

    

Question 4   Quelle est votre analyse pour la qualité de la représentation sur les plans 1-2 et 2-3?



7 Étude d'une variable nominale supplémentaire

Les données proviennent de deux races Charolais ou Zébu. 


race=['C','C','C','C','C','C','C','C','C','C','C','C'];
race=[race,'Z','Z','Z','Z','Z','Z','Z','Z','Z','Z','Z'];

Le programme barycentres(acpindiv(poids),race,i,j) permet de visualiser la variable nominale supplémentaire race dans le plan factoriel i-j.

    

Question 5   Analyser le rôle de la variable nominale.



GRAPH. 5: Variable supplémentaire dans le plan factoriel 1-2
\scalebox{.5}{\includegraphics{var_supp_filiere.eps}}


Notes

... bovins1
source INRA