Analyse en composantes principales de densités de probabilité estimées par la méthode du noyau

Notations

Notations matricielles

W' transposée de la matrice / vecteur W

Wt,s élément de la t-ème li_gne et la s-ème colonne de la matice W

W -1 inverse de la matrice W

|W | déterminant de la matrice W

MuM la norme euclidienne de u

kuMM la M-norme de u

Notations statisti_ques

E(X) espérance mathémati_que de la variable X

V (X) variance de variable X

Cov(X,Y ) covariance des variables X et Y

N(u,Ó) loi normale de vecteur mo_yen u et de matrice de variance covariance Ó

MISE Mean Inte_grated S_quare Error

AMISE As_ymptotic Mean Inte_grated S_quare Error

Notations fonctionnelles

L²(IR^p) espace des fonctions réelles de carré inté_grable sur IR^p

L2IR( × T) espace des fonctions réelles de carré inté_grable par rapport a la mesure

produit sur × T

U* adjoint de l'opérateur U

< u,v >H produit scalaire dans l'espace de Hilbert H entre les deux vecteurs

u et v

UoV composée des opérateurs U et V

kV M norme de l'oprérateur V

II[a,b] indicatrice de l'intervalle [a,b]

Notations diverses

Pn i fi sommation sur l'ensemble des valeurs de l'indice i des _quantités fi

ps conver_gence pres_que sure

Introduction

La statisti_que, en tant _que discipline des mathémati_ques appli_quées, admet une _grande diversité de dominantes, elle peut être descriptive ou inférentielle, paramétri_que ou non, as_ymptoti_que ou non, uni ou multidimensionnelle_; elle en_globe un spectre très lar_ge de problèmes, allant du plus concret (traitement de données) au plus abstrait (formalisation mathémati_que nécessitant des concepts variés, _qui peuvent être des versions stochasti_ques de la théorie fondamentale (théorie des opérateurs)). Pour cela, elle utilise des outils divers issus de l'al_gèbre linéaire, de l'anal_yse fonctionnelle, de la _géométrie (projection ortho_gonale) et du calcul des probabilités.

L'anal_yse des données comme méthode de la statisti_que descriptive, a vu ses champs d'applications s'élar_gir d'une fa_çon considérable, avec l'introduction et le développement des mo_yens de calcul (les ordinateurs), dépassant ainsi son cadre classi_que [1, 91 en empruntant les chemins du cadre fonctionnel, permettant ainsi d'étudier des phénomènes rendus plus complexes par le _gros volume de données _qu'ils induisent. Par exemple, lors_qu'on étudie un phénomène économi_que comme la consommation mensuelle d'électricité, il est d'usa_ge de la représenter par la chroni_que des consommations mensuelles totales. " Ce choix présente deux inconvénients " [61

~ On perd une partie de l'information concernant la structure du s_ystème_;

Les délais nécessaires a la connaissance des derniers résultats de cette série sont souvent assez lon_gs.

" Le premier point nous amène a caractériser le phénomène étudié par la série chronolo_gi_que multiple des consommations mensuelles des différentes branches de l'industrie et du commerce. Sa visualisation nous fournira celle du phénomène de fa_con _globale" [61.

" Le deuxième point pose le problème du choix d'une ou plus _généralement d'un petit _groupe de séries, extraits de la série multiple et la représentant au mieux. Ce choix est fondamental dans l'étude de la conjoncture et dans la prévision " [61 . Braun (1973) propose de résoudre ce problème en faisant une anal_yse en composantes principales sur ces séries, dont la première composante principale va expli_quer au mieux la variabilité du phénomène. Cette dernière n'expli_quant _qu'une partie de la variabilité totale, on peut alors considérer la deuxième composante principale parmi les combinaisons linéaires des autres séries ortho_gonales a la première composante principale, et ainsi de suite.

Depuis les travaux pionniers de Deville (1974), beaucoup d'attentions ont étés accordé a l'anal_yse des données fonctionnelles par la communauté statisti_que [11 dont beaucoup d'études sont consacrées a la description statisti_que d'un échantillon de courbes (courbe de croissance, courbe de température, ... ) au mo_yen de l'anal_yse en composantes principales fonctionnelle (voir Ramsa_y and Silverman 1991, Boumaza, 1999, Kneip and Utikal, 2001...). L'utilisation de la décomposition spectrale de l'opérateur de covariance _qui est analo_gue a la matrice de covariance dans l'espace des fonctions, permet d'obtenir dans un espace de faible dimension les principaux modes de variations des données. Prenons par exemple la fonction aléatoire X(t,w), w E Ù et t varie dans un intervalle compact T de IR, de mo_yenne u(t) et de fonction de covariance ã(t,s) = Cov(X(s),X(t)).

L'opérateur de covariance F s'écrit sous la forme d'un opérateur inté_gral comme suit [111:

_Z

Vf E L²(T ), Vt E T, Ff(t) = ã(t,s)f(s)ds (1)

T

La meilleure approximation de X dans un sous-espace de dimension q, est obtenue par la projection de X sur le sous-espace de L²_IR(Ù x T) en_gendré par les q fonctions propres g1, . . . ,g_q de F de la fa_çon suivante:

X(t) u(t) + X q fj gj(t) (2)

j=1

Les fj sont des variables aléatoires centrées de variances ëj (ëj est la j-ième valeur propre de F). Une approximation obtenue au mo_yen de l'anal_yse en composantes principales fonctionnelle (FPCA) de la fonction aléatoire X [4, 141.

Si nous intéressons maintenant a la description et a l'estimation des réalisations des trajectoires Xi d'une variable aléatoire X prenant ses valeurs dans un espace fonctionnel,"deux points de vue cohabitent dans la littérature et conduisent aux memes procédures d'estimation "[11 . Le premier considère _que les observations sont bruitées et _que le vrai si_gnal est contenu dans un espace fonctionnel de dimension finie [271, Il s'a_git alors de reconstuire au mieux les trajectoires observées. Le second cherche a obtenir une représentation optimal d'un ensemble de courbes dans un espace de dimension petite [11].

Lors_qu'on observe un échantillon i.i.d de variables aléatoires fonctionnelles Xi, i = 1,m tiré selon la distibution de X, on peut définir l'opérateur de covariance empiri_que _n[14l. Deville (1974), Dauxois et Pousse (1976), montrent, en des sens et sous des h_ypothéses différentes (conver_gence pres_que sure, conver_gence en loi, données dépendantes), la conver_gence des opérateurs de covariance au sens de la norme de Hilbert-Schmidth ainsi la conver_gence des éléments propres. Ensuite, Dauxois et al, ont montré la conver_gence en loi de _n et en ont déduit les conver_gences en loi des éléments propres.

En prati_que on peut supposer _que les courbes sont observées sur une _grille de p points de discrétisation t1,... ,t_p . On note Xi = (Xi(t1), . . . ,Xi(t_p)^' la i-ème trajectoire disctrétisée _que l'on suppose centrée."En approximant l'opérateur de covariance en utilisant une méthode de _quadrature, on peut définir les composantes principales comme les coordonnées dans la bases des fonctions propres discrétisées " [11].

" L'estimation "brute" des éléments propres en présence d'observations discrètes des courbes n'est pas forcément judicieuse, les fonctions propres estimées pouvant etre très irré_gulières " [71 , d'oi l'idée prati_que de proposer un lissa_ge dans la phase d'estimation. Ce lissa_ge peut opérer sur les trajectoires [11, 27] des_quelles on fait ensuite l'ACP sur les vecteurs propres [34, 35] oi encore en lissant simultanément toutes les trajectoires dans un espace de dimension restreinte [101. Ce lissa_ge permet é_galement d'améliorer, lors_que la valeur du paramètre est bien choisie, les estimateurs des éléments propres [11, 27] et les reconstructions des trajectoires [101.

Une variante de l'anal_yse des données fonctionnelles permettant le traitement d'un autre t_ype de données, appelée: "données ternaires" (three-wa_y data) _qui se présentent sous forme de L tableaux indicés par un paramètre _qui peut être le temps [12, 21] est l'ACP de densités de probabilité [3, 20] dont la justification théori_que ressort de la théorie des opérateurs compacts [13, 151. Elle consiste a remplacer cha_que tableau par une densité de probabilité. L'ensemble de ces densités constitue un nua_ge de L vecteurs dans l'espace de Hilbert L²(IR¹²) (p dési_gne le nombre de colonnes de ces tableaux). L'objectif est de décrire _globalement ces données, en procédant a une représentation approché dans un sous-espace de faible dimension.

La méthode suppose _que les densités sont connues, ce _qui n'est pas toujours le cas en prati_que. Une fa_çon simple d'_y remédier consiste a supposer _que les densités appartiennent a une famille connue, comportant des paramètres inconnus dont les estimations par la méthode de vraisemblance permet de déduire des estimations de ces densités, puis de faire une ACP sur les densités estimées. Cette ACP fournit une estimation de l'ACP théori_que correspondante.

On peut vérifier dans le cas de données _gaussiennes simulées la conver_gence rapide de l'ACP des densités estimées vers l'ACP théori_que correspondante pour des tailles d'échantillon raisonnables [31.

Notre souci dans ce présent travail est de présenter une autre approche d'estimation. Elle consiste a estimer les densités inconnues par la méthode du no_yau [2, 16, 31, 32, 331. La conver_gence de l'ACP estimée est justifiée par les propriétés de conver_gence des estimateurs a no_yau [21.

On étudiera ainsi pour une taille d'échantillon fixée, l'influence des paramètres de lissa_ge (no_yau et fenêtre) sur les résultats de l'estimation, puis on proposera un critère de sélection de la fenêtre de lissa_ge. On utilisera ce critère pour calculer une fenêtre dite "optimale", permettant ainsi d'obtenir une meilleure estimation de l'ACP théori_que correspondante.

L'étude est faite sur des données simulées de différentes natures (bimodale s_ymétri_que et as_ymétri_que, unimodale s_ymétri_que et as_ymétri_que). Les pro_grammes ont été écrits dans l'environnement Scilab.

Le premier chapitre est consacré a l'étude de l'ACP de densités. Dans un premier temps on proposera un bref rappel sur l'anal_yse factorielle d'opérateur, _qui sera considérée comme un outil mathémati_que pour aborder par la suite la deuxième partie, _qui est dédiée a l'ACP de densités.

Dans le deuxième chapitre et après un rappel sur la notion d'estimation de densité de probabilités par la méthode du no_yau, on présentera dans un premier temps l'ACP de densités estimées non paramétri_quement, ensuite on donnera un rappel sur l'approche d'estimation paramétri_que et on terminera ce chapitre par une comparaison entre les deux approches d'estimation.

En se basant sur des exemples simulés, on étudiera au début du troisième chapitre, l'influence du no_yau sur l'ACP de densités estimées, oi l'on considérera deux cas particuliers_; le cas oi les densités sont estimées en associant a chacune d'elle la fenêtre optimale au sens de l'erreur _quadrati_que inté_grée as_ymptoti_que et le cas oii les densités sont estimées sous la condition d'é_galité des erreurs _quadrati_ques inté_grées as_ymptoti_ques.

Le _quatrième et dernier chapitre est réservé a l'influence et choix de la fenêtre de lissa_ge sur l'ACP de densités. On _y proposera un critère de sélection d'une fenêtre dite "optimale", et on _y comparera a l'aide de _quel_ques exemples simulés, les résultats obtenus en utilisant cette fenêtre et les résultats obtenus en utilisant les fenêtres optimales au sens des erreurs _quadrati_ques inté_grées asymptotiques.