Empirical risk minimization as parameter choice rule for general linear regularization methods

Abstract

Listen

Translate article

Nous considerons le probleme inverse stochastique de reconstruire $f$ a partir de donnees bruitees $Y=Tf+\sigma \xi $ ou $\xi $ est un bruite blanc et $T$ un operateur compact entre espaces de Hilbert. Considerant des methodes de reconstruction generales de la forme $\hat{f}_{\alpha }=q_{\alpha }(T^{*}T)T^{*}Y$ avec un filtre ordonne $q_{\alpha }$, nous examinons le choix du parametre de regularisation $\alpha $ en minimisant un estimateur non biaise du risque predictif $\mathbb{E}[\Vert Tf-T\hat{f}_{\alpha }\Vert^{2}]$. Le parametre correspondant $\alpha_{\mathrm{pred}}$ et son utilisation sont bien connus dans la litterature mais les inegalites oracles et les resultats d’optimalite dans ce cadre general sont inconnus. Nous prouvons une inegalite oracle (generalisee), qui relie le risque direct $\mathbb{E}[\Vert f-\hat{f}_{\alpha_{\mathrm{pred}}}\Vert^{2}]$ au risque de l’oracle de prediction $\inf_{\alpha >0}\mathbb{E}[\Vert Tf-T\hat{f}_{\alpha }\Vert^{2}]$. A partir de cette inegalite oracle nous sommes alors capable de conclure que la regle de choix du parametre examine est d’ordre optimale au sens minimax. Finalement nous presentons aussi des simulations numeriques qui confirment l’optimalite de l’ordre de la methode et la qualite du choix du parametre dans des situations discretes.