166 lines
6.0 KiB
Plaintext
166 lines
6.0 KiB
Plaintext
---
|
|
title: "18 Régression ridge à noyau"
|
|
author: Pierre-Edouard Portier
|
|
date: mars 2022
|
|
output:
|
|
beamer_presentation:
|
|
incremental: false
|
|
---
|
|
|
|
```{r, include=FALSE}
|
|
source("01_intro_code.R", local = knitr::knit_global())
|
|
source("04_validation_croisee_code.R", local = knitr::knit_global())
|
|
source("18_kernel_ridge_regression_code.R", local = knitr::knit_global())
|
|
```
|
|
|
|
# Noyau gaussien
|
|
|
|
>- Jeu de données : $(\mathbf{x_i},y_i) \quad \text{avec} \quad i=1,\dots,n \quad ; \quad y_i \in \mathbb{R} \quad ; \quad \mathbf{x_i} \in \mathbb{R}^d$
|
|
>- Un \emph{noyau} $k$ est une mesure de similarité entre observations : $k: \mathbb{R}^d \times \mathbb{R}^d \rightarrow \mathbb{R}$
|
|
>- Noyau gaussien
|
|
$$
|
|
k(\mathbf{x_j},\mathbf{x_i}) = exp\left(-\frac{1}{\sigma^2}\|\mathbf{x_j}-\mathbf{x_i}\|^2\right)
|
|
$$
|
|
```{r, echo=FALSE, fig.height=3, fig.width=4}
|
|
d <- seq(from=0, to=5, by=0.1)
|
|
k <- function(sigma,d){exp(-(1/sigma^2)*d^2)}
|
|
plot(x=d, y=k(1,d), type="l")
|
|
```
|
|
|
|
# Combinaison linéaire de similarités
|
|
|
|
>- $f(\mathbf{x}) = \sum_{i=1}^{n} \alpha_i k(\mathbf{x},\mathbf{x_i})$
|
|
>- Chaque $k(\cdot,\mathbf{x_i})$ est une fonction gaussienne
|
|
>- $f$ est une superposition de fonctions gaussiennes
|
|
>- Plus $\mathbf{x}$ est proche de $\mathbf{x_i}$, plus $\mathbf{x_i}$ pèse dans le calcul de $\mathbf{x}$
|
|
>- Approche \emph{non paramétrique} qui s'adapte aux données au lieu d'adpater les paramètres d'une forme fonctionnelle fixée a priori
|
|
|
|
# Combinaison linéaire de similarités
|
|
|
|
```{r, echo=FALSE}
|
|
set.seed(1123)
|
|
npts <- 8
|
|
xi <- runif(npts, min=0, max=5)
|
|
ci <- rnorm(npts)
|
|
xs <- seq(from=0, to=5, by=0.1)
|
|
fi <- function(ci,xi) function(x) ci * exp(-(x-xi)^2)
|
|
call_f <- function(f,...) f(...)
|
|
m <- t(matrix(unlist(lapply(Map(fi,ci,xi), call_f, xs)), nrow=npts, byrow=TRUE))
|
|
g <- rowSums(m)
|
|
plot(xs, g, type="l", lty="solid", ylim=range(cbind(g,m)))
|
|
matplot(xs, m, type="l", lty="dashed", col=1, add=TRUE)
|
|
points(x=xi, y=rep(0,npts))
|
|
```
|
|
|
|
# Régression ridge à noyau
|
|
|
|
$$
|
|
\begin{aligned}
|
|
\mathbf{X} &\in \mathbb{R}^{n\times d} \\
|
|
\hat{\boldsymbol\beta} &= (\mathbf{X}^T\mathbf{X})^{-1}\mathbf{X}^T\mathbf{y} \quad \text{Régression normale} \\
|
|
\hat{\boldsymbol\beta}_\lambda &= \left(\mathbf{X}^T\mathbf{X} + \lambda \mathbf{I}_d\right)^{-1}\mathbf{X}^T\mathbf{y} \quad \text{Régression ridge} \\
|
|
\phi &: \mathbb{R}^d \rightarrow \mathbb{R}^k \quad \text{avec } 1 \leq k \leq +\infty \\
|
|
\boldsymbol\Phi &= \left[ \phi(\mathbf{x_1}),\dots, \phi(\mathbf{x_n}) \right] \in \mathbb{R}^{n\times k}
|
|
\end{aligned}
|
|
$$
|
|
|
|
# Régression ridge à noyau
|
|
|
|
$$
|
|
\begin{aligned}
|
|
& \hat{\boldsymbol\beta}_\lambda = \left(\boldsymbol\Phi^T\boldsymbol\Phi + \lambda \mathbf{I_k}\right)^{-1}\boldsymbol\Phi^T\mathbf{y} \\
|
|
= \{& \text{Identité de Woodbury} \} \\
|
|
& \hat{\boldsymbol\beta}_\lambda = \boldsymbol\Phi^T\left(\boldsymbol\Phi\boldsymbol\Phi^T + \lambda \mathbf{I_n}\right)^{-1}\mathbf{y} \\
|
|
= \{& \mathbf{\alpha} = \left(\boldsymbol\Phi\boldsymbol\Phi^T + \lambda \mathbf{I_n}\right)^{-1}\mathbf{y} \} \\
|
|
& \hat{\boldsymbol\beta}_\lambda = \sum_{i=1}^{n} \alpha_i \phi(\mathbf{x_i}) \\
|
|
\end{aligned}
|
|
$$
|
|
|
|
# Régression ridge à noyau
|
|
|
|
$$
|
|
\begin{aligned}
|
|
& \hat{y} = \phi(\mathbf{x})^T \hat{\boldsymbol\beta}_\lambda \\
|
|
= \{& \text{Voir slide précédent} \} \\
|
|
& \hat{y} = \sum_{i=1}^{n} \alpha_i \phi(\mathbf{x})^T \phi(\mathbf{x_i}) \\
|
|
= \{& k(\mathbf{x},\mathbf{y}) = \phi(\mathbf{x})^T\phi(\mathbf{y}) \} \\
|
|
& \hat{y} = \sum_{i=1}^{n} \alpha_i k(\mathbf{x},\mathbf{x_i}) \\
|
|
= \{& K_{ij} = \phi(\mathbf{x_i})^T\phi(\mathbf{x_j}) \quad ; \quad \mathbf{k(x)} = \left[ k(\mathbf{x},\mathbf{x_1}),\dots, k(\mathbf{x},\mathbf{x_n})\right] \} \\
|
|
& \hat{y} = \mathbf{k(x)}^T \left( \mathbf{K} + \lambda \mathbf{I_n} \right)^{-1} \mathbf{y}
|
|
\end{aligned}
|
|
$$
|
|
|
|
# Calcul de la régression ridge à noyau
|
|
|
|
>- $\mathbf{G} \triangleq \mathbf{K} + \lambda \mathbf{I_n}$
|
|
>- $\boldsymbol\alpha_\lambda = \mathbf{G}^{-1} \mathbf{y}$
|
|
>- $\mathbf{\hat{y}} = \mathbf{K}\mathbf{G}^{-1} \mathbf{y}$
|
|
>- $\mathbf{K}=\mathbf{Q}\boldsymbol\Lambda\mathbf{Q}^T$
|
|
>- $\mathbf{G} = \mathbf{Q} \left( \boldsymbol\Lambda + \lambda \mathbf{I_n} \right) \mathbf{Q}^T$
|
|
>- $\mathbf{G}^{-1} = \mathbf{Q} \left( \boldsymbol\Lambda + \lambda \mathbf{I_n} \right)^{-1} \mathbf{Q}^T$
|
|
>- $\boldsymbol\alpha_\lambda = \mathbf{Q} \left( \boldsymbol\Lambda + \lambda \mathbf{I_n} \right)^{-1} \mathbf{Q}^T \mathbf{y}$
|
|
>- Décomposition de $\mathbf{K}$ en $\mathcal{O}(n^3)$
|
|
>- Calcul de $\boldsymbol\alpha_\lambda$ pour $\lambda$ fixé en $\mathcal{O}(n^2)$
|
|
|
|
# LOOCV pour le choix de $\lambda$
|
|
|
|
>-
|
|
$$
|
|
LOO_\lambda = \frac{1}{n} \sum_{i=1}^{n} \left( \frac{y_i - \hat{y_{\lambda_i}}}{1 - h_i} \right)^2
|
|
$$
|
|
|
|
>-
|
|
$$
|
|
LOO_\lambda = \frac{1}{n} \sum_{i=1}^{n} \left( \frac{y_i - \left(\mathbf{K}\mathbf{G}^{-1} \mathbf{y}\right)_i}{1 - \left(\mathbf{K}\mathbf{G}^{-1}\right)_{ii}} \right)^2
|
|
$$
|
|
|
|
>-
|
|
$$
|
|
LOO_\lambda = \frac{1}{n} \sum_{i=1}^{n} \left( \frac{\alpha_i}{\left(\mathbf{G}^{-1}\right)_{ii}} \right)^2
|
|
$$
|
|
|
|
>-
|
|
$$
|
|
\left(\mathbf{G}^{-1}\right)_{ij} = \sum_{k=1}^{n} \frac{Q_{ik}Q_{jk}}{\Lambda_{kk} + \lambda}
|
|
$$
|
|
|
|
# Choix de l'hyper-paramètre $\sigma^2$
|
|
|
|
>- Pour des données standardisées : $E\left[\|\mathbf{x_j}-\mathbf{x_i}\|^2\right] = 2d$
|
|
>- Avec $\sigma^2=d$, les points les plus proches ont une similarité proche de $1$ et ceux les plus éloignés une similarité proche de $0$. Autrement dit, le noyau gaussien capture alors bien les similarités entre les points.
|
|
|
|
# Exemple sur un jeu de données synthétique
|
|
|
|
```{r, eval=FALSE}
|
|
set.seed(1123)
|
|
n <- 100
|
|
data = gendat(n,0.2)
|
|
splitres <- splitdata(data,0.8)
|
|
entr <- splitres$entr
|
|
test <- splitres$test
|
|
|
|
km <- krr(entr$X,entr$Y)
|
|
yh <- predict(km,test$X)
|
|
plt(test,f)
|
|
points(test$X, yh, pch=4)
|
|
testmae <- mean(abs(yh-test$Y))
|
|
```
|
|
|
|
# Exemple sur un jeu de données synthétique
|
|
|
|
```{r, echo=FALSE}
|
|
set.seed(1123)
|
|
n <- 100
|
|
data = gendat(n,0.2)
|
|
splitres <- splitdata(data,0.8)
|
|
entr <- splitres$entr
|
|
test <- splitres$test
|
|
|
|
km <- krr(entr$X,entr$Y)
|
|
yh <- predict(km,test$X)
|
|
plt(test,f)
|
|
points(test$X, yh, pch=4)
|
|
testmae <- mean(abs(yh-test$Y))
|
|
```
|
|
|
|
- Erreur absolue moyenne de `r round(testmae,2)` sur le jeu de test |