Pierre-Edouard Portier
c703b1b349
package url
2022-02-23 22:20:41 +01:00
Pierre-Edouard Portier
ddb4a021f3
add introduction to kernel ridge regression
2022-02-23 11:30:30 +01:00
Pierre-Edouard Portier
fcea9a12ab
Add .DS_Store to .gitignore
2022-02-19 19:07:09 +01:00
Pierre-Edouard Portier
d1e4ac7a26
To compile Rmd files to PDF with a Makefile
2022-02-19 19:04:58 +01:00
Pierre-Edouard Portier
c31e8b9ef3
going back to long lines after switching to PLAN9's editor Acme
2022-02-19 19:03:46 +01:00
Pierre-Edouard Portier
a6b386e0cb
add title to R files
2022-02-19 18:59:28 +01:00
Pierre-Edouard Portier
0292fdf52d
ignore .swp files
2022-02-13 22:11:30 +01:00
Pierre-Edouard Portier
299124a678
retire du repo git le PDF de la partie 16
2022-02-13 22:10:34 +01:00
Pierre-Edouard Portier
2fb42d02fb
travail sur la partie 17, biais et variance des coefficients de la régression ridge
2022-02-13 22:08:08 +01:00
Pierre-Edouard Portier
6725971bb9
Corrections mineures pour la partie qui introduit les notions de biais et de variance.
2021-12-06 09:26:19 +01:00
Pierre-Edouard Portier
8928da32be
Introduction aux concepts de biais et de variance d'un estimateur.
2021-12-04 17:46:20 +01:00
Pierre-Edouard Portier
3dafda091b
Implémentation de la validation croisée un contre tous (loocv) pour un modèle de régression ridge.
2021-12-02 18:43:18 +01:00
Pierre-Edouard Portier
ff6e638578
K-fold-cv pour la régression ridge basée sur le svd de la matrice des données.
2021-12-01 15:10:44 +01:00
Pierre-Edouard Portier
ec8e61cd7b
Code pour ridge svd et k-fold cv.
...
k-fold cv n'est pas encore fait (copié-collé de l'ancien k-fold cv par la version sur la matrice de Gram).
2021-11-30 23:23:41 +01:00
Pierre-Edouard Portier
3c181c2c78
Introduction de la standardisation des variables explicatives dans l'inférence des paramètres de la régression Ridge par construction explicite de la matrice de Gram. La version de l'inférence qui utilise le SVD donne bien les mêmes paramètres pour une même valeur de l'hyperparamètre de régularisation.
2021-11-30 18:44:47 +01:00
Pierre-Edouard Portier
8d94107206
Introduction de la standardisation des variables explicatives et du centrage de la cible dans le contexte de la régression Ridge.
2021-11-30 18:40:04 +01:00
Pierre-Edouard Portier
5e269edbef
Meilleures notations.
...
Début de l'intégration de l'exemple synthétique avec calcul basé sur le SVD. Il faudra déplacé cela dans la section précédente pour se concentrer ici sur l'implémentation de LOOCV, version GCV.
2021-11-28 23:17:42 +01:00
Pierre-Edouard Portier
9ea91c17b2
Ridge par svd avec standardisation.
...
Il faudra introduire la standardisation dès l'introduction de Tikhonov avec la version inefficace de l'algorithme, celle passant par le calcul explicite de la matrice de covariance.
2021-11-28 23:04:52 +01:00
Pierre-Edouard Portier
37661174c1
Meilleurs choix de notations.
2021-11-28 23:02:50 +01:00
Pierre-Edouard Portier
4927219696
Rédaction de la présentation du calcul de l'erreur par LOOCV à partir du SVD de X. A la fin, explication de la GCV. Content d'avoir pu clarifier ces points qui sont souvent confus dans les références présentes sur le web.
2021-11-13 22:44:12 +01:00
Pierre-Edouard Portier
59ee7dbdac
Correction de quelques erreurs dans la présentation du SVD. En particulier, c'est V'V=I et non VV'=I.
2021-11-13 22:42:36 +01:00
Pierre-Edouard Portier
05b5daf904
Début du chapitre sur LOOCV pour Ridge.
2021-11-02 17:03:04 +01:00
Pierre-Edouard Portier
540967c3dd
Changements de titres : retrait du préfixe ML.
2021-10-16 22:57:23 +02:00
Pierre-Edouard Portier
55d63278c8
Point de départ. Reprise d'un dépôt bloqué. PDF volontairement non inclus.
2021-10-16 22:45:21 +02:00
p6e7p7
338ed9e5fd
Initial commit
2021-10-16 20:31:09 +00:00