Idée
Répéter mille fois le même cycle : faire couler les données vers l'avant pour obtenir la prédiction, comparer à la vérité, faire remonter l'erreur vers les coefficients pour calculer combien chacun doit bouger, puis bouger d'un petit pas.
Pourquoi
Répéter mille fois le même cycle : faire couler les données vers l'avant pour obtenir la prédiction, comparer à la vérité, faire remonter l'erreur vers les coefficients pour calculer combien chacun doit bouger, puis bouger d'un petit pas. Tous les dix tours, noter dans un cahier le score actuel pour pouvoir tracer la courbe de progression.
Outil
Méthode de Newton itérative en analyse numérique : on s'approche de la solution par corrections successives, sauf qu'ici on n'a pas de critère d'arrêt fin et on fixe d'avance le nombre d'itérations.
Formule
Le présentateur fixe les hyperparamètres par défaut au moment du test. Sans regarder, donner le nombre d'itérations.
Piège
Les fonctions log_loss et accuracy_score de scikit-learn n'apprécient pas les tableaux à 2 dimensions de forme $(1, m)$. Avant de les appeler, il faut aplatir $Y$ et les prédictions en tableaux 1D — sinon scikit-learn lève une erreur ou produit des résultats inattendus. Le créateur force le passage en 1D explicitement.