Régression logistique
La régression logistique fonctionne de la même façon que la régression linéaire à la différence que Y est incorporé dans une fonction sigmoïde. La transformation de Y en Y’= 1/(1+e^(-Y) ) nous permet d’obtenir des prédictions booléennes. Visuellement cela ressemble à une courbe en S, qui prédit une valeur entre 0 et 1. Celle-ci peut-être alors interprété comme la probabilité d'être 0 ou 1.
Sur le plan mathématique, une fonction logistique se définie de la sorte :
Détour par le logit : le logit est la transformation logarithmique de la côte de probabilité d’un évènement p. Son équation est :
Or, si on résout :
La régression logistique est particulièrement utile dans le cas du calcul de la probabilité de réalisation d'un évènement ou non.
Comme la régression linéaire, la régression logistique est un outil très populaire en science de données, et fait parti intégrante des outils de ML (Apprentissage machine).