La régression linéaire est le plus simple des algorithmes d'apprentissage automatique et est généralement le premier que vous apprendrez dans n'importe quel cours ou classe sur le sujet. Cependant, sa simplicité ne lui enlève aucune puissance. Au contraire, malgré leur nature simple, ils sont toujours réputés pour leur capacité à prédire ; selon l'International Business Machines Corporation (IBM), « la régression linéaire est la méthode d'analyse prédictive la plus couramment utilisée ». Il s'agit d'un type de modèle d'apprentissage supervisé, ce qui signifie qu'il apprend à partir d'un ensemble de données d'entraînement étiquetées, parfois appelées cibles, afin de faire une prédiction. Plus précisément, la régression linéaire tente de tracer une ligne droite passant par les points de données donnés afin de modéliser au mieux la relation entre les entrées et les cibles données. Pour ce faire, il calcule une somme pondérée des entrées plus un terme de biais.
Le terme de biais est généralement noté θ₀, les poids pour chaque entrée étant notés de θ₁ à θₙ pour n valeurs d'entrée. Ainsi, la régression linéaire peut être représentée comme une fonction linéaire ŷ = θ₁x₁+ … + θₙxₙ + θ₀, ŷ étant la prédiction. Entraîner le modèle signifie trouver les paramètres (θ) qui correspondent le mieux aux données d'entraînement. Afin d'entraîner au mieux le modèle, nous devons d'abord trouver la différence entre la valeur prédite (la sortie du modèle) et la valeur attendue (la valeur cible réelle) pour un point de données de l'ensemble d'entraînement (yᵢ — ŷᵢ). C’est ce qu’on appelle trouver l’erreur pour cette prédiction particulière. Trouver l’erreur sur un point spécifique n’est pas très utile en soi. Le plus important est l’erreur totale commise par le modèle, appelée coût. L’équation utilisée pour déterminer le coût d’un modèle donné est connue sous le nom de fonction de coût. La fonction de coût associée à un modèle de régression linéaire est l'erreur quadratique moyenne. En termes plus simples, cela signifie simplement prendre la moyenne (moyenne) de toutes les erreurs au carré ; d'où le nom.
Cela donne donc le coût du modèle, ou la distance entre votre modèle et les valeurs cibles. La prochaine étape consiste à découvrir comment minimiser le résultat de cette équation. Entraîner un modèle ...
[Courte citation de 8% de l'article original]