Régressions linéaires

Une régression est une méthode pour déterminer la relation entre une variable ( y ) et d'autres variables ( x ).

En statistique, une régression linéaire est une approche de modélisation d'une relation linéaire entre y et x.

En IA, une régression linéaire est un algorithme d'apprentissage automatique supervisé.

Nuage de points

Voici le nuage de points (du chapitre précédent) :

4060801001201401606810121416
House Prices vs. SizeSquare MetersPrice in Millions

Exemple

var xArray = [50,60,70,80,90,100,110,120,130,140,150];
var yArray = [7,8,8,9,9,9,10,11,14,14,15];

// Define Data
var data = [{
  x:xArray,
  y:yArray,
  mode: "markers"
}];

// Define Layout
var layout = {
  xaxis: {range: [40, 160], title: "Square Meters"},
  yaxis: {range: [5, 16], title: "Price in Millions"},
  title: "House Prices vs. Size"
};

Plotly.newPlot("myPlot", data, layout);

Prédire des valeurs

À partir des données dispersées ci-dessus, comment pouvons-nous prédire les prix futurs ?

  • Utiliser un graphique linéaire dessiné à la main
  • Modéliser une relation linéaire
  • Modéliser une régression linéaire

Graphiques linéaires

Il s'agit d'un graphique linéaire prédisant les prix en fonction du prix le plus bas et du prix le plus élevé :

4060801001201401606810121416
trace 0trace 1House Prices vs. SizeSquare MetersPrice in Millions

Exemple

var xArray = [50,60,70,80,90,100,110,120,130,140,150];
var yArray = [7,8,8,9,9,9,9,10,11,14,14,15];

var data = [
  {x:xArray, y:yArray, mode:"markers"},
  {x:[50,150], y:[7,15], mode:"line"}
];

var layout = {
  xaxis: {range: [40, 160], title: "Square Meters"},
  yaxis: {range: [5, 16], title: "Price in Millions"},
  title: "House Prices vs. Size"
};

Plotly.newPlot("myPlot", data, layout);

D'un chapitre précédent

Un graphe linéaire peut être écrit comme y = ax + b

Où:

  • y est le prix que nous voulons prédire
  • a est la pente de la droite
  • x sont les valeurs d'entrée
  • b est l'ordonnée à l'origine

Relations linéaires

Ce modèle prédit les prix en utilisant une relation linéaire entre le prix et la taille :

4060801001201401606810121416
trace 0trace 1House Prices vs. SizeSquare MetersPrice in Millions

Exemple

var xArray = [50,60,70,80,90,100,110,120,130,140,150];
var yArray = [7,8,8,9,9,9,10,11,14,14,15];

// Calculate Slope
var xSum = xArray.reduce(function(a, b){return a + b;}, 0);
var ySum = yArray.reduce(function(a, b){return a + b;}, 0);
var slope = ySum / xSum;

// Generate values
var xValues = [];
var yValues = [];
for (var x = 50; x <= 150; x += 1) {
  xValues.push(x);
  yValues.push(x * slope);
}

Dans l'exemple ci-dessus, la pente est une moyenne calculée et l'ordonnée à l'origine = 0.


Utilisation d'une fonction de régression linéaire

Ce modèle prédit les prix à l'aide d'une fonction de régression linéaire :

4060801001201401606810121416
trace 0trace 1House Prices vs. SizeSquare MetersPrice in Millions

Exemple

var xArray = [50,60,70,80,90,100,110,120,130,140,150];
var yArray = [7,8,8,9,9,9,10,11,14,14,15];

// Calculate Sums
var xSum=0, ySum=0 , xxSum=0, xySum=0;
var count = xArray.length;
for (var i = 0, len = count; i < count; i++) {
  xSum += xArray[i];
  ySum += yArray[i];
  xxSum += xArray[i] * xArray[i];
  xySum += xArray[i] * yArray[i];
}

// Calculate slope and intercept
var slope = (count * xySum - xSum * ySum) / (count * xxSum - xSum * xSum);
var intercept = (ySum / count) - (slope * xSum) / count;

// Generate values
var xValues = [];
var yValues = [];
for (var x = 50; x <= 150; x += 1) {
  xValues.push(x);
  yValues.push(x * slope + intercept);
}