多元线性回归

什么是多元线性回归

在回归分析中，如果有两个或两个以上的自变量，就称为多元回归。 事实上，一种现象常常是与多个因素相联系的，由多个自变量的最优组合共同来预测或估计因变量，比只用一个自变量进行预测或估计更有效，更符合实际。 因此多元线性回归比一元线性回归的实用意义更大。

y=β0＋β１x1+β2x2+ … +βpxp+ε  # 公式

今天讲一个例子

这里有个excel 文件数据，我们来研究到底是哪个因素影响sales最明显，是TV，还是radio，还是newspaper，也就是找的销售额到底是那家个元素引起的，怎么才能提高销售额？

导入相对的库

 import pandas as pd import numpy as np import matplotlib.pyplot as plt %matplotlib inline plt.style.use('ggplot')   #使用ggplot样式from sklearn.linear_model import LinearRegression  # 导入线性回归from sklearn.model_selection import train_test_split  # 训练数据from sklearn.metrics import mean_squared_error  #用来计算距离平方误差，评价模型 

打开文件

 data = pd.read_csv('Advertising.csv') data.head()  #看下data 

先画图分析一下

plt.scatter(data.TV, data.sales)

plt.scatter(data.radio, data.sales)

plt.scatter(data.newspaper, data.sales)

从图中分析看出newspaper的点分散太广，预测毫无关系，应该要去除

进入代码环节

 x = data[['TV','radio','newspaper']] y = data.sales x_train,x_test,y_train,y_test = train_test_split(x, y)  #得到训练和测试训练集model = LinearRegression()  #导入线性回归model.fit(x_train, y_train)  # model.coef_    # 斜率 有三个model.intercept_  # 截距 

得到三个系数

 array([ 0.04480311,  0.19277245, -0.00301245]) 3.0258997429585506 

 for i in zip(x_train.columns, model.coef_):     print(i)    #打印对应的参数 

 ('TV', 0.04480311217789182) ('radio', 0.19277245418149513) ('newspaper', -0.003012450368706149) 

mean_squared_error(model.predict(x_test), y_test)  # 模型的好坏用距离的平方和计算

4.330748450267551

y =0.04480311217789182  x1 + 0.19277245418149513  x2 -0.003012450368706149 * x3  + 3.0258997429585506

我们可以看到newspaper的的系数小于0，说明了投入了，反而影响销售额 那么如何改进模型，就是去掉newspaper的数值

 x = data[['TV','radio']] y = data.sales x_train,x_test,y_train,y_test = train_test_split(x, y) model2 = LinearRegression() model2.fit(x_train,y_train) model2.coef_ model2.intercept_ mean_squared_error(model2.predict(x_test),y_test) 

 array([0.04666856, 0.17769367]) 3.1183329992288478 2.984535789030915  # 比第一个model的小，说明更好 

y =0.04666856 x1 +0.17769367  x2 + 3.118332999228847

···  END  ···

感谢您的关注，毛利期待跟大家共同进步。

长按识别二维码关注

查看更多关于多元线性回归的详细内容...