利润预测不再困难，scikit-learn线性回归法让你事半功倍-51CTO.COM

1、简介

生成式人工智能无疑是一个改变游戏规则的技术，但对于大多数商业问题来说，回归和分类等传统的机器学习模型仍然是首选。

想象一下像私募股权或风险投资这样的投资者如何利用机器学习。要回答这样的问题，首先必须了解投资者关注的数据以及它是如何被使用的。投资公司的决策不仅仅基于可量化的数据，如支出、增长和烧钱率等，还包括创始人的记录、客户反馈、产品体验等定性数据。

本文将介绍线性回归的基础知识，可以在这里找到完整的代码。

【代码】：https://github.com/RoyiHD/linear-regression

2、项目设置

本文将使用Jupyter Notebook进行这个项目。首先导入一些库。

导入库

# 绘制图表
import matplotlib.pyplot as plt
# 数据管理和处理
from pandas import DataFrame
# 绘制热力图
import seaborn as sns
# 分析
from sklearn.metrics import r2_score
# 用于训练和测试的数据管理
from sklearn.model_selection import train_test_split
# 导入线性模型
from sklearn.linear_model import LinearRegression
# 代码注释
from typing import List

3、数据

为了简化问题，本文将使用区域数据。这些数据代表了公司的支出类别和利润。可以看到一些不同数据点的示例。本文希望使用支出数据来训练一个线性回归模型并预测利润。

重要的是要理解本文将使用的数据描述的是一家公司的支出情况。只有将支出数据与收入增长、当地税收、摊销和市场状况等数据结合起来时，才能得到有意义的预测能力。

R&D Spend	Administration	Marketing	Spend Profit
165349.2	136897.8	471784.1	192261.83
162597.7	151377.59	443898.53	191792.06
153441.51	101145.55	407934.54	191050.39

加载数据

companies: DataFrame = pd.read_csv("companies.csv", header = 0)

4、数据可视化

了解数据对于确定要使用的特征、需要进行归一化和转换的特征、从数据中删除异常值以及对特定数据点进行的处理是很重要的。

目标（利润）直方图

可以直接使用DataFrame绘制直方图（Pandas使用Matplotlib来绘制数据帧），可以直接访问利润并绘制它。

companies['Profit'].hist( color='g', bins=100);

图片

可以看到，利润超过20万美元的异常值非常少。由此还可以从中推断出本文的数据代表的是具有特定规模的公司。由于异常值的数量相对较少，可以将其保留。

特征（支出）直方图

在这里，本文想看到使用特征的直方图并查看其分布情况。Y轴表示数字频率，X轴表示支出。

companies[[
  "R&D Spend", 
  "Administration", 
  "Marketing Spend"
]].hist(figsize=(16, 20), bins=50, xlabelsize=8, ylabelsize=8)

图片

还可以看到有一个健康的分布，只有少量的异常值。根据直觉，可以预期在研发和市场营销上花费更多的公司利润更高。从下面的散点图中可以看出，研发支出和利润之间存在明显的相关性。

profits: DataFrame = companies[["Profit"]]
research_and_development_spending: DataFrame = companies[["R&D Spend"]]

figure, ax = plt.subplots(figsize = (9, 9))
plt.xlabel("R&D Spending")
plt.ylabel("Profits")
ax.scatter(
  research_and_development_spending, 
  profits, 
  s=60, 
  alpha=0.7, 
  edgecolors="k",
  color='g',
  linewidths=0.5
)

图片

可以通过相关热图进一步探索支出和利润之间的相关性。从图中可以看出，研发和市场营销支出与利润的相关性比行政支出更高。

sns.heatmap(companies.corr())

图片

5、模型训练

首先需要将数据集分割为训练集和测试集两部分。Sklearn提供了一个辅助方法来完成这个任务。鉴于本文的数据集很简单且足够小，可以按照以下方式将特征和目标分离开来。

数据集

features: DataFrame = companies[[
    "R&D Spend", 
    "Administration", 
    "Marketing Spend",
]]
targets: DataFrame = companies[["Profit"]]

train_features, test_features, train_targets, test_targets = train_test_split(
  features, 
  targets,
  test_size=0.2
)

大多数数据科学家会使用不同的命名约定，如X_train、y_train或其他类似的变体。

模型训练

现在可以创建并训练模型了。Sklearn使事情变得非常简单。

model: LinearRegression = LinearRegression()
model.fit(train_features, train_targets)

6、模型评估

本文希望对模型的性能及其可用性进行评估。首先查看一下计算得到的系数。在机器学习中，系数是用来与每个特征相乘的学习到的权重或数值。期望看到每个特征都有一个学习系数。

coefficients = model.coef_

"""
We should see the following in our console

Coefficients  [[0.55664299 1.08398919 0.07529883]]
"""

正如上述所看到的，有3个系数，每个特征对应一个系数（“研发支出”、“行政支出”、“市场营销支出”）。还可以将其绘制成图表，以便更直观地了解每个系数。

plt.figure()
plt.barh(train_features.columns, coefficients[0])
plt.show()

图片

计算误差

本文希望了解模型的误差率，将使用Sklearn的R2得分。

test_predictions: List[float] = model.predict(test_features)
root_squared_error: float = r2_score(test_targets, test_predictions)
"""float
We should see an ouput similar to this
0.9781424529214315
"""

离1越近，模型就越准确。实际上可以用一种非常简单的方式对这一点进行测试。

可以取数据集的第一行。如果使用下面的支出模型来预测利润，期望得到一个足够接近192261美元的数字。

"R&D Spend" |  "Administration" |  "Marketing Spend" | "Profit"
165349.2       136897.8            471784.1            192261.83

接下来创建一个推理请求。

inference_request: DataFrame = pd.DataFrame([{
  "R&D Spend":165349.2, 
  "Administration":136897.8, 
  "Marketing Spend":471784.1 
}])

运行模型。

inference: float = model.predict(inference_request)
"""
We should get a number that is around
199739.88721901
"""

现在可以看到的误差率是abs(199739-192261)/192261=0.0388。这是非常准确的。

7、结论

处理数据、搭建模型和分析数据有很多方法。没有一种解决方案适用于所有情况，当用机器学习解决业务问题时，其中一个关键过程是搭建多个旨在解决同一个问题的模型，并选择最有前途的模型。