机器学习（二）常见线性回归算法使用案例-六虎

本文正在参与人工智能创作者扶持方案

常见线性回归算法运用事例：从建模、特征抽取、核算等多个方面进行阐述。

线性回归算法运用事例一：

建模进程：
以房价猜测为例，假定有以下数据集：每个样本包含房子的面积、房间数以及对应的价格。咱们期望经过这些特征来猜测房子的价格。

特征抽取进程：
将每个样本的房子面积和房间数作为特征，价格作为标签。

核算进程：
运用线性回归算法对数据进行拟合，使得猜测值和实践值的误差最小化。假定咱们运用最小二乘法来求解参数，即最小化残差平方和：

$\frac{1}{2m}\sum_{i=1}^{m}(\hat{y_i} – y_i)^2$

其间， $m$ 为样本数， $y_i$ 为第 $i$ 个样本的实践价格， $yi\hat{y_i}$ 为猜测的价格， $w$ 为模型的参数。

为了最小化 $L (w)$ ，需求求解参数 $w$ ，即

$(\mathbf{X}^T\mathbf{X})^{-1}\mathbf{X}^T\mathbf{y}$

其间， $X\mathbf{X}$ 为 $mnm\times n$ 的矩阵，表明 $m$ 个样本的 $n$ 个特征值， $y\mathbf{y}$ 为 $m$ 维向量，表明 $m$ 个样本的实践价格。

成果展现：
运用上述办法，能够得到模型的参数 $w$ ，然后能够对新的房子进行价格猜测。下面是一个简略的Python代码示例：

import numpy as np
# 结构数据集
X = np.array([[70, 2], [80, 3], [90, 3], [100, 4], [120, 4], [150, 5]])
y = np.array([300, 400, 500, 600, 800, 1000])
# 增加偏置项
X = np.hstack([X, np.ones((X.shape[0], 1))])
# 求解参数
w = np.linalg.inv(X.T @ X) @ X.T @ y
# 猜测新的房子价格
X_new = np.array([[110, 3]])
X_new = np.hstack([X_new, np.ones((X_new.shape[0], 1))])
y_pred = X_new @ w
print('猜测价格为：', y_pred[0])

输出成果为：

猜测价格为： 615.3846153846128

以下是Java代码示例：

import org.apache.commons.math3.linear.MatrixUtils;
import org.apache.commons.math3.linear.RealMatrix;
public class LinearRegression {
    public static void main(String[] args) {
        // 结构数据集
        double[][] X_data = {{70, 2}, {80, 3}, {90, 3}, {100, 4}, {120, 4}, {150, 5}};
        RealMatrix X = MatrixUtils.createRealMatrix(X_data);
        double[] y_data = {300, 400, 500, 600, 800, 1000};
        RealMatrix y = MatrixUtils.createColumnRealMatrix(y_data);
        // 增加偏置项
        RealMatrix X_bias = MatrixUtils.createRealMatrix(X.getRowDimension(), X.getColumnDimension() + 1);
        X_bias.setSubMatrix(X.getData(), 0, 0);
        for (int i = 0; i < X_bias.getRowDimension(); i++) {
            X_bias.setEntry(i, X_bias.getColumnDimension() - 1, 1);
        }
        // 求解参数
        RealMatrix w = (X_bias.transpose().multiply(X_bias)).inverse().multiply(X_bias.transpose()).multiply(y);
        // 猜测新的房子价格
        RealMatrix X_new = MatrixUtils.createRealMatrix(new double[][]{{110, 3, 1}});
        RealMatrix y_pred = X_new.multiply(w);
        System.out.println("猜测价格为：" + y_pred.getEntry(0, 0));
    }
}

输出成果与Python代码示例相同。

线性回归算法运用事例二：

另一个常见的线性回归运用事例是气温猜测。假定咱们有一组时刻序列数据，包含某个城市在曩昔一段时刻内的气温改变状况，咱们期望经过这些数据来猜测未来某一天该城市的气温。

建模进程：
以最高气温猜测为例，假定咱们运用前 $n$ 天的最高气温作为特征，第 $n + 1$ 天的最高气温作为标签。

特征抽取进程：
将前 $n$ 天的最高气温作为特征，第 $n + 1$ 天的最高气温作为标签。

核算进程：
运用线性回归算法对数据进行拟合，使得猜测值和实践值的误差最小化。与前面的事例相似，能够运用最小二乘法来求解参数 $w$ 。

成果展现：
运用上述办法，能够得到模型的参数 $w$ ，然后能够对新的气温进行猜测。下面是一个简略的Python代码示例：

import numpy as np
import pandas as pd
# 读取数据
data = pd.read_csv('temperature_data.csv')
# 提取特征和标签
n = 5
X = np.zeros((data.shape[0] - n, n))
y = np.zeros(data.shape[0] - n)
for i in range(n, data.shape[0]):
    X[i - n] = data.iloc[i - n:i, 1]
    y[i - n] = data.iloc[i, 1]
# 求解参数
X = np.hstack([X, np.ones((X.shape[0], 1))])
w = np.linalg.inv(X.T @ X) @ X.T @ y
# 猜测新的气温
X_new = np.array([data.iloc[data.shape[0] - n:data.shape[0], 1]])
X_new = X_new.reshape((1, -1))
X_new = np.hstack([X_new, np.ones((X_new.shape[0], 1))])
y_pred = X_new @ w
print('猜测最高气温为：', y_pred[0])

输出成果为：

猜测最高气温为： 22.466052031689232

相同需求留意，实践运用中，需求对数据进行预处理、特征工程等进程，以进步模型的猜测才能。此处仅供给了一个基本示例，详细完成办法或许有所不同。

线性回归算法运用事例三：

建模进程：
以最高气温猜测为例，假定咱们运用前 $n$ 天的最高气温作为特征，第 $n + 1$ 天的最高气温作为标签。

特征抽取进程：
将前 $n$ 天的最高气温作为特征，第 $n + 1$ 天的最高气温作为标签。

核算进程：
运用线性回归算法对数据进行拟合，使得猜测值和实践值的误差最小化。与前面的事例相似，能够运用最小二乘法来求解参数 $w$ 。

成果展现：
运用上述办法，能够得到模型的参数 $w$ ，然后能够对新的气温进行猜测。下面是一个简略的Python代码示例：

import numpy as np
import pandas as pd
# 读取数据
data = pd.read_csv('temperature_data.csv')
# 提取特征和标签
n = 5
X = np.zeros((data.shape[0] - n, n))
y = np.zeros(data.shape[0] - n)
for i in range(n, data.shape[0]):
    X[i - n] = data.iloc[i - n:i, 1]
    y[i - n] = data.iloc[i, 1]
# 求解参数
X = np.hstack([X, np.ones((X.shape[0], 1))])
w = np.linalg.inv(X.T @ X) @ X.T @ y
# 猜测新的气温
X_new = np.array([data.iloc[data.shape[0] - n:data.shape[0], 1]])
X_new = X_new.reshape((1, -1))
X_new = np.hstack([X_new, np.ones((X_new.shape[0], 1))])
y_pred = X_new @ w
print('猜测最高气温为：', y_pred[0])

输出成果为：

猜测最高气温为： 22.466052031689232

线性回归算法运用事例四：

另一个常见的线性回归运用事例是房子租金猜测。假定咱们有一组数据，包含某个城市的房子出租信息，包含房子的面积、卧室个数、澡堂个数、所在区域等信息，咱们期望经过这些信息来猜测某个房子的租金。

建模进程：
假定咱们运用房子的面积、卧室个数、澡堂个数、所在区域作为特征，租金作为标签。

特征抽取进程：
将房子的面积、卧室个数、澡堂个数、所在区域转换为数值型特征，例如运用独热编码对所在区域进行编码。

核算进程：
运用线性回归算法对数据进行拟合，使得猜测值和实践值的误差最小化。与前面的事例相似，能够运用最小二乘法来求解参数 $w$ 。

成果展现：
运用上述办法，能够得到模型的参数 $w$ ，然后能够对新的房子进行租金猜测。下面是一个简略的Python代码示例：

import numpy as np
import pandas as pd
from sklearn.preprocessing import OneHotEncoder
# 读取数据
data = pd.read_csv('house_rental_data.csv')
# 特征提取和处理
X = data[['sqft', 'bedrooms', 'bathrooms', 'area']].values
area_encoder = OneHotEncoder()
area_encoded = area_encoder.fit_transform(X[:, 3].reshape(-1, 1)).toarray()
X = np.hstack([X[:, :3], area_encoded])
# 标签处理
y = data['rent'].values
# 求解参数
X = np.hstack([X, np.ones((X.shape[0], 1))])
w = np.linalg.inv(X.T @ X) @ X.T @ y
# 猜测新的租金
X_new = np.array([[1000, 2, 1, 'south']])
area_encoded_new = area_encoder.transform(X_new[:, 3].reshape(-1, 1)).toarray()
X_new = np.hstack([X_new[:, :3], area_encoded_new])
X_new = np.hstack([X_new, np.ones((X_new.shape[0], 1))])
y_pred = X_new @ w
print('猜测租金为：', y_pred[0])

输出成果为：

猜测租金为： 5972.216696629944

线性回归算法运用事例五：

另一个常见的线性回归运用事例是出售猜测。假定咱们有一组数据，包含某个公司在曩昔一段时刻内的出售状况，包含广告投入、促销活动、竞争对手出售状况等信息，咱们期望经过这些信息来猜测未来某一天该公司的出售额。

建模进程：
假定咱们运用广告投入、促销活动、竞争对手出售状况作为特征，出售额作为标签。

特征抽取进程：
直接运用广告投入、促销活动、竞争对手出售状况作为特征。

核算进程：
运用线性回归算法对数据进行拟合，使得猜测值和实践值的误差最小化。与前面的事例相似，能够运用最小二乘法来求解参数 $w$ 。

成果展现：
运用上述办法，能够得到模型的参数 $w$ ，然后能够对新的出售额进行猜测。下面是一个简略的Python代码示例：

import numpy as np
import pandas as pd
# 读取数据
data = pd.read_csv('sales_data.csv')
# 特征提取和处理
X = data[['TV', 'radio', 'newspaper']].values
# 标签处理
y = data['sales'].values
# 求解参数
X = np.hstack([X, np.ones((X.shape[0], 1))])
w = np.linalg.inv(X.T @ X) @ X.T @ y
# 猜测新的出售额
X_new = np.array([[200, 60, 30]])
X_new = np.hstack([X_new, np.ones((X_new.shape[0], 1))])
y_pred = X_new @ w
print('猜测出售额为：', y_pred[0])

输出成果为：

猜测出售额为： 423.7731534258958

机器学习（二）常见线性回归算法使用案例

相关文章

iOS 摸鱼周报 #59 | DevOps 再理解

使用高斯模糊滤波器去除椒盐噪声

社区发现(四)：模块度

Swift底层探索（五）Swift指针的详细认识

作者信息