在这篇文章中,我们将使用Rust的Linfa库和Polars库来实现机器学习中的线性回归算法。
Linfa crate旨在提供一个全面的工具包来使用Rust构建机器学习应用程序。
Polars是Rust的一个DataFrame库,它基于Apache Arrow的内存模型。Apache arrow提供了非常高效的列数据结构,并且正在成为列数据结构事实上的标准。
在下面的例子中,我们使用一个糖尿病数据集来训练线性回归算法。
使用以下命令创建一个Rust新项目:
cargo new machine_learning_linfa
在Cargo.toml文件中加入以下依赖项:
[dependencies]
linfa = "0.7.0"
linfa-linear = "0.7.0"
ndarray = "0.15.6"
polars = { version = "0.35.4", features = ["ndarray"]}
在项目根目录下创建一个diabetes_file.csv文件,将数据集写入文件。
AGE SEX BMI BP S1 S2 S3 S4 S5 S6 Y
59 2 32.1 101 157 93.2 38 4 4.8598 87 151
48 1 21.6 87 183 103.2 70 3 3.8918 69 75
72 2 30.5 93 156 93.6 41 4 4.6728 85 141
24 1 25.3 84 198 131.4 40 5 4.8903 89 206
50 1 23 101 192 125.4 52 4 4.2905 80 135
23 1 22.6 89 139 64.8 61 2 4.1897 68 97
36 2 22 90 160 99.6 50 3 3.9512 82 138
66 2 26.2 114 255 185 56 4.55 4.2485 92 63
60 2 32.1 83 179 119.4 42 4 4.4773 94 110
.............
数据集从这里下载:https://www4.stat.ncsu.edu/~boos/var.select/diabetes.tab.txt
在src/main.rs文件中写入以下代码:
use linfa::prelude::*;
use linfa::traits::Fit;
use linfa_linear::LinearRegression;
use ndarray::{ArrayBase, OwnedRepr};
use polars::prelude::*; // Import polars
fn main() -> Result<(), Box<dyn std::error::Error>> {
// 将制表符定义为分隔符
let separator = b'\t';
let df = polars::prelude::CsvReader::from_path("./diabetes_file.csv")?
.infer_schema(None)
.with_separator(separator)
.has_header(true)
.finish()?;
println!("{:?}", df);
// 提取并转换目标列
let age_series = df.column("AGE")?.cast(&DataType::Float64)?;
let target = age_series.f64()?;
println!("Creating features dataset");
let mut features = df.drop("AGE")?;
// 遍历列并将每个列强制转换为Float64
for col_name in features.get_column_names_owned() {
let casted_col = df
.column(&col_name)?
.cast(&DataType::Float64)
.expect("Failed to cast column");
features.with_column(casted_col)?;
}
println!("{:?}", df);
let features_ndarray: ArrayBase<OwnedRepr<_>, _> =
features.to_ndarray::<Float64Type>(IndexOrder::C)?;
let target_ndarray = target.to_ndarray()?.to_owned();
let (dataset_training, dataset_validation) =
Dataset::new(features_ndarray, target_ndarray).split_with_ratio(0.80);
// 训练模型
let model = LinearRegression::default().fit(&dataset_training)?;
// 预测
let pred = model.predict(&dataset_validation);
// 评价模型
let r2 = pred.r2(&dataset_validation)?;
println!("r2 from prediction: {}", r2);
Ok(())
}
- 使用polar的CSV reader读取CSV文件。
- 将数据帧打印到控制台以供检查。
- 从DataFrame中提取“AGE”列作为线性回归的目标变量。将目标列强制转换为Float64(双精度浮点数),这是机器学习中数值数据的常用格式。
- 将features DataFrame转换为narray::ArrayBase(一个多维数组)以与linfa兼容。将目标序列转换为数组,这些数组与用于机器学习的linfa库兼容。
- 使用80-20的比例将数据集分割为训练集和验证集,这是机器学习中评估模型在未知数据上的常见做法。
- 使用linfa的线性回归算法在训练数据集上训练线性回归模型。
- 使用训练好的模型对验证数据集进行预测。
- 计算验证数据集上的R²(决定系数)度量,以评估模型的性能。R²值表示回归预测与实际数据点的近似程度。
执行cargo run,运行结果如下:
shape: (442, 11)
┌─────┬─────┬──────┬───────┬───┬──────┬────────┬─────┬─────┐
│ AGE ┆ SEX ┆ BMI ┆ BP ┆ … ┆ S4 ┆ S5 ┆ S6 ┆ Y │
│ --- ┆ --- ┆ --- ┆ --- ┆ ┆ --- ┆ --- ┆ --- ┆ --- │
│ i64 ┆ i64 ┆ f64 ┆ f64 ┆ ┆ f64 ┆ f64 ┆ i64 ┆ i64 │
╞═════╪═════╪══════╪═══════╪═══╪══════╪════════╪═════╪═════╡
│ 59 ┆ 2 ┆ 32.1 ┆ 101.0 ┆ … ┆ 4.0 ┆ 4.8598 ┆ 87 ┆ 151 │
│ 48 ┆ 1 ┆ 21.6 ┆ 87.0 ┆ … ┆ 3.0 ┆ 3.8918 ┆ 69 ┆ 75 │
│ 72 ┆ 2 ┆ 30.5 ┆ 93.0 ┆ … ┆ 4.0 ┆ 4.6728 ┆ 85 ┆ 141 │
│ 24 ┆ 1 ┆ 25.3 ┆ 84.0 ┆ … ┆ 5.0 ┆ 4.8903 ┆ 89 ┆ 206 │
│ … ┆ … ┆ … ┆ … ┆ … ┆ … ┆ … ┆ … ┆ … │
│ 47 ┆ 2 ┆ 24.9 ┆ 75.0 ┆ … ┆ 5.0 ┆ 4.4427 ┆ 102 ┆ 104 │
│ 60 ┆ 2 ┆ 24.9 ┆ 99.67 ┆ … ┆ 3.77 ┆ 4.1271 ┆ 95 ┆ 132 │
│ 36 ┆ 1 ┆ 30.0 ┆ 95.0 ┆ … ┆ 4.79 ┆ 5.1299 ┆ 85 ┆ 220 │
│ 36 ┆ 1 ┆ 19.6 ┆ 71.0 ┆ … ┆ 3.0 ┆ 4.5951 ┆ 92 ┆ 57 │
└─────┴─────┴──────┴───────┴───┴──────┴────────┴─────┴─────┘
Creating features dataset
shape: (442, 11)
┌─────┬─────┬──────┬───────┬───┬──────┬────────┬─────┬─────┐
│ AGE ┆ SEX ┆ BMI ┆ BP ┆ … ┆ S4 ┆ S5 ┆ S6 ┆ Y │
│ --- ┆ --- ┆ --- ┆ --- ┆ ┆ --- ┆ --- ┆ --- ┆ --- │
│ i64 ┆ i64 ┆ f64 ┆ f64 ┆ ┆ f64 ┆ f64 ┆ i64 ┆ i64 │
╞═════╪═════╪══════╪═══════╪═══╪══════╪════════╪═════╪═════╡
│ 59 ┆ 2 ┆ 32.1 ┆ 101.0 ┆ … ┆ 4.0 ┆ 4.8598 ┆ 87 ┆ 151 │
│ 48 ┆ 1 ┆ 21.6 ┆ 87.0 ┆ … ┆ 3.0 ┆ 3.8918 ┆ 69 ┆ 75 │
│ 72 ┆ 2 ┆ 30.5 ┆ 93.0 ┆ … ┆ 4.0 ┆ 4.6728 ┆ 85 ┆ 141 │
│ 24 ┆ 1 ┆ 25.3 ┆ 84.0 ┆ … ┆ 5.0 ┆ 4.8903 ┆ 89 ┆ 206 │
│ … ┆ … ┆ … ┆ … ┆ … ┆ … ┆ … ┆ … ┆ … │
│ 47 ┆ 2 ┆ 24.9 ┆ 75.0 ┆ … ┆ 5.0 ┆ 4.4427 ┆ 102 ┆ 104 │
│ 60 ┆ 2 ┆ 24.9 ┆ 99.67 ┆ … ┆ 3.77 ┆ 4.1271 ┆ 95 ┆ 132 │
│ 36 ┆ 1 ┆ 30.0 ┆ 95.0 ┆ … ┆ 4.79 ┆ 5.1299 ┆ 85 ┆ 220 │
│ 36 ┆ 1 ┆ 19.6 ┆ 71.0 ┆ … ┆ 3.0 ┆ 4.5951 ┆ 92 ┆ 57 │
└─────┴─────┴──────┴───────┴───┴──────┴────────┴─────┴─────┘
r2 from prediction: 0.15937814745521017
对于优先考虑快速迭代和快速原型的数据科学家来说,Rust的编译时间可能是令人头疼的问题。Rust的强静态类型系统虽然有利于确保类型安全和减少运行时错误,但也会在编码过程中增加一层复杂性。