机器学习入门：从数据到模型

机器学习 · 特征、标签与训练流程

机器学习的基本思路，是用数据调整模型参数，让模型能够对没见过的样本作出预测。模型记住训练集并不等于学会了规律，真正关心的是它在新数据上的表现。

特征、标签和参数

以房价预测为例，面积、楼层和房龄是输入特征，成交价是标签。在线性模型中，每个特征有一个权重，再加上一个偏置，得到预测值。

预测房价 = w₁ × 面积 + w₂ × 房龄 + b

特征来自样本；权重和偏置是训练要调整的参数。两者不能混为一谈。

几种常见学习任务

• 监督学习：训练数据有标签，例如预测房价，或判断邮件是否为垃圾邮件。
• 无监督学习：没有给定的目标标签，例如按样本相似性聚类。
• 强化学习：智能体通过行动与环境交互，根据奖励学习决策。

监督学习中，回归预测连续数值，分类预测离散类别。分类器也可以输出每个类别的概率估计。

一次训练怎样进行

1. 明确任务和评价指标，检查数据来源、缺失值及重复样本。
2. 划分训练集、验证集和测试集。
3. 用训练集拟合预处理步骤和模型，计算预测与标签之间的损失。
4. 调整参数以降低训练损失，用验证集选择模型和超参数。
5. 确定方案后，在保留的测试集上评估泛化表现。

先建立简单基线

回归可以先用训练集标签的均值作预测，分类可以先用多数类预测。复杂模型如果连这些基线都没超过，应先检查数据、训练流程和评价方法。