4.2 过、欠拟合（Underfitting and Overfitting）

李沐

B站：https://space.bilibili.com/1567748478/channel/collectiondetail?sid=28144
课程主页：https://c.d2l.ai/stanford-cs329p/

课件：https://c.d2l.ai/stanford-cs329p/_static/pdfs/cs329p_slides_6_2.pdf

1. 概念

训练误差：模型在训练集上的误差；

泛化误差：模型在新数据集上预测值和真实值的差（数据只用一次）；

注：解释训练误差和泛化误差

• 从过去的考试中预测未来的一场考试
• 过去的考试考的很好，就比如在备战高考中做了很多往届真题并且做得很好（训练误差）并不能保证在未来的考试中可以得高分（泛化误差）
• 学生 A 通过熟背答案，在做往届真题时，每次都能拿满分。因此在真正高考的考试中遇到了新的题，得分就会很少。
• 学生 B 在做往届真题时，理解并记住了问题的做题步骤等。因此在真正高考的考试中遇到了新的题，也能随机应变，做的很好。

2. 过拟合和欠拟合

1. 训练误差低，泛化误

第一教育信息网