> 文章列表 > 机器学习 00 交叉验证

机器学习 00 交叉验证

机器学习 00 交叉验证

一、什么是交叉验证(cross validation)

交叉验证:将拿到的训练数掘,分为训练和验证集。以下图为例: 将数据分成4份,其中一份作为验证集。然后经过4次(组)的测试,每次都更换不同的验证集。即得到4组模型的结果,取平均值作为最终结果。又称4折交叉验证。

我们之前知道数据分为训练集和测试集,但是为了让从训练得到模型结果更加准确。做以下处理
 

训练集:训练集+验证集
测试集:测试集

 

1.1为什么需要交叉验证

交叉验证目的:为了让被评估的模型更加准确可信(不能提高准确率)。

问题:这个只是让被评估的模型更加准确可信,那么怎么选择或者调优参数呢?

二、网格搜索

什么是网格搜索(Grid Search)
通常情况下,有很多参数是需要手动指定的 (如k-近邻算法中的K值),这种叫超参数。但是手动过程繁杂,所以需要对模型预设几种超参数组合,每组超参数都采用交叉验证来进行评估。最后选出最优参数组合建立模型。