信息论应用小课堂:交叉验证(复查一道题是否做对了,最有效的方法是把方程的解代回方程中)
引言
一个维度的信息是很难消除不确定性的,要用其它维度的信息进行交叉验证。在使用信息时,应该养成一个习惯,从多个维度进行交叉验证。
I 预备知识
1.1 “钓鱼”
用一些他们已知的信息,从你那里钓出更多的信息。
1.2 娘家姓氏
在美国,女生结婚后通常改为丈夫的姓,娘家姓氏外人不知道。
1.3 垂直正交信息
在交叉验证中,垂直正交信息的共同作用能够最大程度地降低信息熵。
两种交叉的信息是正交的,同时符合它们的情况比较少,确定性就很强。