四分位差

• 一组数据的上四分位数和下四分位数的差，也称为内矩
• 若上四分位数为𝑄𝑈，下四分位数为𝑄𝐿，则四分位差为
• 特点
  • Q是区间[𝑄𝐿, 𝑄𝑈]的长度
  • 区间[𝑄𝐿, 𝑄𝑈]含有50%的数据
  • 四分位数不会受到数据中极端值的影响
    

异众比率

变异系数

利用数据指标指导建模思路

• 若均值与中位数接近，且偏度接近0，可知数据分布是近似对称的，建模时可考虑运用对称信息。
• 若极差或四分位差较大，建模时需考虑数据是否有长尾现象

形状变化

数据分布形态

• 数据分布形态反映了一组数据分布的整体形状信息。
• 两种最常用的反映数据形状变化的指标：
  • 峰度
  • 偏度

峰度: 度量数据在中心聚集程度

• 峰度（Kurtosis）是描述总体中所有取值
  分布形态陡峭程度 or 平坦程度
• 峰度的具体计算公式为：
• 正态分布的峰度值为3
  • 个别软件将峰度值减3, 如：SPSS等
• 与正态分布相比较
  • 峰度=0表示该总体数据分布与正态分布的陡缓程度相同
  • 峰度>0表示该总体数据分布与正态分布相比较为陡峭，为尖顶峰
  • 峰度<0表示该总体数据分布与正态分布相比较为平坦，为平顶峰
    

偏度

• 偏度（Skewness）描述的是某总体取值分布的对称性

• 偏度的具体计算公式为：

• 正态分布的偏度值为0

• 某个总体

  • 偏度=0表示数据分布形态与正态分布的偏斜程度相同
  • 偏度>0表示数据分布形态与正态分布相比为正偏或右偏，即有一条长尾巴拖在右边，数据右端有较多的极端值
  • 偏度<0表示数据分布形态与正态分布相比为负偏或左偏，即有一条长尾拖在左边，数据左端有较多的极端值。

利用数据指标指导建模思路

• 峰度的应用
• 正态分布
• 拉普拉斯分布：更好的拟合0出现概率较大的稀疏数据
• 泊松分布：
  • 例如，POI（兴趣点）位置的访问频率
• 幂律分布：对数空间下呈现出线性关系(80-20法则)
  • 例如：社交网络(Social Network), 图网络分析
    

参数估计

• 参数(parameter)
  • 参数 是用来描述总体数据特征的度量
• 统计量(statistic)
  • 统计量 是用来描述样本数据特征的度量
    • 由试验计算得出，不依赖于任何其他未知的量（特别是不能依赖于总体分布中所包含的未知参数）
• 参数估计(parameter estimation)
  • 是统计推断的基本问题之一：用样本统计量估计总体的参数
    • 参数未知的真实
    • 统计量已知的估计
  • 例：掷骰子例子

点估计

• 点估计：用样本统计量𝜃 的某个取值直接作为总体参数𝜃的估计值
  • 简单来说，直接以样本指标来估计总体指标
  • 总体的某个特征值，如数学期望、方差和相关系数等
  • 用样本均值$x$直接作为总体均值$\mu$的估计值
  • 用样本方差s2s^2s2直接作为总体方差σ2σ^2σ2的估计值
  • 点估计的常用方法
    • 矩估计
    • 最小二乘估计
    • 极大似然估计
    • 最大后验概率
    • 贝叶斯估计

区间估计

• 区间估计：从总体中抽取的样本，根据一定的正确度与精确度的要求，构造出适当的区间，以作为总体的分布参数(或参数的函数)的真值所在范围的估计
  • 用数轴上的一段经历或一个数据区间，表示总体参数的可能范围。这一段距离或数据区间称为区间估计的置信区间

矩估计

• 原理：大数定律(大量试验中的事件出现频率=它的概率)

• 矩估计是基于 “替换”思想，即用样本矩估计总体矩

  • 均值，方差

• 随机变量的矩

  • K阶原点矩：一阶原点矩表示期望
  • K阶中心距：
    • 二阶中心矩表示方差
    • 三阶中心矩表示偏度
    • 四阶中心矩表示峰度
  • 

• 数学上，“矩”是一组点组成的模型的特定的数量测度

举例：黑白球（矩估计）

• 例：假如有一个罐子，里面有黑白两种颜色的球，数目多少不知，两种颜色的比例也不知。每次任意从已经摇匀的罐中拿1个球出来，记录球的颜色，然后把拿出来的球再放回罐中。假如在前面的100次重复记录中，有70次是白球。请问罐中白球所占的比例是多少？
• 解：用样本中白球比例的均值作为估计代替总体均值。即估计结果为罐中白球所占的比例70% =7/10。符合直观

最小二乘估计(Least Square Estimate, LSE)

• 参数估计量应该使得模型能最好地拟合样本数据，即估计值与观测值之差的平方和最小
• 目标：最小化估计值𝑦与观测值y^\\hat{y}y^​之差的平方和minL(θ)=∑i=1N(y−y^)2min L(θ)=\\sum^N_{i=1}(y-\\hat{y})^2minL(θ)=i=1∑N​(y−y^​)2
  
  
  

举例：黑白球（最小二乘估计）

• 问题：假如有一个罐子，里面有黑白两种颜色的球，数目多少不知，两种颜色的比例也不知。每次任意从已经摇匀的罐中拿1个球出来，记录球的颜色，然后把拿出来的球再放回罐中。假如在前面的100次重复记录中，有70次是白球。请问罐中白球所占的比例是多少？
• 请使用最小二乘估计方法，求解上述问题