> 文章列表 > 信息时代的必修课:信息压缩比和失真率之间的平衡原则

信息时代的必修课:信息压缩比和失真率之间的平衡原则

信息时代的必修课:信息压缩比和失真率之间的平衡原则

文章目录

  • 引言
  • I 预备知识
    • 1.1 香农第一定律
    • 1.2 哈夫曼编码
    • 1.3 利用信息等价性原理进行信息压缩
    • 1.4 利用相关性进行压缩编码
    • 1.5 失真度
    • 1.6 高比例的信息压缩,丢失了高频信息
  • II 信息压缩
    • 2.1无损压缩
    • 2.2 有损压缩
  • III 压缩比和失真率平衡原则
    • 3.1 做事的目的性
    • 3.2 丢失部分信息,会增加不确定性
    • 3.3 看应用场景

引言

压缩的的两个原理:

  • 信息的等价性转换
  • 利用信息的前后相关性,找出差异,对增量编码。

I 预备知识

1.1 香农第一定律

编码长度 ≥ 信息熵(信息量