information theory 迄今已算是经典学科了吧，经典书籍也不少。 抱歉我没有什么具体可以推荐的， on top of my mind. Google 或 amazon 一下， 应该能找到可读性强的。
澄清一下：
1） 我提到的折衷，被你称为“测不准原理”， 其实量子物理中的“测不准原理”具体说的不是这个精度和稳定性的问题。尽管原则上也是差不多的意思。
2） 千万别说“你的信息学”。 大家的都是这样 对图像文件进行有损压缩时， 压缩得到的文件越小（meaning the compressionalgorithm is more efficient or effective)， 那图像质量的失真就越大。 这已是外行都很接受的常识了，体现的也是这种折衷。
对图像文件进行有损压缩时， 压缩得到的文件越小（meaning the compressionalgorithm is more efficient or effective)， 那图像质量的失真就越大。 这已是外行都很接受的常识了，体现的也是这种折衷。
