一、香农熵：信息不确定性的度量基石 香农熵（Shannon Entropy）作为信息论的核心概念，为量化系统不确定性提供了数学基础。其公式 H(X)=−∑i=1np(xi)log2p(xi)H(X) = -\sum_{i=1}^{n} p(x_i) \log_2 p(x_i)H(X)=−∑……
