信道编码定理
信道中存在的噪声会在数字通信系统的输入和输出序列之间产生不需要的错误。为了保证通信的可靠性，错误概率应该非常低，**接近≤ 10-6**。
通信系统中的信道编码引入了带控制的冗余，以提高系统的可靠性。信源编码减少冗余以提高系统的效率。
信道编码包含两个部分的操作。
**映射**输入数据序列到信道输入序列。
**逆映射**信道输出序列到输出数据序列。
最终目标是使**信道噪声**的整体影响最小化。
映射由发射机在编码器的帮助下完成，而逆映射由接收机中的解码器完成。
信道编码
让我们考虑一个离散无记忆信道**（δ）**，其熵为**H（δ）**
**Ts**表示δ每秒输出的符号数
信道容量用**C**表示
信道可以每**Tc**秒使用一次
因此，信道的最大容量为**C/Tc**
发送的数据 = $\frac{H(\delta)}{T_s}$
如果$\frac{H(\delta)}{T_s} \leq \frac{C}{T_c}$，则表示传输良好，并且可以以较小的错误概率再现。
其中，$\frac{C}{T_c}$是信道容量的临界速率。
如果$\frac{H(\delta)}{T_s} = \frac{C}{T_c}$，则称系统以临界速率进行信号传输。
相反，如果$\frac{H(\delta)}{T_s} > \frac{C}{T_c}$，则传输不可能。
因此，为了可靠地传输无错误的消息，传输的最大速率等于信道容量的临界速率，这可以在离散无记忆信道上进行。这被称为**信道编码定理**。
广告