现代编码

2024年2月15日发(作者：2月14日是什么情人节)

随着现代信息技术的不断发展，对原始通过应用密码学、概率论、信息熵、通信系统、随机过程等方法的信息论科目提出了进一步的发展要求。而编码技术研究的主要内容是如何既可靠又有效地传输信息。从1948年香农在《贝尔系统技术杂志》上发表了《通信的数学理论》开始。次年，他又发表了另一篇著作《噪声下的通信》。人们认为这两篇文章成了现在信息论的奠基著作。1959年香农发表了“保真度准则下的离散信源编码定理”，首先提出了率失真函数及率失真信源编码定理，此后发展成为信息率失真编码理论。现在，信息理论广泛应用在通信、计算机等领域，随着通信安全与质量的高要求化，编码技术也在不断地突飞猛进。

编码技术的分类：信源编码、信道编码

信源编码：

概念：信源编码是一种以提高通信有效性为目的而对信源符号进行有目标的变换。具体说，就是针对信源的输出符号序列统计特性来寻找某种方法，把信源输出符号序列变换为最短的码字序列，使后者的各码元所载荷的平均信息量最大，同时又能保证无失真地恢复原来的符号序列。

作用：信源编码的作用之一是，即通常所说的数据压缩；作用之二是将信源的模拟信号转化成数字信号，以实现模拟信号的数字化传输。

发展：最原始的信源编码就是莫尔斯电码，另外还有ASCII码和电报码都是信源编码。但现代通信应用中常见的信源编码方式有：Huffman编码、算术编码、L-Z编码，这三种都是无损编码，另外还有一些有损的编码方式。信源编码的目标就是使信源减少冗余，更加有效、经济地传输，最常见的应用形式就是压缩。另外，在数字电视领域，信源编码包括 通用的MPEG—2编码和H.264（MPEG—Part10 AVC）编码等。相应地，信道编码是为了对抗信道中的噪音和衰减，通过增加冗余，如校验码等，来提高抗干扰能力以及纠错能力。

分类：信源编码根据信源的性质进行分类，则有信源统计特性已知或未知、无失真或限定失

真、无记忆或有记忆信源的编码；按编码方法进行分类可分为分组码或非分组码、等长码或变长码等。然而最常见的是讨论统计特性已知条件下，离散、平稳、无失真信源的编码，消除这类信源剩余度的主要方法有统计匹配编码和解除相关性编码。比如仙农码、费诺码、赫夫曼码，它们属于不等长度分组码，算术编码属于非分组码；预测编码和变换编码是以解除相关性为主的编码。对限定失真的信源编码则是以信息率失真R（D）函数为基础，最典型的是矢量量化编码。对统计特性未知的信源编码称为通用编码。

信道编码：

概念：由于移动通信存在干扰和衰落，在信号传输过程中将出现差错，故对数字信号必须采用纠、检错技术，即纠、检错编码技术，以增强数据在信道中传输时抵御各种干扰的能力，提高系统的可靠性。对要在信道中传送的数字信号进行的纠、检错编码就是信道编码。

通常纠错码分为两大类，即分组码和卷积码。在移动通信系统中另一种纠错方法就是信令重发，解码时先存储再逐位判决，如重发五次，三次或三次以上均为1，则判1。

信道编码之所以能够检出和校正接收比特流中的差错，是因为加入一些冗余比特，把几个比特上携带的信息扩散到更多的比特上。为此付出的代价是必须传送比该信息所需要的更多的比特。

发展：编码定理的证明，从离散信道发展到连续信道，从无记忆信道到有记忆信道，从单用户信道到多用户信道，从证明差错概率可接近于零到以指数规律逼近于零，正在不断完善。编码方法，在离散信道中一般用代数码形式，其类型有较大发展，各种界限也不断有人提出，但尚未达到编码定理所启示的限度，尤其是关于多用户信道，更显得不足。在连续信道中常采用正交函数系来代表消息，这在极限情况下可达到编码定理的限度。不是所有信道的编码定理都已被证明。只有无记忆单用户信道和多用户信道中的特殊情况的编码定理已有严格的证明；其他信道也有一些结果，但尚不完善。

作用：数字信号在传输中往往由于各种原因，使得在传送的数据流中产生误码，从而使接收端产生图象跳跃、不连续、出现马赛克等现象。所以通过信道编码这一环节，对数码流进行相应的处理，使系统具有一定的纠错能力和抗干扰能力，可极大地避免码流传送中误码的发生。误码的处理技术有纠错、交织、线性内插等。提高数据传输效率，降低误码率是信道编码的任务。信道编码的本质是增加通信的可靠性。但信道编码会使有用的信息数据传输减少，信道编码的过程是在源数据码流中加插一些码元，从而达到在接收端进行判错和纠错的目的，这就是我们常常说的开销。这就好象我们运送一批玻璃杯一样，为了保证运送途中不出现打烂玻璃杯的情况，我们通常都用一些泡沫或海棉等物将玻璃杯包装起来，这种包装使玻璃杯所占的容积变大，原来一部车能装5000个玻璃杯的，包装后就只能装4000个了，显然包装的代价使运送玻璃杯的有效个数减少了。同样，在带宽固定的信道中，总的传送码率也是固定的，由于信道编码增加了数据量，其结果只能是以降低传送有用信息码率为代价了。将有用比特数除以总比特数就等于编码效率了，不同的编码方式，其编码效率有所不同。

分类：

1、RS编码

RS码即里德-所罗门码，它是能够纠正多个错误的纠错码，RS码为（204，188，t=8），其中t是可抗长度字节数，对应的188符号，监督段为16字节(开销字节段）。实际中实施（255，239，t=8）的RS编码，即在204字节（包括同步字节）前添加51个全“0”字节，产生RS码后丢弃前面51个空字节，形成截短的（204，188）RS码。RS的编码效率是：188/204。

2、卷积码

卷积码非常适用于纠正随机错误，但是，解码算法本身的特性却是：如果在解码过程中发生错误，解码器可能会导致突发性错误。为此在卷积码的上部采用RS码块，RS码适用于检测和校正那些由解码器产生的突发性错误。所以卷积码和RS码结合在一起可以起到相互补

偿的作用。卷积码分为两种：

(1)基本卷积码:

基本卷积码编码效率为，η=1/2,编码效率较低,优点是纠错能力强。

(2)收缩卷积码

如果传输信道质量较好，为提高编码效率，可以采样收缩截短卷积码。有编码效率为：η=1/2、2/3、3/4、5/6、7/8这几种编码效率的收缩卷积码。编码效率高，一定带宽内可传输的有效比特率增大,但纠错能力越减弱。

3、Turbo码

1993年诞生的Turbo码，单片Turbo码的编码/解码器，运行速率达40Mb/s。该芯片集成了一个32×32交织器，其性能和传统的RS外码和卷积内码的级联一样好。所以Turbo码是一种先进的信道编码技术，由于其不需要进行两次编码，所以其编码效率比传统的RS+卷积码要好。

4、线性分组码

当分组码的信息码元与监督码元之间的关系为线性关系时（用线性方程组联系），这种分组码就称为线性分组码。包括汉明码和循环码。对于长度为n的二进制线性分组码，它有种可能的码字，从中可以选择M=个码字（k

在线性分组码中，两个码字对应位上数字不同的位数称为码字距离，简称距离，又称汉明距离。编码中各个码字间距离的最小值称为最小码距d，最小码距是衡量码组检错和纠错能力的依据，其关系如下：

（1）为了检测e个错码，则要求最小码距d>e+1;

（2）为了纠正t个错码，则要求最小码距d>2t+1;

（3）为了纠正t个错码，同时检测e个错码，则要求最小码距d>e+t+1,e>t。

线性分组码是建立在代数群论基础上的，各许用码字的集合构成了代数学中的群，它们的主要性质如下：

（1）任意两许用码字之和（对于二进制码这个和的含义是模二和）仍为一个需要码字，也就是说，线性分组码具有封闭性；

（2）码字间的最小码距等于非零码的最小码重。

5、霍夫曼编码

设某信源产生有五种符号u1、u2、u3、u4和u5，对应概率P1=0.4，P2=0.1，P3=P4=0.2，P5=0.1。首先，将符号按照概率由大到小排队，如图所示。编码时，从最小概率的两个符号开始，可选其中一个支路为0，另一支路为1。这里，我们选上支路为0，下支路为1。再将已编码的两支路的概率合并，并重新排队。多次重复使用上述方法直至合并概率归一时为止。从图（a）和（b）可以看出，两者虽平均码长相等，但同一符号可以有不同的码长，即编码方法并不唯一，其原因是两支路概率合并后重新排队时，可能出现几个支路概率相等，造成排队方法不唯一。一般，若将新合并后的支路排到等概率的最上支路，将有利于缩短码长方差，且编出的码更接近于等长码。赫夫曼码的码字（各符号的代码）是异前置码字，即任一码字不会是另一码字的前面部分，这使各码字可以连在一起传送，中间不需另加隔离符号，只要传送时不出错，收端仍可分离各个码字，不致混淆。实际应用中，除采用定时清洗以消除误差扩散和采用缓冲存储以解决速率匹配以外，主要问题是解决小符号集合的统计匹配，例如黑（1）、白（0）传真信源的统计匹配，采用0和1不同长度游程组成扩大的符号集合信源。游程，指相同码元的长度（如二进码中连续的一串0或一串1的长度或个数）。

按照CCITT标准，需要统计2×1728种游程（长度），这样，实现时的存储量太大。事实上长游程的概率很小，故CCITT还规定：若l表示游程长度，则l=64q+r。其中q称主码，r为基码。编码时，不小于64的游程长度由主码和基码组成。而当l为64的整数倍时，只用主码的代码，已不存在基码的代码。

6、游程码

用一个符号值或串长代替具有相同值的连续符号（连续符号构成了一段连续的“行程”。行程编码因此而得名），使符号长度少于原始数据的长度。只在各行或者各列数据的代码发生变化时，一次记录该代码及相同代码重复的个数，从而实现数据的压缩。行程编码是连续精确的编码，在传输过程中，如果其中一位符号发生错误，即可影响整个编码序列，使行程编码无法还原回原始数据。游程长度在栅格加密时，数据量没有明显增加，压缩效率较高，且易于检索、叠加合并等操作，运算简单，适用于机器存储容量小，数据需大量压缩，而又要避免复杂的编码和解码运算，增加处理和操作时间的情况。

编码理论的提出，一方面是为了提高信源的有效性；一方面为了提高信道的可靠性而提出的。针对于编码理论的存在，如果在信源以及信道处应用了相应的编码技术，那么在信宿端自然也就需要一个解码系统，不然信宿是不能将原始信号无差错的进行解析，从而导致编码理论的失败。所以一个与编码理论对应的解码理论也就显得也是非常重要的。并且随着相关研究的不断深入，现在的编码、译码技术已经相对成熟。除此以外现在的解码技术和编码技术并不需要完全的对应关系，可以根据系统对有效性以及可靠性的要求，灵活选取编码和解码技术，从而使得信息技术得以快速发展。