基于统计分析的H.264快速模式选择算法.doc

基于统计分析的H. 264快速模式选择算法0引言H. 264是由ISO / IEC（国际标准化组织/国际电了技术委员会）的MPEG和ITU-T（国 际电信联盟）联合成立的JVT（联合视频专家组）制定的新代数字视频压缩标准H. 264采 川很多新的技术，包括对变宏块人小分割、多参考帧、1/4像索精度运动估计、帧内预测、 环形滤波等，人人提高了编码性能从统计的角度和宏块纹理预测的角度出发，提出了一种 综合的快速模式选择算法，大人地减少了编码时间1宏块模式选择对于每一个2：块，H. 264可以选择 SKIP, interl6X 16, interl6X8, inter8X 16, inter8X8五种帧间模式和intral6X 16, intra4X4两种帧内模式而其中in~ter8X8乂进 步可分成 inter8X8, inter8X4, inter4X8, inter4X4四种子模式；intT816X16和 intra4X4乂分别有4种和9种预测模式在JM 8. 6参考软件中，选择所有模式中率失真代 价值最小的模式作为最佳模式其中率失真代价函数定义如下：J MODE（ Sk 9 Ik I Q 9 AmoDE）=Drec（Sk」K I Q）+入MODE X RreC（Sk丨 Q） （1）式中：SK为相应宏块；IK为相应的编码模式；Q为量化参数；DREC是失真度；RREC为 码率。

从而每个宏块都要经过168次率失真代价值的计算，才能最终选出一•种最佳模式，且每 次率失真代价值计算都要对残井进行整数DCT变换、彊化、爛编码、爛解码、反录化、逆敕 数DCT变换因此，参考软件对于模式选择的计算量非常人2宏块模式的统计特征分析表1是JM 8. 6模型中，未采用任何快速模式选择，并且运动搜索采用全搜索的情况下， 各序列所采用的编码模式的白分比其中编码帧数为100帧，I帧周期为30帧，码率为73 Kb / s, QP二28表1各序列中前100帧各模式的统计值 （％）视頻序列SKIPinter 16X16inter 16X8inter 8X16inter8X8intra 16X16intra4X4Mobile572933404・Highway482586722Hall_monitor751012711Coastguard502876511Claire671344822Carphone403189811由表1可知，无论哪种序列，7种编码模式所占的比重并不均衡，SKIP模式和 interl6X16模式占据了很人的比重这说明图像细节还是占据了 •帧图像的少部分，视频 序列中人部分依然由缓慢变化的背景组成。

而选中概率人的SKIP模式的率失真代价计算很 简单，因为没有残差，也就不存在DCT变换，且没有多参考帧的选择、运动搜索；intcrl6X16 模式稍显复杂，但也远远没有其他儿种模式复杂相反，出现概率很小的其他模式运算最却 非常人，尤其是intersX8(intersX8的运动搜索运算量非常大且子模式多)和 intra4X4(预测模武非常多)因此，对所有模式进行遍历选择时，实际上很大一部分时间 是消耗在并未最后起决定作用的儿种模式的代价值计算上因此如果能对概率非常大的儿种 模式进行早期判决，或者对运算量非常人但选中概率非常小的inter8X8和intra4X4缩小 选择范嗣，从整体编码的性能上来讲，应该能节省大量的编码时间，捉高编码速度3 SKIP模式快速判决算法3. 1 SKIP模式的特征在对当前宏块采用SKIP模式进行编码时，它具有以下4个特征：(1) 它不在5帧备选参考帧中进行选择只以第0个参考帧作为参考帧；(2) 它并不进行运动搜索，因此它的运动矢量经过相邻宏块的运动矢量的预测得到预测 值MVpfi,并没有运动矢量的残差MVD；(3) 在对它进行运动矢量的预测的时候，是以16X16(即一个宏块)大小为单位；(4) 它经过帧间预测片，并不编码残差，那么也就没有整数DCT变换，或者对以看成它 的DCT值为0。

在采用SKIP模式编码片，性能是否最佳，通常情况下要川率失真代价值跟其他模式进 行比较才能决定但是，如果在采用其他正常方武进行编码后，反过来，发现桀个宏块的编 码数据具有上述的某些或全部特征后，或许可以作为捉前判断当前编码宏块模式为SKIP模 武的依据，即将上述4个必要条件的某儿个作为判断当前宏块最佳模式为SKIP模式的充分条 件当然，这样处理的结果并不准确，但是如果准确率较高，应该对编码效果的影响并不人 3. 2 SKIP模式快速判决方法分析文献［1］提出了一种以DCT系数超否为全0作为判断条件来进行判断这种方法比较简 单，从理论上讲应该有一定的准确性，因为除了 SKIP模式，其他模式的DCT系数为全零可 能性并不人文献⑵则提出提出了一种比较苛刻的方法，它利用SKIP模式的所有特征，然 芾作为判决条件，即当一个宏块满足第3. 1节的4个条件时，便判断为SKIP模式表2是对 两种方法进行实验后判断准确性的统计值表2文献［1］和文献［2］中SKIP模式判断准确性统计(％)序列文献［叮方法文献［2］方法正确误判漏判正确误判漏判Coast_guard93. 36.775.395.24.87& 8Mobile91. 68.480. 092. 77.382.2Higway87. 612.45& 489. 710. 366. 6Hall_monitor91. 3& 734. 696. 13. 94& 5Claire89. 910. 243. 794. 45. 655.4Carphone85. 314.763. 289. 810. 270.0由表2可知，这两种方法准确性比较高，尤其是方法2,因为它的条件非常苛刻，这 也符合文献［2］中的叙述。

但是这两种方法判断正确性高，文献中却忽略了一个重要参数， 即漏判决率该两方法对于己经判决出的模式，正确性非常高，但是由于条件比较苛刻，它 却未判断出很多本该是SKIP模式的宏块，那么这些宏块依然需要使用最原始的方法进行判断，快速判决也就失去了其意义3. 3该文的SKIP模式快速判决方法基于前-•节的考虑，在此对文献⑵提出的方法，将整数DCT系数为全0这一条件舍去, 实验结果显示如表3中方法3所示由表3可知，漏判率有所下降，但是依然很高表3 本文两种提出的两种SKIP模式判决方法准确性统计(%)序列方法3方法4正确误判漏判正确误判漏判Coast_guard87.212.36& 693. 56.50.0Mobile85.214.877. 596. 63.40.0Higway84.515.542.497. 32.70.0Hall_monitor89. 711.320. 19& 21.80.0Claire86. 913. 129. 996. 13. 90.0Carphone79. 513. 549.494. 85. 20.0最终，摒界了采用SKIP模式的某儿种特征的组合作为判决条件，依然采用率失真 代价來判断。

但是实验中利用SKIP模式的率失真代价跟interl6X16模式的率失真代价值 比较作为判决条件,即当满足RDcost (SKIP) ^RDcost (inter 16X 16)时，认为当前宏块的 最佳模式为SKIP模式这出于这样的假设，即在分块大小都为16X16的情况下，如果没有 采用多参考帧选择、运动估计以及对残劳进行编码这样非常简陋的模式的率失真代价值依然 比采用了相关技术的inteH6X16模式的率失真代价值还小，则说明这一宏块的细节非常 少，该宏块为SKIP模式的概率应该非常人当然不排除一种情况就是当前宏块采用SKIP 模式和interl6X16模式本身失真都非常严重，远远高于其他采用更细的分块模式此时率 失真值主要由码率决定，那么由于SKIP模式的码率要低得多，从而SKIP的率失真值比 interl6X16要小，导致误判表3是经实验得到的准确度表由该表看出，该方法(方法4) 判断准确性也很高，但却没有-个漏判，这是因为此方法本身用的是率失真代价值与 interl6X16的比较，符合所有模式中率失真代价值最低必然符合比interl6X16模式的代 价低这一条件因此这里采用此方法作为SKIP模式的快速判决方法。

表4 intra模式在各帧中所占百分比 (％)序列P帧中intra 模式百分比P帧intra模式 中 intra4 X 4 所占百分比I 帧 intra4X4 所占百分比Coast_guard0. 282& 68& 4Mobile0. 100.09& 2Higway0. 1421.479.0Hall_monitor0. 3724.373.0Claire0. 636.353.0Carphone0.5911.982. 14基于纹理预测的inters X 8子模式快速选择文献［3］提出一种假设：宏块的代价值随分块方向单调增减也就绘说宏块或者子块如果 最佳的分块方向是纵向(inter8X 16或者inter4X8)或者横向(interl6X8或者 inter8X4),^么与相应方向相符的分块方式代价值必然要小于与该最佳方向相反的分块方 式的代价值，即大的分块方式的宏块代价值的比较大体反应了宏块的纹理方向利用这一点, 对intersX8模式的选择范围进行限定，以缩小子模式选择范围图1描述了对inter8X8 子模式可选范困的确定其中Jmode二REF COST (mode) +MV COST (mode) o图1 inter8X8子模式快速选择5 Intra模式快速选择的简化算法采用帧内预测时，宏块可以分成intralGX 16和in-tta4X4两种模式。

其中int.ra4X4 用到了9种预测模式，它的预测算法并不复杂，但是对于率失真代价的计算址却非常可观 因此，对于帧内模式，人们已经提出了很多种快速算法单纯针对帧内模式，这些快速算法 确实对编码速度的提高程度非常人但是从整个视频序列來看，效果并不明显因为对于P 帧，从统计结果来看，in-tra模式所占的比重非常小，而运算量极人的intra4X4模式所占 比重更是微乎其微表4是各序列在P帧及I帧中intw模式所占的白分比统计表5 忽略P帧intra4X4后PSNR与编码时间比较序列PSNR(dB)编码时间JM 8.6本文 方法下降值JM & 6本文方法/s减少 百分比/%(：oast_guard29. 6529.610. 04332. 2213.335.8Mobile24.2724.260.01319. 8205. 535.7Higway3&063& 030. 03320.6207.835. 2Hall_monitor3& 143& 。