裴世保：帧内预测模式的快速×4模式选择算法

H.264/AVC帧内预测模式选择算法研究

H.264/AVC帧内预测模式选择算法研究

裴世宝、李厚强、余能海

（中国科学技术大学电子工程与信息科学系，安徽合肥）

(p***@)

摘要：H. 264/AVC利用空间域的帧内预测技术进一步提高编码效率。 然而，由于 H. 264/AVC

AVC支持大量的帧内预测模式，大大增加了预测的复杂度。详细分析帧内预测模式选择过程

在此过程中，提出了一种速率失真优化（RDO）模式下的快速×4模式选择算法。 该算法基于SATD

(Sum of )以及相邻块的预测模式与其他特征之间的相关性，预先排除超

概率低于65%的×4模式避免了不必要的计算，从而大大降低了帧内预测的复杂度。

基本保持H.264/AVC的编码性能。

关键词：视频编码； 帧内预测； 率失真优化

CLC分类号：TP317。 4； TN919。 8 文件识别码：A

H. 264 /AVC 模式 a lgor itm

裴丽宇

（中国的ent和ation，

中国安徽省合肥市）

：H. 264 /AVC 在太空中使用，但它

p comp 相当多的模式。 新的 ×4 模式

基于速率 op (RDO) 为 p 。 它 emp 忠诚 SATD（总和

) 每个块作为 a 并使用 p 模式来输出更多

减少 65% 以上的 p 模式以避免 . 新的

p comp 同时非常好。

关键词：视频； ; RDO（速率操作）

0 前言

H. 264/AVC是ITU2T于2003年5月正式批准的新一代视频编码标准。与以往的视频编码标准相比，该标准的显着优点是压缩效率高、网络性能好、适用于交互式和非交互式视频编码。交互式应用程序。 环境越来越受到人们的广泛关注。 H. 264/AVC性能的提升离不开它采用的一些新技术，比如新的帧内预测方法、整数变换、4×4块的运动估计/运动补偿、环路滤波、新的熵编码方法H. 264/AVC性能提升的同时，编码器的复杂度却大幅增加，难以应用于实时性要求较强的场合。 因此，研究相关的快速算法具有重要意义。 基于空间域的帧内预测是H. 264/AVC采用的重要特征

这项新技术充分利用图像的空间相关性，根据解码后的相邻块的信息来预测当前块的信息，对于进一步提高编码性能具有重要作用。 H.264/AVC采用RDO技术进行帧内预测模式选择，以最少的码率达到最好的编码效果。 然而，由于H. 264/AVC支持多种帧内预测模式，为了确定一个宏块(,MB)的帧内预测模式需要计算592种组合模式的RD cost()，因此编码器的复杂度非常高高[1]。 从帧内预测的重要性和预测的复杂性可以看出，研究RDO模式下的快速帧内预测模式选择算法具有重要的应用价值。 我们在文献[2]中提出了一种简单的快速帧内预测模式选择算法。 基于此，本文对帧内预测进行了深入研究，改进和完善了算法，取得了显着的效果。 新算法可以预先排除65%以上不太可能的×4模式，大大降低了帧内预测的复杂度，基本保持了H. 264/AVC的编码性能，具有更好的适用性。

1H.264/AVC帧内预测模式[3]

以上，在基本保持H.264/AVC的编码性能的同时，没有额外增加码率。 从4×4块函数的调用次数可以更清楚地看出，使用快速算法相比原来的H.264/AVC算法平均减少了65%以上的函数调用，并且算法的性能得到了提升。受QP值影响较小。