H264快速运动估计算法及其在CUDA上的实现.pdf

2 0 0 8指导教师( 姓名、职称) ：至睦噩：麴攮I S O n E C 和I T U - T 联合制定的新一代视频压缩标准H ．2 6 4 可以获得很高的编码效率，但却大大增加了编码复杂度，对视频编码的实时性带来了很大的挑战在高实时应用系统中，必须对该标准进行相应的改进改进的方法可以从两个方面考虑，一方面通过对编码算法的改进，降低编码时间，提高编码速度，另一方面采用相关协处理设备与C P U 协同编码，从而提高系统实时性运动估计是H ．2 6 4 编码标准的核心技术之一，编码时间占很大比例本文总结了几种经典的运动估计算法，并在此基础上了提出了一种高效的快速运动估计算法⋯．改进的U M H E X 算法该算法采用了提前终止阈值，改进的搜索模板和基于混合模板的搜索技术通过实验表明，改进的算法与全搜索算法和U M H E X 算法相比，在保持信噪比和码率几乎不变的情况下，编码时间明显降低了图形处理器G P U 具有强大的浮点计算能力和并行处理能力，能够很好地协同C P U 完成视频编解码在解码器中，将去方块滤波放入G P U 中进行并行计算，其余部分仍在C P U 中计算，从而提出了C P U + G P U 的并行解码器结构。

本文充分利用了G P U 的并行计算能力，使得去方块滤波的计算时间大大缩短实验表明，这种并行架构与传统的算法相比，能够有效地进行编码加速不管是对算法本身的改进或是通过协处理器进行并行处理，都能够有效地提高编码速度，改进系统的实时性，从而使得H ．2 6 4 视频编码标准能够很好地应用到实际场合中关键字：H ．2 6 4 ；运动估计：混合模板；图形处理器G P U ；并行处理S P E C I A L I Z A T I O N ：．C o m m u n i c a t i o na n dI n f o r m a t i o nS y —s t e m ．P O S T G R A D U A T E ：．Y a n gX i a o q i nH ．2 6 4i san e wg e n e r a t e ds t a n d a r do fv i d e oc o m p r e s s i o nw h i c hf o r m u l a t e db yt w oi m p o r t a n ti n t e r n a t i o n a ls t a n d a r do r g a n i z a t i o n s ，I S O ／I E Ca n dI T U - T ．I nH ．2 6 4 ，t h ec o d i n ge f f i c i e n c yi se n h a n c e db yaw i d em a r g i n ．H o w e v e r , t h ec o m p u t a t i o n a lc o m p l e x i t yi si n c r e a s e de f f i c i e n t l y ．I t ’Sab i gc h a l l e n g ef o rr e a l - t i m ev i d e oe n c o d i n g ．T h es t a n d a r dC a nb ei m p r o v e df r o mt w oa s p e c t s ．O nt h eo n eh a n d ，t h ee n c o d i n gs p e e dc o u l db ei n c r e a s e db yi m p r o v i n gt h ec o d i n ga l g o r i t h m ，o nt h eo t h e rh a n d ，w eu s ec o - p r o c e s s i n ge q u i p m e n tt ow o r kw i t hC P Ut o g e t h e r ．M o t i o ne s t i m a t i o ni so n eo ft h ec o r et e c h n i q u e so fH ．2 6 4v i d e oc o d i n g ．I tt a k e sal a r g ep r o p o r t i o no fc o d i n gt i m e ．T h i sp a p e rh a ss t u d i e ds e v e r a lc l a s s i cm o t i o ne s t i m a t i o na l g o r i t h mw i t hd e t a i l e dd e s c r i p t i o na n da n a l y s i s ．T h e n ，a ni m p r o v e dU M H E Xf a s tm o t i o ne s t i m a t i o na l g o r i t h mi sp r o p o s e d ．I nt h ea l g o r i t h m ，as e r i e so ft e c h n i q u e sa r ea d o p t e d ，s u c ha se a r l yt e r m i n a t i o n ，i m p r o v e ds e a r c ht e m p l a t ea n dm i x e ds e a r c ht e m p l a t e ．T h er e s u l ts h o w st h a tc o m p a r e dw i t hF u l lS e a r c ha l g o r i t h ma n dU M H E Xa l g o r i t h m ，t h ei m p r o v e da l g o r i t h mc a ne n h a n c et h ep r o c e s s i n gs p e e dw h i l eP S N Ri ss l i g h t l yd e g r a d e da n dt h ei n c r e a s i n gb i tr a t ei sn e g l i g i b l e ．T a k i n gt h ea d v a n t a g eo fp o w e r f u lf l o a t i n g - p o i n tc o m p u t a t i o na n dp a r a l l e la b i l i t yo fG P U ，w ec a nu s eG P Ut od ov i d e oe n c o d i n gw i t hC P Ut o g e t h e r ．I nv i d e od e c o d i n g ，t h ed e b l o c k i n gf i l t e rm o d u l ei ss h i f t e dt oG P Ut oa c c e l e r a t e ．Ap a r a l l e le n c o d i n ga r c h i t e c t u r eC P U + G P Ui sp r o p o s e d ．T h ed e b l o c k i n gf i l t e rt i m ei sr e d u c e dg r e a t l yb yf u l lu s eo ft h eG P U ’Sp a r a l l e lc o m p u t i n gp o w e r ．T h er e s u l ts h o w st h a tc o m p a r e dw i t ht r a d i t i o n a la l g o r i t h m s ，t h ep a r a l l e la r c h i t e c t u r ec a ne f f e c t i v e l ya c c e l e r a t et h ee n c o d i n g ．㈣6㈣5眦5川¨¨¨¨¨■—_-■眦7I叭3帆2呲YB o t ht h ei m p r o v e m e n to nt h ea l g o r i t h ma n dt h eu s i n go fC O ‘p r o c e s s o rc a ne f f e c t i v e l yi m p r o v et h ec o d i n gs p e e d ，S Ot h a tH ．2 6 4v i d e oe n c o d i n gs t a n d a r dc a nb ew e l la p p l i e dt ot h ea c t u a lo c c a s i o n ．K e yw o r d s ：H ．2 6 4 ；m o t i o ne s t i m a t i o n ；m i x e ds e a r c ht e m p l a t e ；G P U ；p a r a l l e lc o m p u t i n g南京大学电子科学与工程学院H ．2 6 4 快速运动估计算法及其在C U D A 上的实现目录第l 章绪论⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯．11 ．1 研究背景⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯11 ．2 研究意义⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯21 ．3 论文的组织结构⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯3第二章视频压缩编码原理⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯．42 ．1H ．2 6 4 视频编码基本原理⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯一42 ．2H ．2 6 4 标准的关键技术⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯．．62 ．2 ．1 帧内预测⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯．62 ．2 ．2 帧间预测⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯．92 ．2 ．3 整数D C T 变换⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯．1 02 ．2 ．4 量化⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯1 02 ．2 ．5 去方块滤波⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯l12 ．2 ．6 熵编码⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯1 22 ．3H ．2 6 4 的主要特征⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯1 3第三章运动估计算法⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯1 43 ．1 运动估计与运动补偿原理⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯．．1 43 ．1 ．1 整数像素运动搜索原理⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯1 53 ．1 ．21 ／4 像素运动搜索原理⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯．．153 ．2 影响运动估计效率的因素⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯．．1 73 ．2 ．1 初始搜索点的选择⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯1 73 ．2 ．2 运动估计的块匹配准则⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯1 83 ．2 ．3 运动搜索算法⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯l83 ．3 经典运动估计算法⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯．．1 93 ．3 ．1 全搜索法⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯1 93 ．3 ．2 三步搜索法⋯⋯⋯⋯。