H.264帧内预测模式快速判决算法.doc

H.264帧内预测模式快速判决算法第25卷2011伍第1期2月山东轻工业学院JOURNALOFSHANDONGPOLYTECHNICUNIVERS1TYVo1.25No.1Feb.2011文章编号:1004-4280(2011)01-0054-05H.264帧内预测模式快速判决算法周云艳(黄山学院信息工程学院,安徽黄山245021)摘要:在H.264视频编解码标准中,帧内预测是利用周围像素预测当前块来降低空间冗余,能极大地提高H.264的编码效率.但是帧内预测模式的获得需要极其复杂的运算,降低了它的实用性.本文充分利用了时域,空域相关性来预测当前块的最佳模式,结合提前中止算法来减少不必要的模式选择计算.实验结果表明,文中提出的算法能在保证输出码率不变的前提下能极大缩短编码时间,提高编码效率.关键词:H.264;帧内预测模式;算法中图分类号:TN919文献标识码:AFastdecisionalgorithmofH.264intra-predictionmodeZHOUYunyan(CollegeofInformationEngineering,HuangshanUniversity,Huangshan245021,China)Abstract:IntheH.264videocodecstandard,theintrapredictionpredictsthecurrentblockwithsurroundingpixelstoreducethespatialredundancy.ItcangreatlyimprovethecodingefficiencyofH.264.Buttheacquisitionofintrapredictionmodeofaccessrequiresaverycomplexoperation;itsusefulnesscanbereduced.Byutilizingthetimedomain,spatialcorrelationtopredictthebestmodeofthecurrentblock,unnecessarycalculationmodeselectioncanbereducedbycombiningwithearlyterminationalgorithm.Experimentalresultsshowthattheproposedalgorithmcanguaranteethatwithoutchangingtheoutputratetheencodingtimecanbegreatlyreducedandcodingefficiencycanbeimproved.Keywords:H.264;intrapredictionmode;algorithm数字信号具有抗干扰能力强,易于加密等特点,所以现在各种信息通信领域数字信号正逐渐替代模拟信号.然而数字视频的数据量是非常惊人的,为了节省存储空间必须对视频信息进行编码压缩.联合视频专家组JVT,于2003年公布的H.264/MPEG一4Partl0的高级视频编码(AVC,AdvanceVideoCoding)标准是迄今为止最先进视频压缩标准,其压缩效率是当前标准中最高的,与以前的H.263+及MPEG4相比,在相同编码质量的前提下,H.264可以使输出码率降低50%.与此同时H.264引入了RDO技术,模式选择过程是一个非常耗时的过程.H.264的编解码复杂度分别是H.263的3倍和2倍.因此,研究和开发面向H.264的快速算法从而降低编码复杂度,提高编码速度,对于H.264/AVC视频编码标准能否得到广泛普及,以及进一步研究,发展视频压缩和通信技术具有十分重要的理论意义和应用价值.本文主要在分析H264帧内预测模式特点的基础上,提出一种基于时空相关性的快速帧内预测模式优化算法.1H.264的帧内预测模式在帧内预测模式中,预测块基于已编码重建块和当前块形成的.编码器通常选择使P块和编码收稿日期:2010.10.11作者简介:周云艳(1981一),女,安徽省黄山市人,黄山学院信息工程学院讲师,硕士,研究方向:多媒体与通信第1期周云艳,等:H.264帧内预测模式快速判决算法55块之间差异最小的预测模式.0(vertica1)1(horizonta1)2(DC)3(diagonaldownleft)4(diagonaldownright)一一6(horizontaldown)图144亮度块预测模式如图1所示44亮度块预测模式,共有9种预测模式,包括一种直流预测(模式2)和8种具有一定方向的预测.而相应的1616亮度块预测模式共有4种即水平预测,垂直预测,直流预测和平面预测.另外一个宏块的每个88色度块分量也从该块上方和左边已经编码并重建的色度块中进行预测,分别是模式0:DC预测,模式1:水平预测;模式2:垂直预测;模式3:平面预测.两种色度成分常用同一种预测模式.2H.264帧内预测模式判决算法在H.264帧内编码中,每个宏块亮度信号都要完成9种44预测模式和4种1616预测模式,然后通过预测模式选择,得出一种最佳预测模式使编码性能和效率最高.对于解码器来说,就只需要知道当前已编码的邻近块和预测模式就可以重建图像.在H.264的参考软件JM86中采用了进行帧内模式选择的具体过程如下J:(1)以一个候选的色度块模式为外循环;(2)分别计算9种Intra一44模式的代价(MODECost),选择具有最小代价的模式.(3)把l6个44块最小的MODECost相加得到当前宏块Intra_44方式下的MODECost.(4)分别计算4种Intra一1616模式的SAD(SumofAbsoluteDifference),选择具有最小SAD的模式.(5)比较前两步获得的MODECost,选择具有最小MODECost的模式作为该宏块的帧内预测模式(6)计算此时的宏块候选色度模式率失真代价;(7)计算第5步选出的宏块亮度像素最优模式的率失真与候选宏块色度模式率失真代价之和作为宏块总的率失真;(8)对宏块的所有的色度模式重复步骤17选出宏块总的率失真最小的模式为最优宏块模式.这种全搜索算法能够扫描到所有的模式,编码质量最高.但是为了确定一个宏块的帧内预测模式需要执行4(169+4)=592种MODECOST计算.这个计算量是相当可观的,导致了帧内预测的复杂程度增加,不能够很好的满足实时视频通信的要求.因此,必须使用快速的帧内预测算法.3帧内预测模式判决算法的优化3.1减小帧内预测复杂度的常用方法目前减小帧内预测复杂程度的算法主要包括三类:一类是简化RDO代价函数,选择比RDO计算量更小的代价函数;另一类是缩小预测模式选择的范围,基于一定的分析预先排除不可能的模式;还有一类就是提高处理器的运算处理能力.一般情况,处理器的运算处理能力总是有限的,同时我们的愿望也是使H.264能够运行在各种好的差的环境中,所以目前主要研究前两种方法.到现在为止,国内外出现了很多的帧内预测方法.F.Pang等人提出的基于边缘方向检测预处理的模式选择算法J,还有B.J.Meng等人设置一门限值,在计算某种可能预测模式的代价值的过程中,与这一设定的门限值做比较,如果大于设定的门限值,就可以排出这种预测模式,而提前中止这种预测模式代价值的计算j,此外还有许多国内的文献提56山东轻工业学院第25卷出了各种不同的方法进行改进.3.2本文提出的快速帧内预测判决算法在JM86参考模型中,对16X16的4种模式和4x4的9种模式都进行逐一的比较.但当图像比较平滑的时候,采用1616的预测模式其精度是比较高的,这个时候就不需要采用44的预测模式,而且此时16X16的编码效率要比4X4的编码效率高的多.而当图像中细节部分较多的时候,采用1616的预测模式精度就可能不够,采用44的预测模式进行预测其预测效果将会大大增加.所以,我们可以给宏块的4种预测模式中设定一个阈值,先对一个16X16宏块进行1616下的模式进行预测,分析预测残差,如果计算的误差小于阈值则说明该宏块比较平滑,我们就可以直接采用1616的预测模式,而直接跳过44的模式的代价计算与选择.在44预测模式中我们计算MODECost,采用了当前块与重建块的差值的平方和SSD,也就是说需要对每一个44小块用9种模式进行预测,对预测残差DCT变换/量化,反DCT/反量化,得到重构块,再利用MODECost=SSD+入MoDEXRate计算代价.而实际上MODECost与绝对残差saD(当前块与预测块的差值的平方),变换域中的绝对残差SATD有很强的相关性.而且SAD,SATD的计算量要小的多,所以我们可以先计算所有4X4小块的SAD或SATD,根据计算结果可以直接排除一部分模式,对于剩下的模式我们作为候选模式再计算MODE.Cost.根据观察,我们可以发现一副图像各个小块之间具有很强的空间相关性,也就是说相邻块之间的预测模式相同的可能性很大,所以可以利用相邻小块的编码模式来预测当前小块的编码模式,一般我们利用当前预测块左边块和上边块来预测.在另外一方面,相邻两帧图像间具有很强的时间相关性,也就是说相邻两帧同一个位置的小块的预测模式很可能也是相同的,所以可以利用参考帧(即前一帧)中对应的小块来预测当前小块的编码模式.此外,亮度块与色度块的预测模式有很强的相关性,有研究表明,当前宏块的16X16方式下的预测模式与色度块8X8的预测模式具有一一对应的关系.也就是说,当前宏块若采用亮度块1616方式的预测模式,则当前宏块的色度块88可以直接从与亮度块的对应的预测模式中获得,而不需要遍历4种色度模型.综合以分析,本文提出的帧内模式快速选择算法具体步骤如下:(1)确定当前宏块在1616方式的最佳预测模式.用4种模式对当前宏块进行预测;对预测残差宏块的每个44小块进行Hadamard变换,然后再对DC系数组成的44块进行一次Hadamard变换.将所有非零系数的绝对值求和作为代价,即计算SATD;选择编码代价SATD最小的模式作为最佳预测模式;(2)计算1616方式下最佳模式的当前宏块的SAD,如果SAD小于阈值(设为T1),当前模式即为最佳的亮度预测模式.(3)当前块的8X8色度块选对应的预测模式,计算待编码宏块在1616方式下的率失真MODECosto(4)确定当前块在44方式下的最佳预测模式.将16X16宏块分成16个44小块,分别确定各4x4小块的最优模式.利用相邻块与相邻帧的模式预测最可能的模式.设相邻块的预测模式为BESTMODEl,参考帧的预测模式为BESTMODE2,如果BESTMODEl与BESTMODE2相同,则当前小块的候选模式即为BESTMODEl(或BESTMODE2)和DC模式,进入步骤;如果BESTMODEl与BESTMODE2不同但是相邻,则当前小块的候选模式为BESTMODEl,BESTMODE2和DC模式,进入步骤;如果BESTMODEl与BESTMODE2不相邻,则进入下一步骤;分别用9种模式对44小块进行预测;分别对每种模式对应的预测残差进行哈达马变换,计算变换后的SATD;选择SATD小于等于average(SATD)的预测模式作为候选模式;对每种候选模式的预测残差进行DCT变换/量化,反DCT/反量化,计算该模式下的率失真代价MODECost;比较所有候选模式的率失真代价MODECost,选择具有最小代价的预测模式为当前4X4小第1期周云艳,等:H.264帧内预测模式快速判决算法57块的最优预测模式.(5)进行色度编码,统计待编码宏块在4X4方式下的率失真总代价MODECost.(6)比较步骤(3)和步骤(5)下的率失真代价MODECost,选择MODECost小的作为当前宏块的帧内预测模式.在以上算法中,步骤(2)计算了1616亮度块SAD,然后与阈值(T1).这里的阈值如果设置得太大的话,则宏块采用1616方式编码的可能性比较大,编码效率比较高,但是如此一来图像的细节部分就可能误差就很大;如果设置得太小的话,则宏块采用4X4方式编码的可能性较大,但是编码效率将会降低.此外量化对编码效果也有较大的影响,经过反复实验发现,当量化参数QP小于等于20时,阈值Tl为500,量化参数QP大于20时,阈值T1为1000是比较合适的.4实验结果及分析为了评价和衡量算法的有效性,按照算法对H.264的参考软件JM86进行了修改,并将其与JM86在编码时间,输出码率和平均峰值信噪比(PSNR)三个方面进行了比较.实验程序所运行的环境:CPU为Celeron(R)2.66G,内存为256MB.实验选取了3个具有代表性的测试序列.每个测试序列在三个不同的量化参数(QP)下编码20帧.表1为实验测得的数据,为了便于比较结果,列出了表2,从该表中我们可以清晰地看到,在不同的测试序列,不同的量化参数下,本文的算法在平均峰值信噪比和输出比特率变化极小的情况下,编码时间都缩短了30%左右,编码效率在一定的程度上得到了提高,可以更好的应用于实时场合.表1实验结果量化参数测试序列At/%APSNR/%A比特率/%58山东轻工业学院第25卷(上接第44页)2CraneRM,CanoeschiET.Experimentalandanalyticalclmmcterizationofmultidimensionallybraidedgraph!:epoxycompositesJ.ExperimentMechanics,1986,19:25966.3梁军.三维编织复合材料力学性能的细观研究D.哈尔滨工业大学,1996.4梁军,杜善义,韩杰才.一种含特定微裂纹缺陷三维编织复合材料弹性常数预报方法J.复合材料,1997,14(1):101.1O7.5MaChangLong,JeanMingYangClTsuWeiChou.Elasticstiffnessofthree-dimensionalbraidedtextilestructurecomposites.ASTMSTP893.CompositeMaterials:TestingandDesign,J.Philadelphia,1986(2):4o4.6YangJM,MaCL,ChouTW.FiberInclinationModelofThreeDimensionalTextileStructuralComposites.J.JoumalofCompositeMaterial,1986,20(1):472_484.7徐煜,许希武,汪海.三维四向编织复合材料的几何建模及刚度预报J.复合材料,2005,22(1):133.138.f8wuDL.Three?cellmodeland5一DbrmdedstructuralcompositesJ.CompositesScienceandTechnology,1996,56:225-233.f9严实,吴林志.三维四向编织复合材料有效性能的预报J.复合材料,2007,24(1):158166.1O王兵,吴林志.碳纤维增强金字塔点阵夹芯结构的抗压缩性能J.复合材料,2010,27(1):133138.1】KalidindiSR,FrancoE.NumericalevaluationofisostrainandweightedaveragemodelsforelasticmodulioftheredimensionalcompositesJ.CompositesScienceandTechnology,1997,57(3):293305.12SunXK,SunCJ.MechanicalpropertiesoftheredimensionalbraidedcompositesJ.CompositeStructures,2004,65(34):485-492.13陈利.三维编织复合材料的细观结构及其弹性性能分析D.天津纺织工学院,1998.14WhyteDE,PaStureCM,KoFK.Afabricgeometrymodelfor3一DbraidreinforcedFP/AI.Licomposites.In:InterSAMPEMetalsCont,CompetitiveAdvancesinMetals/MetalProcessing,J.CherryHil1.1987(8):87-91.15李嘉禄,刘谦.三维编织复合材料中纤维束横截面形状的研究J.复合材料,2001,18(2):9.13.16张锦,张乃恭.新型复合材料力学机理及其应用M.北京:北京航空航天大学出版社,1993.17沈怀荣,吴德隆.纺织结构复合材料的纺织几何学模型JJ.中国空间科学技术,2000(2):1-8.18ChenL,TaoXM.ChoyCL.Mechanicalanalysisof3DbraidedcompositesbythenmhiphaseelementmethodJ.CompositesScienceandTechnology,1999,59(16):2383391.