新一代視頻編碼標準關鍵算法的研究與優(yōu)化.pdf

1、隨著多媒體和計算機網(wǎng)絡技術(shù)的發(fā)展，數(shù)字視頻編碼在許多領域中得到了廣泛的應用，包括可視電話、視頻會議、IPTV和數(shù)字電視等。為了滿足不斷發(fā)展的應用需求，近幾年來，許多國際標準組織相繼制定發(fā)布了一系列新的視頻編碼標準。其中以H.264、AVS為代表的編碼標準，由于具有比以往標準更出色的性能，被人們稱為新一代視頻編碼標準，它們是目前的研究熱點。
　　本文研究的內(nèi)容是新一代視頻編碼標準（H.264、AVS）關鍵算法的研究與優(yōu)化，主要從變換

2、編碼、預測編碼、分級編碼等方面進行算法研究和原理上的優(yōu)化，以及將編碼算法移植到DSP平臺上進行的算法代碼級優(yōu)化。
　　在變換編碼方面：提出了一種n階整數(shù)DCT變換基的通用生成算法。通過對DCT變換原理的研究，發(fā)現(xiàn)了變換基系數(shù)取值個數(shù)與階數(shù)的關系，并結(jié)合余弦函數(shù)的性質(zhì)對其進行了證明。以此為基礎，提出了一種n階整數(shù)DCT變換基(n=2k,k>0)的通用生成算法（本算法無需對相應的浮點基進行具體分析）。通過巧妙排列系數(shù)的序號使得生成的中

3、間多項式具有極強的規(guī)律性，最后設計了一個N位M進制數(shù)來實現(xiàn)N重循環(huán)用以窮舉所有可能解，成功對任意N元多項式組進行了求解。實驗結(jié)果表明，只要計算機的能力足夠強大，應用此算法便可以發(fā)現(xiàn)任意n×n(n=2k,k>0)整數(shù)DCT變換的所有可用基。
　　在預測編碼方面：首先分析了預測編碼中幀內(nèi)預測和幀間預測的流程，找出其中可能的改進優(yōu)化點。通過在閱讀大量文獻和實踐的基礎上，對幀間預測和幀內(nèi)預測模塊都廣泛適用的全零塊閾值問題進行了深入的研究。

4、利用數(shù)學和統(tǒng)計相結(jié)合的方法分析出了目前利用全零塊進行提前終止時的閾值的不足，進而提出了基于量化參數(shù)的全零塊檢測算法，并建立了不同代價函數(shù)和不同塊劃分模式下所對應的全零塊閾值模型。與Yang的算法進行比較分析得出：當量化參數(shù)較低時，計算性能有稍微下降，但PSNR有0.05db左右的提高；當量化參數(shù)較高時，在計算性能提高10％-18％的同時，PSNR也提高大約0.04db。對幀內(nèi)預測部分，我們依據(jù)最可能的模式和最佳模式之間的相關性獲得一個最

5、可能模式與最佳模式矩陣。在幀內(nèi)預測模式判決時，結(jié)合全零塊提前終止算法，利用得出的這個模式矩陣來遍歷各模式在無任何PSNR下降的前提下可以節(jié)省9％-15％的計算周期；如果使用精簡模式矩陣，則在PSNR下降大約0.03db的情況下可以獲得33％-48％左右的計算性能提升。
　　在分級編碼方面：提出了一種按頻譜進行視頻分級編碼的方法。MPEG-2中的數(shù)據(jù)分割就是一種最早的頻譜分級編碼，但其分級粒度較大，實用性不高，本文的算法能實現(xiàn)較細粒

6、度的分級(9級)。按頻譜進行分級的編碼方法具有比較靈活的分級性、計算復雜度低且編碼效率較高，但在幀間預測時存在嚴重的誤差積累問題，因為只傳輸部分頻段上的DCT系數(shù),會引起解碼器的參考圖像與編碼器的參考圖像的不一致，從而造成誤差積累。本文通過設置變換域的參考圖像，很好地解決了這一問題。AVS-P2是我國具有知識產(chǎn)權(quán)的新一代視頻壓縮編碼標準，并已經(jīng)通過審批成為國家標準。本文將提出的分級編碼算法與AVS-P2相結(jié)合，在AVS-P2編解碼的框架

7、下，實現(xiàn)本文提出的基于DCT頻譜分級編碼算法。最終，在AVS-P2的軟件編解碼模型rm52j版本的基礎上，實現(xiàn)了本文的算法，并給出了實驗的結(jié)果。
　　在算法代碼級優(yōu)化方面：我們成功的將AVS編碼算法移植到基于達芬奇(DaVinci)技術(shù)的TMS320DM6446平臺上；并對編碼算法進行項目級優(yōu)化、Cache性能優(yōu)化、數(shù)據(jù)傳輸優(yōu)化（EDMA）、線性匯編優(yōu)化等一系列優(yōu)化技術(shù)，在每一個階段給出相關的性能測試。本文優(yōu)化的最終結(jié)果，算法的性