通過(guò)開(kāi)源API進(jìn)行DSP視頻處理

數字信號處理器(DSP)具有出色的多媒體性能。一般而言，它們運行編解碼器所需的周期只有通用處理器(GPP)內核的40%到50%。DSP還能提供比ASIC大得多的靈活性和可重配置性。但迄今為止，要在數字視頻應用中運用DSP，編程人員還不得不花費較多時(shí)間精力去學(xué)習相關(guān)專(zhuān)用語(yǔ)言。不過(guò)，隨著(zhù)應用編程接口(API)的出現，已不再需要學(xué)習這些專(zhuān)用DSP語(yǔ)言了。在運行于GPP上的應用中，API可以輕輕松松地充分發(fā)揮DSP的優(yōu)勢。

　　開(kāi)源多媒體構架在GPP上一般運行在Linux操作系統下，是這些API的理想對象。利用API可以卸載視頻編解碼器的計算負荷，大大減小DSP編程的復雜性。這種方案只要求編程人員具備基本的DSP知識即可，無(wú)需編寫(xiě)代碼來(lái)整合DSP功能與那些運行在GPP上的功能。這種優(yōu)勢，加上利用免費開(kāi)源插件和構架提供的許多功能的能力，可以大幅度縮短新視頻產(chǎn)品的上市時(shí)間。

　　硬件平臺的選擇

　　在選擇運行編解碼器(壓縮傳輸或存儲的數字流，再解壓以供查看或編輯)的硬件平臺時(shí)，開(kāi)發(fā)人員有幾種可選方案。ASIC是專(zhuān)門(mén)為數字視頻應用而設計的，能在這類(lèi)應用中提供高性能和低功耗。它的缺點(diǎn)流片(NRE)費用很高。此外，ASIC若有變化，比如改動(dòng)以適應編解碼標準，相關(guān)實(shí)現費用非常高昂。

　　另一方面，GPP內核的流片費用相對較低，針對變動(dòng)進(jìn)行重編程相當容易。但由于它們在執行計算密集的信號處理應用時(shí)效率低下，故在應用于數字視頻處理時(shí)性能較低。例如，GPP通過(guò)一系列移位和加法運算來(lái)實(shí)現乘法運算，而每一個(gè)移位和加法運算需要一個(gè)以上的時(shí)鐘周期。

　　DSP具有集上述二者之優(yōu)勢的潛力。不同于GPP，DSP是為數字視頻應用中計算密集的信號處理應用而優(yōu)化的。它具有單周期乘法器或乘法累加單元，能夠加快編解碼算法的執行速度。更高性能的DSP還包含有幾個(gè)可以并行操作的獨立執行單元，這使得它們能夠每條指令執行好幾個(gè)操作。此外，DSP還提供完全的軟件編程能力，包括現場(chǎng)重編程能力。這就讓用戶(hù)可以先推出MPEG-2產(chǎn)品，以后再升級為H.264視頻編解碼器。DSP在數字視頻應用中的主要局限是它們通常需要采用專(zhuān)用語(yǔ)言來(lái)編程，而熟悉DSP的編程人員遠沒(méi)有熟悉流行的GPP架構的來(lái)得多。

　　圖1：只含解碼器的范例中的多媒體框架職責和數據流程

　　組件集成的挑戰

　　數字視頻系統的開(kāi)發(fā)人員還面臨著(zhù)集成的挑戰。數字視頻系統包含了多個(gè)編碼器、解碼器、編解碼器、多種算法及其它軟件，這些組件都必須集成到一個(gè)可執行映象(image)中，然后才能在系統上運行內容。集成所有這些組件并確保其運行協(xié)調是一件很困難的任務(wù)。不同的系統可能需要截然不同的視頻、圖像、語(yǔ)音、音頻和其他多媒體模塊。手工集成每一個(gè)軟件模塊或算法的開(kāi)發(fā)人員就被增值功能性(比如增加創(chuàng )新性功能)搞得頭痛不已。

　　許多數字視頻開(kāi)發(fā)人員都開(kāi)始采取開(kāi)源途徑來(lái)構建軟件。一種常用的方案是從開(kāi)源獲得軟件的重要部分，而在可用性和硬件集成方面充分發(fā)揮內部專(zhuān)業(yè)能力。開(kāi)發(fā)人員常常參與開(kāi)源技術(shù)開(kāi)發(fā)項目，以滿(mǎn)足特定要求并把內部開(kāi)發(fā)的代碼和開(kāi)源代碼集成在一起來(lái)創(chuàng )建新產(chǎn)品。

　　新的API

　　為了解決上述問(wèn)題，德州儀器(TI)開(kāi)發(fā)出了一款API，該產(chǎn)品能夠充分發(fā)揮開(kāi)源多媒體框架中的GStreamer等DSP的優(yōu)勢。這款API使多媒體編程人員可以利用熟悉環(huán)境中的DSP編解碼引擎，把數字視頻編程人員從復雜的DSP編程中解放出來(lái)，讓ARM/Linux開(kāi)發(fā)人員得以輕松利用DSP編解碼器的加速功能，無(wú)需具備相關(guān)硬件知識。該接口還能自動(dòng)高效地在A(yíng)RM和DSP間進(jìn)行工作劃分，從而不再需要為運行在DSP上和運行在GPP內核上的功能間的協(xié)調而編寫(xiě)代碼。該接口已由TI按照開(kāi)源社群標準以GStreamer插件的形式開(kāi)發(fā)成功。

　　圖2：GStreamer內數據通過(guò)GstBuffer結構進(jìn)行表征的方法與其它幾種操作系統及其相應多媒體框架所采取的方法相一致。

　　GStreamer是一種媒體處理庫，提供了某種轉換過(guò)程的抽象模型，其通過(guò)管道的概念進(jìn)行工作，媒體在其中按照已定義的方向從輸入流到輸出。GStreamer能夠以一種簡(jiǎn)化編程過(guò)程的方式來(lái)提取不同媒體的操作行為，在數字視頻編程社群中廣受歡迎。通過(guò)GStreamer，能夠編寫(xiě)出一種能夠支持多種不同格式和網(wǎng)絡(luò )的通用視頻或音樂(lè )播放器。而且大部分操作由插件執行，并非GStreamer內核。GStreamer的基本功能性主要與注冊和加載插件有關(guān)，并可提供基類(lèi)，這些基類(lèi)定義了GStreamer類(lèi)的基本功能。

　　GStreamer過(guò)濾器

　　源過(guò)濾器負責從從數據源獲取原始的多媒體數據以供處理，這里的數據源可以是硬盤(pán)文件(比如文件源過(guò)濾器)，或CD或DVD光盤(pán)，也可以是電視接收卡或網(wǎng)絡(luò )這種“實(shí)時(shí)”源。某些源過(guò)濾器只是簡(jiǎn)單地把原始數據傳遞到剖析器(parser)或分離過(guò)濾器(splitter filter)，同時(shí)其它源過(guò)濾器也執行自己的剖析步驟。變換過(guò)濾器 (Transform filter)接收原始數據或部分經(jīng)過(guò)處理的數據，進(jìn)一步處理后再傳遞到下一級過(guò)濾器。

　　變換過(guò)濾器有多種類(lèi)型，剖析器即是一例。這種過(guò)濾器把原始字節流分離為多個(gè)樣本或幀、壓縮器或解壓縮器，以及格式轉換器。呈現過(guò)濾器(Renderer filter)一般接收完全處理過(guò)的數據，并在系統顯示器上或通過(guò)揚聲器或某些外部設備進(jìn)行播放。這一類(lèi)過(guò)濾器還包括“file writer (文件創(chuàng )建器)”過(guò)濾器和網(wǎng)絡(luò )傳輸過(guò)濾器，前者可以把數據保存到硬盤(pán)或其它持久穩固的存儲設備上。

　　數據處理在plug-in_chain() 或 plug-in_loop()函數中進(jìn)行。該函數可能像元件縮放那么簡(jiǎn)單，也可能像真實(shí)的MP3解碼器那么復雜。數據被處理后，利用一個(gè)gst_pad_push()函數從GStreamer元件(element)的源襯墊(pad)發(fā)送出去，由此把數據傳遞到管道鏈的下一個(gè)元件。

　　GStreamer緩沖器

　　在GStreamer中，緩沖器是數據傳輸的基本單元。GstBuffer(實(shí)例)類(lèi)提供了把一個(gè)存儲區定義為流媒體的一部分所必需的全部狀態(tài)。經(jīng)由GstBuffer結構，Gstreame內部的數據表示遵循幾種其它操作系統及其各自的多媒體構架所采用的方法(比如，Microsoft DirectShow中的媒體采樣概念)。此外，還支持次級緩沖器，允許緩沖器的一小部分成為它自己的緩沖器，利用這種處理機制確保了存儲空間不會(huì )過(guò)早釋放。

　　圖3：復用已分配在驅動(dòng)器上且在物理上是連續的緩沖的一種有效途徑。

　　緩沖器通常利用gst_buffer_new()來(lái)創(chuàng )建。創(chuàng )建好一個(gè)緩沖器之后，一般是為它分配存儲器，設置緩沖器數據的大小。下面給出了一個(gè)緩沖器創(chuàng )建的例子，該緩沖器能夠保存具有給定寬度、高度和每像素位的視頻幀。