一 基礎(chǔ)篇 1.1 圖形、圖像和視頻圖形（graphic）：和圖像與視頻不同，有一種說法是圖形就是自然界的客觀世界不存在的圖案。對(duì)于計(jì)算機(jī)中的圖形研究，有專門的計(jì)算機(jī)圖形學(xué)，主要的 研究對(duì)象是點(diǎn)、線、面等抽象事物。目前所謂的計(jì)算機(jī)顯卡3D技術(shù)支持，主要就是圖形技術(shù)相關(guān)的范疇。關(guān)于圖形方面的開發(fā)，好象OpenGL是其中比較有名 的3D圖形庫。 圖像（image）：和圖形相反，圖像可以定位為自然界中客觀存在的圖案。圖像處理和我們有關(guān)系的大致是圖像濾波處理和圖像壓縮。目前用得最多的靜止圖像 壓縮算法就是jpeg了，大家應(yīng)該都很熟悉。而對(duì)圖像的其他處理，一般稱之為對(duì)圖像進(jìn)行濾波，圖像處理方面，photoshop軟件很多人應(yīng)該都很熟悉， 它圖像處理的功能十分強(qiáng)大。在視頻行業(yè)，主要是關(guān)注消隔行濾波器、去除攝像頭白噪聲濾波器、去除塊效應(yīng)（deblock）濾波器等。 視頻（video）：視頻我的理解就是連續(xù)的圖像，被稱為視頻。對(duì)視頻圖像的處理，核心是壓縮，其他的就是采集、傳輸、顯示和錄像了。視頻圖像如果不壓縮的話，傳輸和錄像的成本都太高了。 1.2 視頻的采集、壓縮、傳輸、解碼顯示和存儲(chǔ)視頻采集最重要的設(shè)備就是攝像頭了，它將自然界中的客觀場景轉(zhuǎn)化為模擬的電信號(hào)輸出。如果是數(shù)字視頻應(yīng)用系統(tǒng)，還需要專門的設(shè)備或者器件完成圖像信號(hào)的模 擬到數(shù)字轉(zhuǎn)換，這也是攝像頭很難直接接入PC機(jī)的原因。早期的接入方式是通過PC上用戶自己配的采集卡來完成，這種方式現(xiàn)在也有，現(xiàn)在有專門通過USB接 口接入PC機(jī)的USB攝像頭，它是在攝像頭內(nèi)完成了模擬到數(shù)字的轉(zhuǎn)換，輸出數(shù)字信號(hào)到USB接口。視頻的壓縮是視頻處理的核心，按照是否實(shí)時(shí)性可以分為非實(shí)時(shí)壓縮和實(shí)時(shí)壓縮。實(shí)時(shí)性與否，區(qū)別其實(shí)很大，一般來說，制作DVD等影片可以算作非實(shí)時(shí)性壓 縮，此時(shí)，算法的選擇應(yīng)該是要提高壓縮算法效率，而不是性能，因?yàn)?#xff0c;即使一天完成一部影片的壓縮的話，大多數(shù)時(shí)候，問題可能也不大。而對(duì)于類似網(wǎng)上直播這 樣的應(yīng)用，則屬于實(shí)時(shí)性壓縮應(yīng)用了，此時(shí)在算法選擇上，算法的性能可能是第一位的。目前看，實(shí)時(shí)性壓縮的應(yīng)用更廣泛些。關(guān)于視頻壓縮部分，詳細(xì)的介紹我們 放在后面的章節(jié)進(jìn)行介紹。視頻的傳輸分為兩種，一種是模擬視頻的傳輸，也就是攝像頭電信號(hào)進(jìn)行遠(yuǎn)距離傳輸，這種主要是在傳統(tǒng)的視頻監(jiān)控系統(tǒng)中應(yīng)用，它的成本比較高，傳輸距離也有限 制，而且隨著距離的增大，會(huì)出現(xiàn)信號(hào)衰減和信道噪聲等問題；另一種傳輸是和互聯(lián)網(wǎng)技術(shù)結(jié)合起來，先把數(shù)字視頻信號(hào)壓縮后得到碼流數(shù)據(jù)，然后通過網(wǎng)絡(luò)傳輸?shù)?遠(yuǎn)端。隨著互聯(lián)網(wǎng)的高速發(fā)展，后一種應(yīng)用方式越來越普遍，最早期應(yīng)該算是視頻會(huì)議系統(tǒng)，現(xiàn)在的應(yīng)用就更多了，最新的比如手機(jī)上網(wǎng)觀看視頻等。其實(shí)，抽象 看，互聯(lián)網(wǎng)它其實(shí)就是一個(gè)信息平臺(tái)，而在這個(gè)信息平臺(tái)上，傳輸?shù)男畔⑾喈?dāng)大比例就是多媒體數(shù)據(jù)?？梢韵胂?#xff0c;今后隨著互聯(lián)網(wǎng)帶寬的不斷提高，視頻的應(yīng)用將越 來越廣。對(duì)于互聯(lián)網(wǎng)傳輸過來的視頻信息，首先是要進(jìn)行解碼，然后才是顯示。解碼的芯片有一定的性能要求，比編碼器低些，但是畢竟是視頻數(shù)據(jù)處理，通用的芯片（不支 持MMX等多媒體指令）可能會(huì)比較吃力。顯示設(shè)備主要有電視、監(jiān)視器和顯示器，他們的信號(hào)接口是不一樣的，電視監(jiān)視器是模擬的電信號(hào)，顯示器的輸入應(yīng)該是 數(shù)字信號(hào)。另外多說一句，現(xiàn)在的顯卡似乎普遍支持電視輸出。 1.3 視頻相關(guān)行業(yè)介紹以視頻技術(shù)為基礎(chǔ)，結(jié)合其他領(lǐng)域的技術(shù)突破，滿足了人們各種各樣的需求，形成了很多視頻相關(guān)的行業(yè)。這些行業(yè)之中，我們來了解一下如下四個(gè)方向。 1.3.1 多媒體消費(fèi)類應(yīng)用多媒體消費(fèi)類應(yīng)用在技術(shù)上主要是視頻壓縮技術(shù)和媒體存儲(chǔ)技術(shù)的結(jié)合，主要的產(chǎn)品形式是VCD（早期）和DVD，偏向消費(fèi)類的家庭應(yīng)用。這幾年隨著DVD光 驅(qū)的普及，在PC上觀看DVD也逐步流行起來。該行業(yè)的視頻壓縮屬于非實(shí)時(shí)壓縮，追求的是高清晰度，一般的分辨率都是D1（720*576），而且，它的 音頻品質(zhì)也要求很高，采樣頻率和采樣精度都非常高。DVD的視頻壓縮算法是mpeg-2，而它的音頻是LPCM、DOLBYAC3、mp3或者aac。 DVD的存儲(chǔ)技術(shù)表現(xiàn)形態(tài)就是DVD光盤，目前市面上常用的DVD光盤最大容量可達(dá)4.7GB。目前DVD技術(shù)最發(fā)達(dá)的是日本，他們的專利最多，技術(shù)也最領(lǐng)先，基本上處于壟斷地位了。中國也有自己的DVD標(biāo)準(zhǔn)，叫做EVD，這個(gè)公司很久前就在努力的推廣他們的標(biāo)準(zhǔn)了，不過客觀的評(píng)價(jià)，進(jìn)展不能算很樂觀，還需要努力。多媒體技術(shù)在家庭中的應(yīng)用，這幾年也出現(xiàn)了一些很好的亮點(diǎn)，比如家用電視支持網(wǎng)絡(luò)和媒體功能、電視支持錄像功能等，不過總體評(píng)價(jià)，這些都還遠(yuǎn)遠(yuǎn)沒有普及，還需要進(jìn)一步發(fā)展。個(gè)人更看好以機(jī)頂盒這樣的方式來滿足多媒體需求。 1.3.2 視頻會(huì)議視頻會(huì)議可以說是視頻技術(shù)應(yīng)用最古老的行業(yè)了，之所以這么說，是因?yàn)榈谝粋€(gè)視頻壓縮標(biāo)準(zhǔn)H.261就是為了視頻會(huì)議而制定的。視頻會(huì)議行業(yè)是實(shí)時(shí)音視頻壓縮技術(shù)和網(wǎng)絡(luò)通信技術(shù)結(jié)合的產(chǎn)物。目前視頻會(huì)議系統(tǒng)的發(fā)展，除了滿足人們基本的語音和圖像信息交流外，還包括了強(qiáng)大的數(shù)據(jù)信息共享、開展協(xié)同工作等功能。視頻會(huì)議系統(tǒng)主要包括的產(chǎn)品有：語音輸入輸出設(shè)備（mic、音箱等）、攝像頭、電視、視頻會(huì)議終端、MCU等。視頻會(huì)議專用的攝像頭日本索尼公司市場占有 率無可爭議的是第一。而視頻會(huì)議終端和MCU市場目前排第一的是美國的polycom公司，polycom的音頻技術(shù)非常強(qiáng)大，它在中低端市場優(yōu)勢很明 顯，而挪威的泰德（tandberg）在高端市場則做得更好一些。視頻會(huì)議系統(tǒng)對(duì)音視頻技術(shù)和網(wǎng)絡(luò)技術(shù)要求都比較高。從實(shí)際應(yīng)用來說，相對(duì)視頻，視頻會(huì)議 系統(tǒng)對(duì)音頻要求更高一些。隨著現(xiàn)在視頻技術(shù)的發(fā)展和網(wǎng)絡(luò)帶寬的不斷改善，人們對(duì)視頻的要求也越來越高，不過，音頻方面的處理始終是關(guān)鍵，比如回聲消除技術(shù) 等。 1.3.3 視頻監(jiān)控根據(jù)目前比較流行的劃分方法，視頻監(jiān)控行業(yè)已歷經(jīng)三代。第一代被稱為CCTV監(jiān)控，也就是一個(gè)攝像頭加一個(gè)監(jiān)視器組成一個(gè)最簡單的視頻監(jiān)控系統(tǒng)，很多時(shí)候 還只是黑白的監(jiān)控畫面，目前采用第一代監(jiān)控系統(tǒng)的客戶已經(jīng)很少了，不過在一些很小的便利店、超市，我們還是可以看到這樣的監(jiān)控系統(tǒng)。第二代視頻監(jiān)控系統(tǒng)典 型的產(chǎn)品形態(tài)是板卡和DVR，即使到現(xiàn)在，這種監(jiān)控系統(tǒng)也還很流行，在第二代監(jiān)控系統(tǒng)中表現(xiàn)最好的企業(yè)是杭州?？?#xff0c;他們幾乎壟斷了板卡市場，DVR市場占 有率也連續(xù)幾年排名第一了，第二代監(jiān)控系統(tǒng)核心是實(shí)時(shí)視頻壓縮技術(shù)，把攝像頭拍攝下來的畫面進(jìn)行壓縮和存儲(chǔ)到本地硬盤。目前，視頻監(jiān)控行業(yè)已經(jīng)發(fā)展到了第 三代，也就是遠(yuǎn)程視頻監(jiān)控，它把網(wǎng)絡(luò)技術(shù)和視頻壓縮技術(shù)結(jié)合起來，不過和視頻會(huì)議系統(tǒng)不同的是，監(jiān)控行業(yè)對(duì)音頻的要求不高，但是，對(duì)圖像的要求卻高很多， 從傳統(tǒng)的要求來說，視頻監(jiān)控不僅要求圖像能夠更清晰，對(duì)幀率的要求也很高，這也是從監(jiān)控的安全考慮的需求。遠(yuǎn)程監(jiān)控系統(tǒng)的主要產(chǎn)品是視頻服務(wù)器（IPVS，也有產(chǎn)商叫DVS）和網(wǎng)絡(luò)攝像機(jī)（ip camera），這兩種產(chǎn)品都具備實(shí)時(shí)壓縮和網(wǎng)絡(luò)傳輸?shù)墓δ?#xff0c;功能上的區(qū)別是IP camera自帶攝像頭，而IPVS需要用戶自己配攝像頭，當(dāng)然，IPVS在滿足監(jiān)控市場的需求上，比IP camera更強(qiáng)大一些，一般來說，圖像的壓縮效果也更好些，而且，它一般還支持所謂的報(bào)警輸入輸出接口，當(dāng)然，在價(jià)格上，網(wǎng)絡(luò)攝像機(jī)有比較大的優(yōu)勢。 1.3.4 流媒體行業(yè)流媒體也是網(wǎng)絡(luò)技術(shù)和視頻壓縮技術(shù)結(jié)合的產(chǎn)物，它的具體應(yīng)用形式很多，比如網(wǎng)上直播、手機(jī)流媒體、IPTV（網(wǎng)絡(luò)電視）等等，都是比較新的東西，再比如現(xiàn)在網(wǎng)絡(luò)上流行的所謂播客，我也把它歸類為流媒體行業(yè)。流媒體應(yīng)用，對(duì)編碼器的要求可能是最高的了，這是因?yàn)槊颗_(tái)流媒體服務(wù)器都會(huì)有很多用戶來連接訪問媒體數(shù)據(jù)，壓縮率如果提高的話，同等圖像質(zhì)量下，同等圖像帶寬可以支持更多的用戶，這點(diǎn)很重要，流媒體行業(yè)應(yīng)用的最大瓶頸就是服務(wù)器支持的用戶數(shù)了。為了解決服務(wù)器的這一瓶頸，最近幾年出現(xiàn)了一種叫做P2P的網(wǎng)絡(luò)傳輸技術(shù)，它號(hào)稱是用戶越多，用戶欣賞視頻會(huì)越流暢，而需要的服務(wù)器仍然只是一臺(tái)。這個(gè)技 術(shù)最成功的產(chǎn)品案例就是skype軟件了，好像是2005年它被ebay以26億美元成功收購，這即使到現(xiàn)在，也被稱為一個(gè)互聯(lián)網(wǎng)歷史上不可復(fù)制的奇跡。 除了skype，其他應(yīng)用P2P技術(shù)的直播軟件還有pplive等，現(xiàn)在也都比較流行。 IPTV算是流媒體在家庭的一個(gè)應(yīng)用形式，前兩年在國內(nèi)也很火過一陣子。我的感覺，單純從技術(shù)上評(píng)價(jià)，IPTV也還有點(diǎn)早了，現(xiàn)在可能還不太成熟，我的理 由有如下幾點(diǎn)：目前家庭用戶上網(wǎng)主要的帶寬還是2兆或者以下，在這個(gè)帶寬下，目前主流的壓縮技術(shù)，壓縮出來的效果可能和有線電視比還相差很明顯，要想進(jìn)一 步提高，可能還需要H.264的普及應(yīng)用。如果要升級(jí)到H.264的話，也就是說目前的IPTV機(jī)頂盒在技術(shù)上還不夠成熟，并不能一步到位解決問題。所 以，感覺IPTV在技術(shù)上要可行，可能還需要再等3-5年吧。 1.3.5 視訊行業(yè)所謂的視訊行業(yè)，就是視頻和通訊技術(shù)結(jié)合的行業(yè)，上面所說的視頻會(huì)議、遠(yuǎn)程視頻監(jiān)控和流媒體行業(yè)都屬于視訊行業(yè)的范疇。還有一個(gè)很有影響的產(chǎn)品，就是IP電話，這個(gè)產(chǎn)品大家應(yīng)該都很熟悉了，幾年前也有過一段時(shí)間的炒作，現(xiàn)在看好像也還沒普及，和IPTV類似，個(gè)人也是感覺還是有點(diǎn)早了，可能再過幾年會(huì)有機(jī)會(huì)起來。它應(yīng)該算是視頻會(huì)議的家庭應(yīng)用產(chǎn)品形態(tài)吧。二 知識(shí)篇 2.1 音視頻協(xié)議、通訊協(xié)議介紹 2.1.1 兩大標(biāo)準(zhǔn)制定組織這里的標(biāo)準(zhǔn)，主要指的是音視頻壓縮標(biāo)準(zhǔn)。兩大組織分別是國際標(biāo)準(zhǔn)化組織（ISO）和國際電信聯(lián)盟（ITU），相信IT行業(yè)的從業(yè)者沒聽說過這兩個(gè)行業(yè)的人很少。在音視頻壓縮標(biāo)準(zhǔn)方面，mpeg系列的協(xié)議是ISO制定的標(biāo)準(zhǔn)，而H系列的協(xié)議則是ITU制定的標(biāo)準(zhǔn)。 2.1.2 視頻協(xié)議目前主要的視頻壓縮協(xié)議有：H.261、H.263、H.264和mpeg-1、mpeg-2和mpeg-4。第一個(gè)視頻壓縮標(biāo)準(zhǔn)是H.261，它的算法 現(xiàn)在來看，非常簡單，但是，它的很多視頻壓縮的思想，一直影響到現(xiàn)在最新的壓縮標(biāo)準(zhǔn)H.264。H.264單看名字，感覺是ITU組織制定的，其實(shí)它還有 一個(gè)名字叫mpeg-4 Part 10，翻譯過來叫mpeg-4 第十部分，這是因?yàn)镠.264是ISO和ITU組織共同制定的，版權(quán)共享。其實(shí)，一直以來，H系列的標(biāo)準(zhǔn)制定者和mpeg系列的標(biāo)準(zhǔn)制定者基本上就是同一 群人，而且，這兩個(gè)系列的算法思想基本上都差不多，唯一有一點(diǎn)不同的協(xié)議是mpeg-4，它在它的高級(jí)profile中提出了小波變換等算法來實(shí)現(xiàn)視頻壓 縮，從實(shí)際發(fā)展看，個(gè)人感覺不是很成功，采用小波變換的商用codec很少，這可能和這些算法的達(dá)不到實(shí)時(shí)性有關(guān)系。從應(yīng)用的角度看，mpeg系列在消費(fèi)類應(yīng)用更廣些，大家也更熟悉些，我們熟悉的VCD格式視頻主要是mpeg-1，DVD的視頻則是mpeg-2，早期大 家看的電影在電腦上存盤文件格式都是*.mpg，基本上也都是mpeg做的壓縮了。在行業(yè)上，國內(nèi)的監(jiān)控行業(yè)，也是從mpeg-1到mpeg-2，到前兩 三年的mpeg-4，再到最近的H.264。而H系列的標(biāo)準(zhǔn)，用得最多的是視頻會(huì)議，從H.261到H.263，再到H.263+、H.263++等，再 到現(xiàn)在的H.264。從技術(shù)角度說，H系列的協(xié)議對(duì)網(wǎng)絡(luò)的支持更好些，這點(diǎn)mpeg系列要差一些，但是，mpeg它每一代都比H系列同一代的協(xié)議要出得晚些，算法也相對(duì)更先進(jìn)些，因此，它用來做存儲(chǔ)協(xié)議是很合適的，這也就是為什么普通消費(fèi)類產(chǎn)品用戶很少了解到H系列協(xié)議的原因。 H.264是兩大組織最新的算法成果，它在算法層面應(yīng)該說是非常先進(jìn)了，有人評(píng)價(jià)，H.264是視頻壓縮技術(shù)的一個(gè)里程碑，在可預(yù)見的5到10年內(nèi)，出現(xiàn)新的視頻壓縮協(xié)議可能性很小，除非壓縮理論有重大突破。中國也有自己的視頻壓縮協(xié)議，叫做AVS，搞了好多年了，不過搞得不是很好。從市場分析，消費(fèi)類電子、視頻會(huì)議和流媒體行業(yè)，現(xiàn)在要再想進(jìn)去可能很困難了。不過最近聽說AVS又有點(diǎn)火起來了，有消息稱，IPTV指定要支持AVS，這可能是它的最后機(jī)會(huì)了吧。除了上面說的協(xié)議，還有很多公司也有自己的壓縮算法，不過基本上都是不公開的了，他們這些算法也都非常好，不過和開發(fā)人員關(guān)系倒不是很大了，典型的是微軟的wmv、realplay公司的rm和rmvb等，他們的使用者也很多，而且他們都偏向流媒體應(yīng)用。 2.1.3 音頻協(xié)議音頻協(xié)議也分兩大類，ITU組織的主要是用于視頻會(huì)議的G系列協(xié)議，包括g.711、g.722、g.723、g.726、g.728、g.729等。這 些協(xié)議主要有兩大特點(diǎn)，第一是比較關(guān)注語音壓縮，畢竟開會(huì)主要是要聽人講話；對(duì)音樂的壓縮效果可能就不是太好了；第二是壓縮率都比較大，碼率都比較低，典 型的g.723支持5.9k/s這樣的碼率，而且語音音質(zhì)還很不錯(cuò)。ISO的音頻可能更為人熟知一些，最流行的就是mp3，它的全稱是mpeg-1 Audio layer 3，意思是mpeg-1的音頻第三層；另外，最新的音頻算法被稱為aac（也稱為mp4），它定義在mpeg-2或mpeg-4的音頻部分。他們的特點(diǎn)是 音質(zhì)好，支持多聲道，高采樣精度和采樣頻率，尤其對(duì)音樂的壓縮效果比G系列要好太多。當(dāng)然，這也是因?yàn)樗鼈兊膽?yīng)用領(lǐng)域側(cè)重點(diǎn)不同造成的。同樣的，很多大公司也有自己的語音壓縮標(biāo)準(zhǔn)，效果也非常好。不過都是他們自己的知識(shí)產(chǎn)權(quán)和算法，通用市場用的還是少。 2.1.4 上層通訊協(xié)議在視頻會(huì)議系統(tǒng)中，目前最流行的有H.323和SIP協(xié)議，在流媒體應(yīng)用中，ISMA rtsp應(yīng)用得比較多，它屬于開源項(xiàng)目，而很多流媒體產(chǎn)商有自己的流媒體傳輸協(xié)議，比如微軟的mms等。 H.323主要用于視頻會(huì)議，被稱為協(xié)議簇，我們前面提到的H系列視頻壓縮協(xié)議和G系列音頻壓縮協(xié)議都屬于它的子協(xié)議。除了音視頻編解碼器外；它還定義了 各種數(shù)據(jù)應(yīng)用，包括T.120、T.84、T.434等；另外還包括H.245控制信道、H.225.0呼叫信令信道以及RAS信道。詳細(xì)的H.323的 知識(shí)，這里就不深入介紹了。 SIP是由IETF提出來的一個(gè)應(yīng)用控制（信令）協(xié)議。正如名字所隱含的–用于發(fā)起會(huì)話。它可用來創(chuàng)建、修改以及終結(jié)多個(gè)參與者參加的多媒體會(huì)話進(jìn)程。參與會(huì)話的成員可以通過組播方式、單播連網(wǎng)或者兩者結(jié)合的形式進(jìn)行通信。 H.323和SIP分別是通信領(lǐng)域與因特網(wǎng)兩大陣營推出的建議。 H.323企圖把IP電話當(dāng)作是眾所周知的傳統(tǒng)電話，只是傳輸方式發(fā)生了改變，由電路交換變成了分組交換。而SIP協(xié)議側(cè)重于將IP電話作為因特網(wǎng)上的一 個(gè)應(yīng)用，較其實(shí)應(yīng)用（如FTP，E-mail等）增加了信令和QoS的要求，它們支持的業(yè)務(wù)基本相同，也都利用RTP作為媒體傳輸?shù)膮f(xié)議。但H.323是 一個(gè)相對(duì)復(fù)雜的協(xié)議。 RTSP主要用于流媒體傳輸，它的英文全稱是real time streaming protocol。典型的應(yīng)用就是網(wǎng)絡(luò)電視的應(yīng)用，由客戶向服務(wù)器進(jìn)行點(diǎn)播，如果在監(jiān)控行業(yè)應(yīng)用的話，建議當(dāng)用戶進(jìn)行遠(yuǎn)程回放錄像時(shí)，可采用RTSP協(xié)議。 原文地址 http://www.zooyoo.org/?p=8

總結(jié)

以上是生活随笔為你收集整理的多媒体视频知识入门贴zt（一）的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。