FLV协议5分钟入门浅析
FLV協(xié)議簡介
FLV（Flash Video）是一種流媒體格式，因其體積小、協(xié)議相對簡單，很快便流行開來，并得到廣泛的支持。
常見的HTTP-FLV直播協(xié)議，就是使用HTTP流式傳輸通過FLV封裝的音視頻數(shù)據(jù)。對想要了解HTTP-FLV的同學來說，了解FLV協(xié)議很有必要。
概括地說，FLV 由 FLV header 跟 FLV file body 兩部分組成，而 FLV file body 又由多個 FLV tag組成。
FLV = FLV header + FLV file body FLV file body = PreviousTagSize0 + Tag1 + PreviousTagSize1 + Tag2 + ... + PreviousTagSizeN-1 + TagN
FLV tag又分為3種類型：
- Video Tag：存放視頻相關(guān)數(shù)據(jù)；
- Audio Tag：存放音頻相關(guān)數(shù)據(jù)；
- Script Tag：存放音視頻元數(shù)據(jù)；
在實際講解FLV協(xié)議前，首先對單位進行約定：
| 0x... | 16進制數(shù)據(jù) |
| SI8 | 有符號8位整數(shù) |
| SI16 | 有符號16位整數(shù) |
| SI24 | 有符號24位整數(shù) |
| SI32 | 有符號32位整數(shù) |
| STRING | Sequence of Unicode 8-bit characters (UTF-8), terminated with 0x00 (unless otherwise specified) |
| UI8 | 無符號8位整數(shù) |
| UI16 | 無符號16位整數(shù) |
| UI24 | 無符號24位整數(shù) |
| UI32 | 無符號32位整數(shù) |
| xxx [ ] | 類型為xxx的數(shù)組 |
| xxx [n] | 類型為xxx的數(shù)組，數(shù)組長度為n |
FLV header
FLV header由如下字段組成，其中：
| Signature | UI8 | 簽名，固定為'F' (0x46) |
| Signature | UI8 | 簽名，固定為'L' (0x4c) |
| Signature | UI8 | 簽名，固定為'V' (0x56) |
| Version | UI8 | 版本，比如 0x01 表示 FLV 版本 1 |
| TypeFlagsReserved | UB[5] | 全為0 |
| TypeFlagsAudio | UB[1] | 1表示有audio tag，0表示沒有 |
| TypeFlagsReserved | UB[1] | 全為0 |
| TypeFlagsVideo | UB[1] | 1表示有video tag，0表示沒有 |
| DataOffset | UI32 | FLV header的大小，單位是字節(jié) |
FLV file body
FLV file body很有規(guī)律，由一系列的TagSize和Tag組成，其中：
| PreviousTagSize0 | UI32 | 總是0 |
| Tag1 | FLVTAG | 第1個tag |
| PreviousTagSize1 | UI32 | 前一個tag的大小，包括tag header |
| Tag2 | FLVTAG | 第2個tag |
| ... | ... | ... |
| PreviousTagSizeN-1 | UI32 | 第N-1個tag的大小 |
| TagN | FLVTAG | 第N個tag |
| PreviousTagSizeN | UI32 | 第N個tag的大小，包含tag header |
FLV tags
FLV tag由 tag header + tag body組成。
tag header如下，總共占據(jù)11個字節(jié)：
| TagType | UI8 | tag類型 8：audio 9：video 18：script data 其他：保留 |
| DataSize | UI24 | tag body的大小 |
| Timestamp | UI24 | 相對于第一個tag的時間戳（單位是毫秒） 第一個tag的Timestamp為0 |
| TimestampExtended | UI8 | 時間戳的擴展字段，當 Timestamp 3個字節(jié)不夠時，會啟用這個字段，代表高8位 |
| StreamID | UI24 | 總是0 |
| Data | 取決于根據(jù)TagType | TagType=8，則為AUDIODATA TagType=9，則為VIDEODATA TagType=18，則為SCRIPTDATAOBJECT |
In playback, the time sequencing of FLV tags depends on the FLV timestamps only. Any timing mechanisms built into the payload data format are ignored.
Audio tags
定義如下所示：
| SoundFormat | UB[4] | 音頻格式，重點關(guān)注 **10 = AAC ** 0 = Linear PCM, platform endian 1 = ADPCM 2 = MP3 3 = Linear PCM, little endian 4 = Nellymoser 16-kHz mono 5 = Nellymoser 8-kHz mono 6 = Nellymoser 7 = G.711 A-law logarithmic PCM 8 = G.711 mu-law logarithmic PCM 9 = reserved 10 = AAC 11 = Speex 14 = MP3 8-Khz 15 = Device-specific sound |
| SoundRate | UB[2] | 采樣率，對AAC來說，永遠等于3 0 = 5.5-kHz 1 = 11-kHz 2 = 22-kHz 3 = 44-kHz |
| SoundSize | UB[1] | 采樣精度，對于壓縮過的音頻，永遠是16位 0 = snd8Bit 1 = snd16Bit |
| SoundType | UB[1] | 聲道類型，對Nellymoser來說，永遠是單聲道；對AAC來說，永遠是雙聲道； 0 = sndMono 單聲道 1 = sndStereo 雙聲道 |
| SoundData | UI8[size of sound data] | 如果是AAC，則為 AACAUDIODATA； 其他請參考規(guī)范； |
備注：
If the SoundFormat indicates AAC, the SoundType should be set to 1 (stereo) and the SoundRate should be set to 3 (44 kHz). However, this does not mean that AAC audio in FLV is always stereo, 44 kHz data. Instead, the Flash Player ignores these values and extracts the channel and sample rate data is encoded in the AAC bitstream.
AACAUDIODATA
當 SoundFormat 為10時，表示音頻采AAC進行編碼，此時，SoundData的定義如下：
| AACPacketType | UI8 | 0: AAC sequence header 1: AAC raw |
| Data | UI8[n] | 如果AACPacketType為0，則為AudioSpecificConfig 如果AACPacketType為1，則為AAC幀數(shù)據(jù) |
The AudioSpecificConfig is explained in ISO 14496-3. Note that it is not the same as the contents of the esds box from an MP4/F4V file. This structure is more deeply embedded.
關(guān)于AudioSpecificConfig
偽代碼如下：參考這里
5 bits: object type if (object type == 31)6 bits + 32: object type 4 bits: frequency index if (frequency index == 15)24 bits: frequency 4 bits: channel configuration var bits: AOT Specific Config 復制代碼定義如下：
| AudioObjectType | UB[5] | 編碼器類型，比如2表示AAC-LC |
| SamplingFrequencyIndex | UB[4] | 采樣率索引值，比如4表示44100 |
| SamplingFrequencyIndex | UB[4] | 采樣率索引值，比如4表示44100 |
| ChannelConfiguration | UB[4] | 聲道配置，比如2代表雙聲道，front-left, front-right |
Video tags
定義如下：
| FrameType | UB[4] | 重點關(guān)注1、2： 1: keyframe (for AVC, a seekable frame) —— 即H.264的IDR幀； 2: inter frame (for AVC, a non- seekable frame) —— H.264的普通I幀； 3: disposable inter frame (H.263 only) 4: generated keyframe (reserved for server use only) 5: video info/command frame |
| CodecID | UB[4] | 編解碼器，主要關(guān)注 7（AVC） 1: JPEG (currently unused) 2: Sorenson H.263 3: Screen video 4: On2 VP6 5: On2 VP6 with alpha channel 6: Screen video version 2 7: AVC |
| VideoData | 取決于CodecID | 實際的媒體類型，主要關(guān)注 7:AVCVIDEOPACKE 2: H263VIDEOPACKET 3: SCREENVIDEOPACKET 4: VP6FLVVIDEOPACKET 5: VP6FLVALPHAVIDEOPACKET 6: SCREENV2VIDEOPACKET 7: AVCVIDEOPACKE |
AVCVIDEOPACKE
當 CodecID 為 7 時，VideoData 為 AVCVIDEOPACKE，也即 H.264媒體數(shù)據(jù)。
AVCVIDEOPACKE 的定義如下：
| AVCPacketType | UI8 | 0: AVC sequence header 1: AVC NALU 2: AVC end of sequence |
| CompositionTime | SI24 | 如果AVCPacketType=1，則為時間cts偏移量；否則，為0 |
| Data | UI8[n] | 1、如果如果AVCPacketType=1，則為AVCDecoderConfigurationRecord 2、如果AVCPacketType=1=2，則為NALU（一個或多個） 3、如果AVCPacketType=2，則為空 |
這里有幾點稍微解釋下：
PPS、SPS這里先不展開。
Script Data Tags
Script Data Tags通常用來存放跟FLV中音視頻相關(guān)的元數(shù)據(jù)信息（onMetaData），比如時長、長度、寬度等。它的定義相對復雜些，采用AMF（Action Message Format）封裝了一系列數(shù)據(jù)類型，比如字符串、數(shù)值、數(shù)組等。
| Objects | SCRIPTDATAOBJECT[] | 任意數(shù)目的 SCRIPTDATAOBJECT |
| SCRIPTDATAOBJECTEND | UI24 | 永遠是9，標識著Script Data的結(jié)束 |
SCRIPTDATAOBJECT 定義如下：
| ObjectName | SCRIPTDATASTRING | 對象的名字 |
| ObjectData | SCRIPTDATAVALUE | 對象的值 |
SCRIPTDATAVALUE 的定義如下：
| Type | SCRIPTDATASTRING | 變量類型： 0 = Number type 1 = Boolean type 2 = String type 3 = Object type 4 = MovieClip type 5 = Null type 6 = Undefined type 7 = Reference type 8 = ECMA array type 10 = Strict array type 11 = Date type 12 = Long string type |
| ECMAArrayLength | 如果Type為8（數(shù)組），則為UI32 | 數(shù)組長度 |
| ScriptDataValue | If Type == 0 DOUBLE If Type == 1 UI8 If Type == 2 SCRIPTDATASTRING ...（有點長，可以參考規(guī)范） | 變量的值 |
| ScriptDataValueTerminator | 如果Type==3，則為SCRIPTDATAOBJECTEND 如果 Type==8，則為SCRIPTDATAVARIABLEEND | Object、Array的結(jié)束符 |
可以看到，Script Data Tag 的定義相對復雜，下面通過onMetaData進行進一步講解。
onMetaData
onMetaData中包含了音視頻相關(guān)的元數(shù)據(jù)，封裝在Script Data Tag中，它包含了兩個AMF。
第一個AMF：
- 第1個字節(jié)：0x02，表示字符串類型
- 第2-3個字節(jié)：UI16類型，值為0x000A，表示字符串的長度為10（onMetaData的長度）；
- 第4-13個字節(jié)：字符串onMetaData對應的16進制數(shù)字（0x6F 0x6E 0x4D 0x65 0x74 0x61 0x44 0x61 0x74 0x61）；
第二個AMF：
- 第1個字節(jié)：0x08，表示數(shù)組類型；
- 第2-5個字節(jié)：UI32類型，表示數(shù)組的長度，onMetaData中具體包含哪些屬性是不固定的。
- 第6個字節(jié)+：比如duration，則：
- 第6-9個字節(jié)：0x0008，表示長度為8個字節(jié)；
- 第10-17個字節(jié)：0x6475 7261 7469，表示 duration 這個字符串；
- 第18個字節(jié)：0x00，表示為數(shù)值類型；
- 第19-26個字節(jié)：0x...，表示具體的時長；
更多onMetaData字段的定義：
| duration | DOUBLE | 文件的時長 |
| width | DOUBLE | 視頻寬度（px） |
| height | DOUBLE | 視頻高度（px） |
| videodatarate | DOUBLE | 視頻比特率（kb/s） |
| framerate | DOUBLE | 視頻幀率（幀/s） |
| videocodecid | DOUBLE | 視頻編解碼器ID（參考Video Tag） |
| audiosamplerate | DOUBLE | 音頻采樣率 |
| audiosamplesize | DOUBLE | 音頻采樣精度（參考Audio Tag） |
| stereo | BOOL | 是否立體聲 |
| audiocodecid | DOUBLE | 音頻編解碼器ID（參考Audio Tag） |
| filesize | DOUBLE | 文件總得大小（字節(jié)） |
寫在后面
FLV協(xié)議本身不算復雜，理解上的困難，更多時候來自音視頻編解碼相關(guān)的知識，比如H.264、AAC相關(guān)知識，建議不懂的時候自行查下。此外，FLV的字節(jié)序為大端序，在做協(xié)議解析的時候一定要注意。
本文為講解方便，部分內(nèi)容可能不夠嚴謹，如有錯漏敬請指出。
相關(guān)鏈接
video_file_format_spec_v10.pdf www.adobe.com/content/dam…
MPEG-4 Part 3 en.wikipedia.org/wiki/MPEG-4…
flv文件分析 www.jianshu.com/p/e290dca02…
H.264再學習 -- 詳解 H.264 NALU語法結(jié)構(gòu) blog.csdn.net/qq_29350001…
轉(zhuǎn)載于:https://juejin.im/post/5d50b5176fb9a06b2116dae9
總結(jié)
以上是生活随笔為你收集整理的FLV协议5分钟入门浅析的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： 电脑系统坏了怎么联网啊(电脑系统修复需要
- 下一篇： 问题 1049: [编程入门]结构体之时