【Android RTMP】音频数据采集编码 ( AAC 音频格式解析 | FLV 音频数据标签解析 | AAC 音频数据标签头 | 音频解码配置信息 )
文章目錄
- 安卓直播推流專欄博客總結
- 一、 AAC 音頻格式解析
- 二、 FLV 音頻數據標簽解析
- 1. 分析 FLV 格式中的 AAC 音頻格式數據
- 2. AAC 音頻特殊配置
- 3. AAC 音頻數據標簽
- 三、 FLV 音頻數據標簽頭
- 四、 音頻解碼配置信息
- 1. AAC 音頻數據
- 2. 第 111 字節 AF 數據解析
- 3. 音頻數據類型
安卓直播推流專欄博客總結
Android RTMP 直播推流技術專欄 :
0 . 資源和源碼地址 :
- 資源下載地址 : 資源下載地址 , 服務器搭建 , x264 , faac , RTMPDump , 源碼及交叉編譯庫 , 本專欄 Android 直播推流源碼 ;
- GitHub 源碼地址 : han1202012 / RTMP_Pusher
1. 搭建 RTMP 服務器 : 下面的博客中講解了如何在 VMWare 虛擬機中搭建 RTMP 直播推流服務器 ;
- 【Android RTMP】RTMP 直播推流服務器搭建 ( Ubuntu 18.04.4 虛擬機 )
2. 準備視頻編碼的 x264 編碼器開源庫 , 和 RTMP 數據包封裝開源庫 :
-
【Android RTMP】RTMPDumb 源碼導入 Android Studio ( 交叉編譯 | 配置 CMakeList.txt 構建腳本 )
-
【Android RTMP】Android Studio 集成 x264 開源庫 ( Ubuntu 交叉編譯 | Android Studio 導入函數庫 )
3. 講解 RTMP 數據包封裝格式 :
-
【Android RTMP】RTMP 數據格式 ( FLV 視頻格式分析 | 文件頭 Header 分析 | 標簽 Tag 分析 | 視頻標簽 Tag 數據分析 )
-
【Android RTMP】RTMP 數據格式 ( FLV 視頻格式分析 | AVC 序列頭格式解析 )
4. 圖像數據采集 : 從 Camera 攝像頭中采集 NV21 格式的圖像數據 , 并預覽該數據 ;
-
【Android RTMP】Android Camera 視頻數據采集預覽 ( 視頻采集相關概念 | 攝像頭預覽參數設置 | 攝像頭預覽數據回調接口 )
-
【Android RTMP】Android Camera 視頻數據采集預覽 ( NV21 圖像格式 | I420 圖像格式 | NV21 與 I420 格式對比 | NV21 轉 I420 算法 )
-
【Android RTMP】Android Camera 視頻數據采集預覽 ( 圖像傳感器方向設置 | Camera 使用流程 | 動態權限申請 )
5. NV21 格式的圖像數據編碼成 H.264 格式的視頻數據 :
-
【Android RTMP】x264 編碼器初始化及設置 ( 獲取 x264 編碼參數 | 編碼規格 | 碼率 | 幀率 | B幀個數 | 關鍵幀間隔 | 關鍵幀解碼數據 SPS PPS )
-
【Android RTMP】x264 圖像數據編碼 ( Camera 圖像數據采集 | NV21 圖像數據傳到 Native 處理 | JNI 傳輸字節數組 | 局部引用變量處理 | 線程互斥 )
-
【Android RTMP】x264 圖像數據編碼 ( NV21 格式中的 YUV 數據排列 | Y 灰度數據拷貝 | U 色彩值數據拷貝 | V 飽和度數據拷貝 | 圖像編碼操作 )
6. 將 H.264 格式的視頻數據封裝到 RTMP 數據包中 :
-
【Android RTMP】RTMPDump 封裝 RTMPPacket 數據包 ( 封裝 SPS / PPS 數據包 )
-
【Android RTMP】RTMPDump 封裝 RTMPPacket 數據包 ( 關鍵幀數據格式 | 非關鍵幀數據格式 | x264 編碼后的數據處理 | 封裝 H.264 視頻數據幀 )
-
【Android RTMP】RTMPDump 推流過程 ( 獨立線程推流 | 創建推流器 | 初始化操作 | 設置推流地址 | 啟用寫出 | 連接 RTMP 服務器 | 發送 RTMP 數據包 )
7. 階段總結 : 阿里云服務器中搭建 RTMP 服務器 , 并使用電腦軟件推流和觀看直播內容 ;
-
【Android RTMP】RTMP 直播推流 ( 阿里云服務器購買 | 遠程服務器控制 | 搭建 RTMP 服務器 | 服務器配置 | 推流軟件配置 | 直播軟件配置 | 推流直播效果展示 )
-
【Android RTMP】RTMP 直播推流階段總結 ( 服務器端搭建 | Android 手機端編碼推流 | 電腦端觀看直播 | 服務器狀態查看 )
8. 處理 Camera 圖像傳感器導致的 NV21 格式圖像旋轉問題 :
-
【Android RTMP】NV21 圖像旋轉處理 ( 問題描述 | 圖像順時針旋轉 90 度方案 | YUV 圖像旋轉細節 | 手機屏幕旋轉方向 )
-
【Android RTMP】NV21 圖像旋轉處理 ( 圖像旋轉算法 | 后置攝像頭順時針旋轉 90 度 | 前置攝像頭順時針旋轉 90 度 )
9. 下面這篇博客比較重要 , 里面有一個快速搭建 RTMP 服務器的腳本 , 強烈建議使用 ;
- 【Android RTMP】NV21 圖像旋轉處理 ( 快速搭建 RTMP 服務器 Shell 腳本 | 創建 RTMP 服務器鏡像 | 瀏覽器觀看直播 | 前置 / 后置攝像頭圖像旋轉效果展示 )
10. 編碼 AAC 音頻數據的開源庫 FAAC 交叉編譯與 Android Studio 環境搭建 :
-
【Android RTMP】音頻數據采集編碼 ( 音頻數據采集編碼 | AAC 高級音頻編碼 | FAAC 編碼器 | Ubuntu 交叉編譯 FAAC 編碼器 )
-
【Android RTMP】音頻數據采集編碼 ( FAAC 頭文件與靜態庫拷貝到 AS | CMakeList.txt 配置 FAAC | AudioRecord 音頻采樣 PCM 格式 )
11. 解析 AAC 音頻格式 :
- 【Android RTMP】音頻數據采集編碼 ( AAC 音頻格式解析 | FLV 音頻數據標簽解析 | AAC 音頻數據標簽頭 | 音頻解碼配置信息 )
12 . 將麥克風采集的 PCM 音頻采樣編碼成 AAC 格式音頻 , 并封裝到 RTMP 包中 , 推流到客戶端 :
-
【Android RTMP】音頻數據采集編碼 ( FAAC 音頻編碼參數設置 | FAAC 編碼器創建 | 獲取編碼器參數 | 設置 AAC 編碼規格 | 設置編碼器輸入輸出參數 )
-
【Android RTMP】音頻數據采集編碼 ( FAAC 編碼器編碼 AAC 音頻解碼信息 | 封裝 RTMP 音頻數據頭 | 設置 AAC 音頻數據類型 | 封裝 RTMP 數據包 )
-
【Android RTMP】音頻數據采集編碼 ( FAAC 編碼器編碼 AAC 音頻采樣數據 | 封裝 RTMP 音頻數據頭 | 設置 AAC 音頻數據類型 | 封裝 RTMP 數據包 )
Android 直播推流流程 : 手機采集視頻 / 音頻數據 , 視頻數據使用 H.264 編碼 , 音頻數據使用 AAC 編碼 , 最后將音視頻數據都打包到 RTMP 數據包中 , 使用 RTMP 協議上傳到 RTMP 服務器中 ;
視頻推流 : 之前的一系列博客中完成手機端采集視頻數據操作 , 并將視頻數據傳遞給 JNI , 在 NDK 中使用 x264 將圖像轉為 H.264 格式的視頻 , 最后將 H.264 格式的視頻打包到 RTMP 數據包中 , 上傳到 RTMP 服務器中 ;
音頻推流 : 開始進行音頻直播推流操作 , 先采集音頻 , 將音頻編碼為 AAC 格式 , 將編碼后的音頻打包成 RTMP 包 , 然后推流到服務器中 ;
一、 AAC 音頻格式解析
1 . AAC 音頻文件格式 :
① ADIF 格式 : 音頻數據交換格式 ( Audio Data Interchange Format ) , 只有一份音頻解碼信息 , 存儲在文件開頭 , 這種格式適合存儲音頻文件 , 節省空間 , 但是必須從開始播放才可以 , 從中間位置無法播放 ;
② ADTS 格式 : 音頻數據傳輸流格式 ( Audio Data Transport Stream ) , 每隔一段音頻數據 , 就會有一份音頻解碼信息 , 這種格式適合音頻流傳輸 , 可以在任何位置開始解碼播放 ;
2 . 推流數據分析 : 當前的需求是需要將 FAAC 編碼后的 AAC 數據推流到 RTMP 服務器中 , 推流時 , 需要推流的 AAC 格式不是上述兩種格式 , 而是純 AAC 裸數據 ;
3 . 音頻幀數據必須完整 : 音頻幀與視頻幀存儲機制不同 , 視頻幀分為關鍵幀和非關鍵幀 , 音頻采樣都是關鍵幀 , 少一個采樣都會有問題產生 , 如電流 , 卡頓等問題 ;
二、 FLV 音頻數據標簽解析
1. 分析 FLV 格式中的 AAC 音頻格式數據
分析 FLV 格式中的 AAC 音頻格式數據 : 下圖中的第 222 個音頻數據標簽 , 存儲了音頻特殊配置 , 之后的 AAC 音頻數據標簽都是普通的音頻采樣數據 ;
① 視頻解碼數據配置 : 視頻的第一個視頻標簽數據是 H.264 , AVC 序列頭數據 ( H.264 : AVC Sequence Header ) , 指導后續視頻幀如何解碼 ;
② 音頻解碼數據配置 : 音頻的第一個音頻標簽數據是 AAC , 音頻特殊配置數據 ( AAC : Audio Specific config ) , 指導后續音頻采樣如何解碼 ;
2. AAC 音頻特殊配置
打開第 222 個音頻數據標簽 : 內容如下 , 這是完整的音頻標簽數據 ;
0x000001bf : 08 00 00 07 00 00 00 00 0x000001c7 : 00 00 00 AF 00 12 10 56 0x000001cf : E5 00 00 00 00 123. AAC 音頻數據標簽
AAC 音頻數據標簽 : 該標簽中封裝實際的音頻采樣 , AAC 格式的 ;
0x00017494 : 08 00 00 13 00 00 85 00 0x0001749c : 00 00 00 AF 01 21 1A 93 0x000174a4 : 40 7D 6B 94 64 A0 9A 03 0x000174ac : EB 5C A3 25 05 C0 00 00 0x000174b4 : 00 1E三、 FLV 音頻數據標簽頭
音頻標簽數據標簽頭解析 : 前 11 個字節時標簽頭信息 ; 這 111111 個字節僅做參考 , 在 RTMP 中是不封裝這個標簽頭的 ;
0x000001bf : 08 00 00 07 00 00 00 00 0x000001c7 : 00 00 00① 標簽類型 ( tag type ) : 111 字節 , 索引區間 [0][0][0] , 08 代表音頻 , 09 代表視頻 , 12 代表腳本信息 , 這里是 08 , 代表音頻數據 ;
② 標簽數據大小 ( data size ) : 333 字節 , 索引區間 [1,3][1,3][1,3] , 除了包頭之外的數據大小 , 包頭一般是 111111 字節, 整個標簽大小是該 標簽數據大小 ( data size ) + 11 , 本標簽的數據大小是 777 字節, 總的數據大小是 181818 字節, 十六進制對應 0x121212
③ 時間戳 ( time stamp ) : 333 字節 , 索引區間 [4,6][4,6][4,6] , 表示從開始播放到當前時刻的播放時間 , 單位毫秒 , 也就是當前標簽的時間與第一個標簽時間的差值 ; 一般是 00 00 00 ;
④ 時間戳擴展位 ( time stamp ext ) : 111 字節 , 索引區間 [7][7][7] , 如果時間戳較大 , 333 位裝不下 , 擴展一位 ; 一般是 00 ;
⑤ 流編號 ( stream id ) : 333 字節 , 索引區間 [8,10][8,10][8,10] , 一般都是 00 00 00 ;
組裝 RTMP 包的時候 , 是不需要封裝標簽頭的 , 直接將 AAC 裸數據 , 也就是這 777 個字節封裝到 RTMP 包中 ;
四、 音頻解碼配置信息
1. AAC 音頻數據
AAC 音頻數據 : 分為兩類 , 解碼配置數據, 音頻采樣數據 ;
① AAC 格式音頻解碼配置信息 : 下面的 777 個字節時音頻解碼配置信息 ;
0x000001bf : 0x000001c7 : AF 00 12 10 56 0x000001cf : E5② AAC 音頻數據標簽數據采樣信息 :
0x0001749c : AF 01 21 1A 93 0x000174a4 : 40 7D 6B 94 64 A0 9A 03 0x000174ac : EB 5C A3 25 05 C02. 第 111 字節 AF 數據解析
第 111 字節 AF 數據解析 : 前 444 位表示音頻格式 , 之后的 222 位表示采樣率 , 之后的 111 位表示采樣長度 , 最后一位表示音頻類型 ;
① 0xAF 使用二進制表示為 0b?1010 1111? ;
② 音頻格式 : 444 位 [ 7 : 4 ] : 0b1010 = 10 , 值為 10 , 表示 AAC 格式 ;
③ 采樣率 : 222 位 [ 3 : 2 ] : 0b11 = 3 , 代表 44000 Hz 采樣率 , AAC 格式一般都是 44000 采樣率
| 0 | 5500Hz |
| 1 | 11000Hz |
| 2 | 22000Hz |
| 3 | 44000Hz |
④ 采樣位數 : 111 位 [ 1 ] : 0b1 = 1 , 代表采樣長度 16 位 ;
| 0 | 8 位 / 1 字節 |
| 1 | 16 位 / 2字節 |
⑤ 音頻通道 : 111 位 [ 0 ] : 0b1 = 1 , 代表立體聲 ;
| 0 | 單聲道 |
| 1 | 立體聲 |
該位一般也就是聲道不同 , 其它參數基本都是默認的值 , 立體聲 AF , 單聲道 AE ;
3. 音頻數據類型
音頻數據類型 :
① 音頻解碼配置信息 : 前兩位是 AF 00 , 指導 AAC 數據如何解碼 ;
② 音頻采樣信息 : 前兩位是 AF 01 , 實際的 AAC 音頻采樣數據 ;
總結
以上是生活随笔為你收集整理的【Android RTMP】音频数据采集编码 ( AAC 音频格式解析 | FLV 音频数据标签解析 | AAC 音频数据标签头 | 音频解码配置信息 )的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 【Android RTMP】音频数据采集
- 下一篇: 【Android RTMP】音频数据采集