【Android RTMP】音频数据采集编码 ( 音频数据采集编码 | AAC 高级音频编码 | FAAC 编码器 | Ubuntu 交叉编译 FAAC 编码器 )
文章目錄
- 安卓直播推流專欄博客總結
- 一、 音頻數據采集、編碼
- 二、 AAC 高級音頻編碼
- 三、 FAAC 編碼器
- 四、 Ubuntu 18.04.4 交叉編譯 FAAC 編碼器
安卓直播推流專欄博客總結
Android RTMP 直播推流技術專欄 :
0 . 資源和源碼地址 :
- 資源下載地址 : 資源下載地址 , 服務器搭建 , x264 , faac , RTMPDump , 源碼及交叉編譯庫 , 本專欄 Android 直播推流源碼 ;
- GitHub 源碼地址 : han1202012 / RTMP_Pusher
1. 搭建 RTMP 服務器 : 下面的博客中講解了如何在 VMWare 虛擬機中搭建 RTMP 直播推流服務器 ;
- 【Android RTMP】RTMP 直播推流服務器搭建 ( Ubuntu 18.04.4 虛擬機 )
2. 準備視頻編碼的 x264 編碼器開源庫 , 和 RTMP 數據包封裝開源庫 :
-
【Android RTMP】RTMPDumb 源碼導入 Android Studio ( 交叉編譯 | 配置 CMakeList.txt 構建腳本 )
-
【Android RTMP】Android Studio 集成 x264 開源庫 ( Ubuntu 交叉編譯 | Android Studio 導入函數庫 )
3. 講解 RTMP 數據包封裝格式 :
-
【Android RTMP】RTMP 數據格式 ( FLV 視頻格式分析 | 文件頭 Header 分析 | 標簽 Tag 分析 | 視頻標簽 Tag 數據分析 )
-
【Android RTMP】RTMP 數據格式 ( FLV 視頻格式分析 | AVC 序列頭格式解析 )
4. 圖像數據采集 : 從 Camera 攝像頭中采集 NV21 格式的圖像數據 , 并預覽該數據 ;
-
【Android RTMP】Android Camera 視頻數據采集預覽 ( 視頻采集相關概念 | 攝像頭預覽參數設置 | 攝像頭預覽數據回調接口 )
-
【Android RTMP】Android Camera 視頻數據采集預覽 ( NV21 圖像格式 | I420 圖像格式 | NV21 與 I420 格式對比 | NV21 轉 I420 算法 )
-
【Android RTMP】Android Camera 視頻數據采集預覽 ( 圖像傳感器方向設置 | Camera 使用流程 | 動態權限申請 )
5. NV21 格式的圖像數據編碼成 H.264 格式的視頻數據 :
-
【Android RTMP】x264 編碼器初始化及設置 ( 獲取 x264 編碼參數 | 編碼規格 | 碼率 | 幀率 | B幀個數 | 關鍵幀間隔 | 關鍵幀解碼數據 SPS PPS )
-
【Android RTMP】x264 圖像數據編碼 ( Camera 圖像數據采集 | NV21 圖像數據傳到 Native 處理 | JNI 傳輸字節數組 | 局部引用變量處理 | 線程互斥 )
-
【Android RTMP】x264 圖像數據編碼 ( NV21 格式中的 YUV 數據排列 | Y 灰度數據拷貝 | U 色彩值數據拷貝 | V 飽和度數據拷貝 | 圖像編碼操作 )
6. 將 H.264 格式的視頻數據封裝到 RTMP 數據包中 :
-
【Android RTMP】RTMPDump 封裝 RTMPPacket 數據包 ( 封裝 SPS / PPS 數據包 )
-
【Android RTMP】RTMPDump 封裝 RTMPPacket 數據包 ( 關鍵幀數據格式 | 非關鍵幀數據格式 | x264 編碼后的數據處理 | 封裝 H.264 視頻數據幀 )
-
【Android RTMP】RTMPDump 推流過程 ( 獨立線程推流 | 創建推流器 | 初始化操作 | 設置推流地址 | 啟用寫出 | 連接 RTMP 服務器 | 發送 RTMP 數據包 )
7. 階段總結 : 阿里云服務器中搭建 RTMP 服務器 , 并使用電腦軟件推流和觀看直播內容 ;
-
【Android RTMP】RTMP 直播推流 ( 阿里云服務器購買 | 遠程服務器控制 | 搭建 RTMP 服務器 | 服務器配置 | 推流軟件配置 | 直播軟件配置 | 推流直播效果展示 )
-
【Android RTMP】RTMP 直播推流階段總結 ( 服務器端搭建 | Android 手機端編碼推流 | 電腦端觀看直播 | 服務器狀態查看 )
8. 處理 Camera 圖像傳感器導致的 NV21 格式圖像旋轉問題 :
-
【Android RTMP】NV21 圖像旋轉處理 ( 問題描述 | 圖像順時針旋轉 90 度方案 | YUV 圖像旋轉細節 | 手機屏幕旋轉方向 )
-
【Android RTMP】NV21 圖像旋轉處理 ( 圖像旋轉算法 | 后置攝像頭順時針旋轉 90 度 | 前置攝像頭順時針旋轉 90 度 )
9. 下面這篇博客比較重要 , 里面有一個快速搭建 RTMP 服務器的腳本 , 強烈建議使用 ;
- 【Android RTMP】NV21 圖像旋轉處理 ( 快速搭建 RTMP 服務器 Shell 腳本 | 創建 RTMP 服務器鏡像 | 瀏覽器觀看直播 | 前置 / 后置攝像頭圖像旋轉效果展示 )
10. 編碼 AAC 音頻數據的開源庫 FAAC 交叉編譯與 Android Studio 環境搭建 :
-
【Android RTMP】音頻數據采集編碼 ( 音頻數據采集編碼 | AAC 高級音頻編碼 | FAAC 編碼器 | Ubuntu 交叉編譯 FAAC 編碼器 )
-
【Android RTMP】音頻數據采集編碼 ( FAAC 頭文件與靜態庫拷貝到 AS | CMakeList.txt 配置 FAAC | AudioRecord 音頻采樣 PCM 格式 )
11. 解析 AAC 音頻格式 :
- 【Android RTMP】音頻數據采集編碼 ( AAC 音頻格式解析 | FLV 音頻數據標簽解析 | AAC 音頻數據標簽頭 | 音頻解碼配置信息 )
12 . 將麥克風采集的 PCM 音頻采樣編碼成 AAC 格式音頻 , 并封裝到 RTMP 包中 , 推流到客戶端 :
-
【Android RTMP】音頻數據采集編碼 ( FAAC 音頻編碼參數設置 | FAAC 編碼器創建 | 獲取編碼器參數 | 設置 AAC 編碼規格 | 設置編碼器輸入輸出參數 )
-
【Android RTMP】音頻數據采集編碼 ( FAAC 編碼器編碼 AAC 音頻解碼信息 | 封裝 RTMP 音頻數據頭 | 設置 AAC 音頻數據類型 | 封裝 RTMP 數據包 )
-
【Android RTMP】音頻數據采集編碼 ( FAAC 編碼器編碼 AAC 音頻采樣數據 | 封裝 RTMP 音頻數據頭 | 設置 AAC 音頻數據類型 | 封裝 RTMP 數據包 )
Android 直播推流流程 : 手機采集視頻 / 音頻數據 , 視頻數據使用 H.264 編碼 , 音頻數據使用 AAC 編碼 , 最后將音視頻數據都打包到 RTMP 數據包中 , 使用 RTMP 協議上傳到 RTMP 服務器中 ;
視頻推流 : 之前的一系列博客中完成手機端采集視頻數據操作 , 并將視頻數據傳遞給 JNI , 在 NDK 中使用 x264 將圖像轉為 H.264 格式的視頻 , 最后將 H.264 格式的視頻打包到 RTMP 數據包中 , 上傳到 RTMP 服務器中 ;
音頻推流 : 開始進行音頻直播推流操作 , 先采集音頻 , 將音頻編碼為 AAC 格式 , 將編碼后的音頻打包成 RTMP 包 , 然后推流到服務器中 ;
一、 音頻數據采集、編碼
1 . 音頻數據采集 : Android 中有兩種方式可以采集音頻數據 ;
① Java 層使用 AudioRecord ;
② Native 層使用 OpenSL ES ;
2 . 音頻數據編碼 :
① 視頻數據回顧 : 手機使用 Camera 采集 NV21 格式的圖像數據 , x264 編碼庫將圖像數據編碼成 H.264 格式的視頻數據 ;
② 音頻數據編碼 : 手機端采集 PCM 音頻采樣數據 , FAAC 編碼庫將 PCM 采樣編碼成 AAC 格式的音頻數據 ;
二、 AAC 高級音頻編碼
1 . 高級音頻編碼 ( Advanced Audio Coding , AAC ) :
① MPEG-2 AAC 編碼 : 初期 AAC 編碼時基于 MPEG-2 有損數字音頻壓縮編碼標準 , 稱為 MPEG-2 AAC 編碼 ;
② MPEG-4 AAC 編碼 : 后期 AAC 編碼又基于 MPEG-4 標準基礎上添加了 PNS 技術 , 稱為 MPEG-4 AAC 編碼 ;
③ 與 MP3 編碼對比 : AAC 壓縮編碼音質要高于 MP3 格式 ;
一般情況下 , 多媒體壓縮格式 , 視頻采用 H.264 格式壓縮編碼 , 音頻采用 AAC 格式壓縮編碼 ;
三、 FAAC 編碼器
1 . FAAC 編碼器 : 在 Android 平臺推薦使用 FAAC 編碼器 , 免費 ; FAAC ( Freeware Advanced Audio Coder ) ;
2 . FAAC 編碼器下載 :
① 官方網站 : 可以在 FAAC 官網 下載 FAAC 開源庫 ;
② 下載 FAAC 編碼庫 : 點擊此處 , 進入下載頁面
上述界面中 FAAD2 是解碼庫 , FAAC 是編碼庫 ;
這里下載 FAAC Source code 中的 TAR.GZ 文件 ;
四、 Ubuntu 18.04.4 交叉編譯 FAAC 編碼器
1 . 將下載的 FAAC 編碼器源碼拷貝到 Ubuntu 的 /root/rtmp 目錄下 ;
2 . 解壓源碼 :
$ tar xvf faac-1.29.9.2.tar.gz3 . 查看源碼路徑 : 該源碼中也有 configure 腳本 , 用于配置生成 Makefile 文件 ;
root@octopus:~/rtmp# cd faac-1.29.9.2 root@octopus:~/rtmp/faac-1.29.9.2# ls aclocal.m4 ChangeLog compile config.h.in configure COPYING docs include install-sh ltmain.sh Makefile.in NEWS TODO AUTHORS common config.guess config.sub configure.ac depcomp frontend INSTALL libfaac Makefile.am missing README4 . 查看 configure 幫助信息 : 執行 ./configure --help 命令 , 可以查看編譯配置信息 ;
$ ./configure --help# 默認情況下, 編譯 FAAC 時, 會同時編譯靜態庫和動態庫, Android 交叉編譯推薦只編譯靜態庫 --enable-shared[=PKGS] build shared libraries [default=yes] --enable-static[=PKGS] build static libraries [default=yes]# Android 中使用動態庫時, 必須指定 pic, 表示編碼出與位置無關的代碼段 --with-pic[=PKGS] try to use only PIC/non-PIC objects [default=useboth]5 . 交叉編譯工具鏈 :
① 其它開源庫的慣例 : 在 FFMPEG 和 x264 交叉編譯時 , 都指定了 --cross-prefix 交叉編譯工具鏈前綴 ;
② FAAC 中指定交叉編譯工具鏈的方法 : 在 FAAC 中沒有提供該配置 , 那就只能通過環境變量設置 , 將交叉編譯工具鏈的 gcc 設置成環境變量 ;
③ 解析說明 FAAC 中的環境變量 :
Some influential environment variables:# C 編碼器命令行, 即 gcc, 這里可以直接指定交叉編譯工具鏈的 gccCC C compiler command# 指定傳遞給 gcc 的參數CFLAGS C compiler flags# 傳遞給鏈接器的參數LDFLAGS linker flags, e.g. -L<lib dir> if you have libraries in anonstandard directory <lib dir># 傳遞給鏈接器的庫LIBS libraries to pass to the linker, e.g. -l<library>CPPFLAGS (Objective) C/C++ preprocessor flags, e.g. -I<include dir> ifyou have headers in a nonstandard directory <include dir># C++ 編譯器CXX C++ compiler command# C++ 編譯器參數CXXFLAGS C++ compiler flagsLT_SYS_LIBRARY_PATHUser-defined run-time library search path.CPP C preprocessorCXXCPP C++ preprocessor6 . 交叉編譯腳本 : 寫一個 Shell 腳本 , 輔助交叉編譯 FAAC 靜態庫 ;
參考之前的 FFMPEG 和 x264 的 Shell 編譯腳本 ;
版本注意事項 : 基于 android-17 版本進行編譯, Android Studio 開發時可以將最小兼容版本配置到 17 ;
#!/bin/bash# NDK 根目錄 NDK_ROOT=/root/NDK/android-ndk-r17c# TOOLCHAIN 變量指向 gcc g++ 等交叉編譯工具所在的目錄 TOOLCHAIN=$NDK_ROOT/toolchains/arm-linux-androideabi-4.9/prebuilt/linux-x86_64 # 具體的交叉編譯工具鏈前綴 CROSS_COMPILE=$TOOLCHAIN/bin/arm-linux-androideabi# gcc 編譯器參數, 這里指定使用 android-17 版本的庫進行編譯 FLAGS="-isysroot $NDK_ROOT/sysroot -isystem $NDK_ROOT/sysroot/usr/include/arm-linux-androideabi -D__ANDROID_API__=17 -g -DANDROID -ffunction-sections -funwind-tables -fstack-protector-strong -no-canonical-prefixes -march=armv7-a -mfloat-abi=softfp -mfpu=vfpv3-d16 -mthumb -Wa,--noexecstack -Wformat -Werror=format-security -std=c++11 -O0 -fPIC"# 編譯結果輸出路徑 # 注意這里不能使用 ./android/armeabi-v7a, 報錯 error: expected an absolute directory name # 改成絕對路徑, 或者使用下面的方法 PREFIX=`pwd`/android/armeabi-v7a# FAAC 中沒有指定交叉編譯工具鏈的選項, 只能在此處通過環境變量的方式進行指定 # 這里指定使用 android-17 版本的庫進行編譯 export CC="$CROSS_COMPILE-gcc --sysroot=$NDK_ROOT/platforms/android-17/arch-arm" # 指定 gcc 編譯器的參數 export CFLAGS="$FLAGS"# 配置 Makefile 生成規則 ./configure \ --prefix=$PREFIX \ --host=arm-linux \ --with-pic \ --enable-shared=no # 清除之前的編譯內容 make clean# 開啟新的 FFMPEG 編譯安裝過程 make install7 . 執行編譯腳本 :
# 賦予 build.sh 腳本 執行權限 $ chmod -R 777 build.sh# 執行編譯腳本 $ ./build.sh8 . 編譯完畢 :
root@octopus:~/rtmp/faac-1.29.9.2# ls aclocal.m4 build.sh compile config.h.in config.sub COPYING frontend install-sh ltmain.sh Makefile.in README android ChangeLog config.guess config.log configure depcomp include libfaac Makefile missing stamp-h1 AUTHORS common config.h config.status configure.ac docs INSTALL libtool Makefile.am NEWS TODO root@octopus:~/rtmp/faac-1.29.9.2# cd android/ root@octopus:~/rtmp/faac-1.29.9.2/android# tree . └── armeabi-v7a├── bin│ └── faac├── include│ ├── faaccfg.h│ └── faac.h├── lib│ ├── libfaac.a│ └── libfaac.la└── share└── man└── man1└── faac.17 directories, 6 files root@octopus:~/rtmp/faac-1.29.9.2/android#總結
以上是生活随笔為你收集整理的【Android RTMP】音频数据采集编码 ( 音频数据采集编码 | AAC 高级音频编码 | FAAC 编码器 | Ubuntu 交叉编译 FAAC 编码器 )的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 【Android RTMP】NV21 图
- 下一篇: 【Android RTMP】音频数据采集