mux复用 demux解复用

时间：2023-03-09 15:06:34
mux复用 demux解复用
保存音频包：
直接输出解复用之后的的音频数据码流。只需要在每次调用av_read_frame()之后将得到的音频的AVPacket存为本地文件即可。
但在分离AAC码流的时候，直接存储AVPacket后的文件可能是不能播放的。
分离H.264码流的时候，直接存储AVPacket后的文件可能是不能播放的。
复用格式是FLV，MP4等，直接存储后的文件是不能播放的。
因为FLV，MP4这些属于“特殊容器”。经过仔细对比后发现，调用av_read_frame()后得到的AVPacket里面的内容是AAC纯数据，就是那种不包含ADTS文件头的AAC数据。（存储AAC数据的AVPacket的data字段中的数据是不包含7字节ADTS文件头的数据）因此如果想要得到可以播放的AAC文件，需要在每个AVPacket前面加上7字节ADTS文件头。
demux分离时，h264需要h264_mp4toannexb，音频aac好像没有用到
mux时，h264也需要h264_mp4toannexb，aac用到aac_adtstoasc
mux时对于某些封装格式（例如MP4/FLV/MKV等）中的AAC，需要用到名称为“aac_adtstoasc”的bitstream filter。
============================================================
保存视频包：
分离某些封装格式（例如MP4/FLV/MKV等）中的H.264的时候，需要首先写入SPS和PPS
例如flv格式时，从av_read_frame中读出的包也是不包含video tag header的裸视频数据。
FLV，MP4这些“特殊容器”，需要经过以下2步处理才能得到可播放的H.264码流：
1.第一次存储AVPacket之前需要在前面加上H.264的SPS和PPS。这些信息存储在AVCodecContext的extradata里面。
并且需要使用FFMPEG中的名为"h264_mp4toannexb"的bitstream filter 进行处理。
然后将处理后的extradata存入文件
具体代码如下：
代码片段A
  1. unsigned char *dummy=NULL;   //输入的指针
  2. int dummy_len;
  3. AVBitStreamFilterContext* bsfc =  av_bitstream_filter_init("h264_mp4toannexb");
  4. av_bitstream_filter_filter(bsfc, pCodecCtx, NULL, &dummy, &dummy_len, NULL, 0, 0);
  5. fwrite(pCodecCtx->extradata,pCodecCtx-->extradata_size,1,fp);
  6. av_bitstream_filter_close(bsfc);
  7. free(dummy);
2.通过查看FFMPEG源代码发现，AVPacket中的数据起始处没有分隔符(0x00000001), 也不是0x65、0x67、0x68、0x41等字节，所以可以肯定AVPacket不是标准的nalu。其实，AVPacket前4个字表示的是nalu的长度，从第5个字节开始才是nalu的数据。所以直接将AVPacket前4个字节替换为0x00000001即可得到标准的nalu数据。
具体代码如下：
代码片段B
  1. char nal_start[]={0,0,0,1};
  2. fwrite(nal_start,4,1,fp);
  3. fwrite(pkt->data+4,pkt->size-4,1,fp);
  4. fclose(fp);
或
  1. char nal_start[]={0,0,0,1};
  2. memcpy(packet->data,nal_start,4);
经过以上两步处理之后，我们就得到了可以正常播放的H.264码流
====================================================
其它处理方式：
（1）使用bitstream filter处理每个AVPacket（简单）
把每个AVPacket中的数据（data字段）经过bitstream filter“过滤”一遍。关键函数是av_bitstream_filter_filter()。示例代码如下。
  1. AVBitStreamFilterContext* h264bsfc =  av_bitstream_filter_init("h264_mp4toannexb");
  2. while(av_read_frame(ifmt_ctx, &pkt)>=0){
  3. if(pkt.stream_index==videoindex){
  4. av_bitstream_filter_filter(h264bsfc, ifmt_ctx->streams[videoindex]->codec, NULL, &pkt.data, &pkt.size, pkt.data, pkt.size, 0);
  5. fwrite(pkt.data,1,pkt.size,fp_video);
  6. //...
  7. }
  8. av_free_packet(&pkt);
  9. }
  10. av_bitstream_filter_close(h264bsfc);
代码中，把av_bitstream_filter_filter()的输入数据和输出数据（分别对应第4,5,6,7个参数）都设置成AVPacket的data字段就可以了。
经过上述代码处理之后，AVPacket中的数据有如下变化：
*每个AVPacket的data添加了H.264的NALU的起始码{0,0,0,1}
*每个IDR帧数据前面添加了SPS和PPS
（2）手工添加SPS，PPS（稍微复杂）
将AVCodecContext的extradata数据经过bitstream filter处理之后得到SPS、PPS，拷贝至每个IDR帧之前。“代码片段A”示例了写入SPS、PPS的过程。
然后修改AVPacket的data。把前4个字节改为起始码。参见：代码片段B
参考：
视音频分离器（demuxer）:ts->h264+aac 利用av_interleaved_write_frame
视音频复用器（muxer）：h264+aac->mkv，用到av_interleaved_write_frame

相关文章