首页 > 代码库 > ffmpeg-3.14居然也有这么坑的bug

ffmpeg-3.14居然也有这么坑的bug

近日自己用下载的ffmpeg-3.14代码自己编译来用,没想到会碰到这么一下低级坑。
我用自己的编译出来的库总是会在用rtsp上传视频时崩掉,起初我还以为自己编译的x264出问题,因为我是绕开使用pkg-config,手动修改了configure文件。但是不关事,我重新解压代码编译不带其它三方编码库的版本,也发生同样的结果。
结果是我用这份代码包编译出来的库,只能用rtsp作为输入却不能用作输出。没其它更加好的办法,只好看代码+gdb调试之。
过程不多说了,时间时间还是时间,需要很多时间。
程序在和流服务器完成了OPTION,ANNOUNCE,SETUP,SETUP,RECORD的rtsp常规五步后,一个UDP包也未曾发出崩掉,死在rtpenc.c里

rtp_write_packet
Program received signal SIGSEGV, Segmentation fault.
rtp_write_packet (s1=0x2ca28c0, pkt=0x22d548) at libavformat/rtpenc.c:524
524     rtcp_bytes = ((s->octet_count - s->last_octet_count) * RTCP_TX_RATIO_NUM) /

原因是rtpmuxer的context(AVFormatContext,category为MUXER,outputFormat的classname是"rtp output"),它的priv_data为0, 这个priv_data原本应该是一个RTPMuxContext,但却是0。这就好办啦,原以为只要在代码中搜索到这个RTPMuxContext的构建之处就开展侦测。但这是纯c项目,而且还是个priv_data,近似union多种解释。
没办法只好由这个priv_data往上一点一点追索整个关系链。锁定十几个角色(对象)和几十处操作。

技术分享
过程省略。
原来以为是没有对priv_data进行构建,最后侦测到priv_data在某处进行构建,却在另一处被改成了0。原来如此,但不对,这项目的代码被全世界的人使用过,可能会出现这么滑稽低级的问题吗。
但真的出现了。

技术分享

技术分享插入说明,一般InputFormat对应是demuxer,outputFormat对应是muxer。一个解码为主,另一个编码为主。


RTSPStream::transport_priv在muxer分支中是一个AVFormatContext,这个context的priv_data就是RTPMuxContext的指针。
RTSPStream::transport_priv在demuxer分支是一个RTPDEMUXContext,而这个context的ssrc位置正是上面行context的priv_data。
就这样弄好的muxer context被作为demuxer而惨被乱写。

 

找来较前的版本2.7.7进行比较。位置在libavformat/rtsp.c,方法int ff_rtsp_open_transport_ctx(AVFormatContext *s, RTSPStream *rtsp_st):

int ff_rtsp_open_transport_ctx(AVFormatContext *s, RTSPStream *rtsp_st)
{
    RTSPState *rt = s->priv_data;
    AVStream *st = NULL;
    int reordering_queue_size = rt->reordering_queue_size;
    if (reordering_queue_size < 0) {
        if (rt->lower_transport == RTSP_LOWER_TRANSPORT_TCP || !s->max_delay)
            reordering_queue_size = 0;
        else
            reordering_queue_size = RTP_REORDER_QUEUE_DEFAULT_SIZE;
    }

    /* open the RTP context */
    if (rtsp_st->stream_index >= 0)
        st = s->streams[rtsp_st->stream_index];
    if (!st)
        s->ctx_flags |= AVFMTCTX_NOHEADER;

    if (CONFIG_RTSP_MUXER && s->oformat && st) {
        // !!!!!!!!!!
        // 注意这里rtsp_st->transport_priv是作为AVFormatContext,进行Mux操作
        // 伏笔 1
        //
        int ret = ff_rtp_chain_mux_open((AVFormatContext **)&rtsp_st->transport_priv,
                                        s, st, rtsp_st->rtp_handle,
                                        RTSP_TCP_MAX_PACKET_SIZE,
                                        rtsp_st->stream_index);
        /* Ownership of rtp_handle is passed to the rtp mux context */
        rtsp_st->rtp_handle = NULL;
        if (ret < 0)
            return ret;
        st->time_base = ((AVFormatContext*)rtsp_st->transport_priv)->streams[0]->time_base;
        // !!!!!!!!!!!!
        // 即使已经作为Mux打开,也不返回,依旧顺流而下。
        // 伏笔 2
        //
    } else if (rt->transport == RTSP_TRANSPORT_RAW) {
        return 0; // Don‘t need to open any parser here
    } else if (CONFIG_RTPDEC && rt->transport == RTSP_TRANSPORT_RDT && st)
        rtsp_st->transport_priv = ff_rdt_parse_open(s, st->index,
                                            rtsp_st->dynamic_protocol_context,
                                            rtsp_st->dynamic_handler);
    else if (CONFIG_RTPDEC)
        rtsp_st->transport_priv = ff_rtp_parse_open(s, st,
                                         rtsp_st->sdp_payload_type,
                                         reordering_queue_size);

    if (!rtsp_st->transport_priv) {
         return AVERROR(ENOMEM);
    } else if (CONFIG_RTPDEC && rt->transport == RTSP_TRANSPORT_RTP) {
        // !!!!!!!!!!!!!!!
        // 旧版本被打开过的Mux随控制流自然流入这里没有问题,因为没有作其它操作
        //
        // 但是 !!!!!!!!!
        // 3.14版本 !!!!
        // 加入下面两句,BUG就来了
        //
        // RTPDemuxContext* rtpctx = rtsp_st->transport_priv;
        // rtpctx->ssrc = http://www.mamicode.com/rtsp_st->ssrc;       >

3.14版本加入了两行代码引入了BUG。

解决方法也就是脚痛医脚手痛医手,在3.14版本增加的两行代码前加oformat判断,一般地outputFormat为Muxer而inputFormat为Demuxer。

ffmpeg-3.14居然也有这么坑的bug