新手学习FFmpeg - 调用API调整视频局部速率

通过修改setpts代码实现调整视频部分的播放速率。完整代码可参考: https://andy-zhangtao.github.io/ffmpeg-examples/

在前面提到了PTS/DTS/Timestamp的关系，播放器在渲染视频时就是根据PTS来确定渲染和展示时间点的。根据这个原理，我们就可以通过调整帧的PTS时间来实现视频加速/降速播放。

加速/降速的原理

我们都知道，当帧速率(frame rate)大于24时，也就是1秒播放24帧时，我们的视觉就会看到流程的视频。在帧总量不变的情况下，如果将1/24变为1/48，那么在相同时间内多播放了一倍的帧，对于我们的视觉来说，就感觉播放速度加快了(因为本该20秒才能播放完的帧，在10秒内就播放完了，就相当加速了一倍)。同理，如果将1/24调整为1/12，就会看到慢动作。

FFmpeg提供了setpts滤镜可以实现调整pts的效果。典型的用法如下:

ffmpeg -i ~/tmp/trailer.mp4 -filter:v "setpts=0.5*PTS" output.mp4

0.5*PTS表示将帧的PTS值乘以0.5后作为新的PTS值。比如说: 帧A当前的PTS是4000(根据以前的知识，根据PTS和Time_base可以计算出渲染的时间点)。假设对应的时间点是: 00:00:05, 现在将PTS调整为0.5*PTS就变成了2000,那么对应的渲染时间点就变成了: 00:00:02.5。这样就实现了加速播放。

同理，如果是2*PTS就是降速播放。

局部调整

setpts只能实现全部加速或者全部减速。因为在其内部实现中，对每个帧都应用相同的计算规则，所以要么都调整要么都不调整。如果要实现局部调整，按照通用的解决方案，只能先切割视频，然后对单独视频进行加速/降速处理，然后再将视频连接起来。

但如果我们适当调整PTS值，也可以实现部分调整的效果。

问题分析

假设存在一段30s的视频，帧分布如下:

        +------------------------------------------------------------------+

        |       F1     F2     F3      F4      F5     F6      F7            |

        |       |--------------|--------------|--------------|--->         |

        |Time   0              10             20             30            |

        |PTS    0      100     200     250    300     350    400           |

        +------------------------------------------------------------------+

F1 - F7表示7个I帧(30秒包含的帧比这个多多了，这里是为了方便描述问题)。假设我们需要加速前15秒(后15秒播放速率不变)的视频，那么需要调整F1到F4(F4是第15秒时渲染的帧)如下:

        +------------------------------------------------------------------+

        |       F1  F2   F3   F4              F5     F6      F7            |

        |       |--------------|--------------|--------------|--->         |

        |Time   0              10             20             30            |

        |PTS    0      100     200     250    300     350    400           |

        +------------------------------------------------------------------+

这样调整看似没问题，但仔细分析会发现在10s-20s之间会出现天窗，这是因为这段时间内的PTS没有任何帧需要渲染，直到第20秒的时候，才会开始继续渲染F5帧。显然这样不满足实际应用需求。

而发生问题的关键在于将F2-F4调整PTS之后，也需要实时调整F5-F7的PTS。也就是正确的帧分布应该是下面的样子:

        +------------------------------------------------------------------+

        |       F1  F2   F3   F4       F5     F6      F7                   |

        |       |--------------|--------------|--------------|--->         |

        |Time   0              10             20             30            |

        |PTS    0      100     200     250    300     350    400           |

        +------------------------------------------------------------------+

F1-F4以一个速率播放，而F5-F7以另外一个速率播放。这样就实现了部分加速的效果。

代码实现

为了简化编码难度，我们以setpts的代码为基础进行修改。在setpts代码中修改pts的代码是下面部分:

d = av_expr_eval(setpts->expr, setpts->var_values, NULL);

frame->pts = D2TS(d);

d是根据规则(0.5*PTS)计算出来的pts值. 然后将新的PTS赋值给当前帧，而后继续后面的编码处理。

所以在这里，我们做一些判断，为了简化其它无关步骤，先假设只修改前5秒的视频，所以需要先判断当前帧是否需要修改:

(frame->pts * av_q2d(inlink->time_base)) < 5.0

通过pts*time_base可以计算出当前时间点，通过这个判断，可以得出是否需要修改此帧的PTS值。如果需要修改，那么仍然通过frame->pts = D2TS(d)来调整。而处理不需要修改的帧才是重点，

按照上图所示意的PTS，F5应该继承F4调整前的PTS值，所以需要在调整F4之前需要保存旧的PTS。所以是下面的伪代码:

    保存Old PTS

    if (当前时间 < 0.5) {

        计算新的PTS并赋值给当前帧

    }else{

        当前帧使用上个帧的PTS

    }

将伪代码实现后如下:

    oldPts = frame->pts;

    if ((frame->pts * av_q2d(inlink->time_base)) < 5.0) {

        frame->pts = D2TS(d);

        setpts->_pts = frame->pts;

    } else {

        frame->pts = setpts->_pts;

    }

    setpts->_pts++;

完整代码可参考 isetpts中的代码。