github地址:https://github.com/vt-vl-lab/FGVC

1、项目介绍:

我们提出了一种新的基于流的视频补全算法。以前的流程完成方法通常无法保留运动边界的清晰度。我们的方法首先提取并完成运动边缘,然后使用它们来指导具有锐边的分段平滑流完成。现有方法在相邻帧之间的局部流连接之间传播颜色。然而,并不是视频中所有缺失的区域都可以通过这种方式到达,因为运动边界形成了不可逾越的障碍。我们的方法通过将非本地流连接引入到时间上遥远的帧来缓解这个问题,从而能够在运动边界上传播视频内容。我们在 DAVIS 数据集上验证了我们的方法。视觉和定量结果均表明,我们的方法优于最先进的算法。

2、环境安装

  • 平台:windows 10
  • 编译器:pycharm
  • cuda 11.3
  • cudnn 8.2.0.53
conda create -n FGVC python=3.8
conda activate FGVC
# conda install pytorch=1.6.0 torchvision=0.7.0 cudatoolkit=10.1 matplotlib scipy opencv -c pytorch
pip install torch-1.10.0+cu113-cp38-cp38-win_amd64.whl
pip install torchvision-0.11.0+cu113-cp38-cp38-win_amd64.whl
pip install imageio imageio-ffmpeg scikit-image imutils matplotlib scipy opencv

3、执行代码

1、下载模型

文章的百度链接有提供,放入目录,并解压

2、执行项目

cd tool
python video_completion.py  --mode object_removal --path ../data/tennis --path_mask ../data/tennis_mask --outroot ../result/tennis_removal --seamless

3、视场外推:

cd tool
python video_completion.py --mode video_extrapolation --path ../data/tennis --outroot ../result/tennis_extrapolation --H_scale 2 --W_scale 2 --seamless

您可以删除该--seamless标志以获得更快的处理时间。

4、效果展示

5、总结