APISR:受动漫制作启发的现实世界动漫超分辨率
虽然现实世界的动漫超分辨率(SR)在SR社区越来越受到关注,但现有的方法仍然采用真实感领域的技术。分析了动漫制作工作,并重新思考了如何为了现实世界的动漫SR而使用它的特点。首先,由于手绘框架的重复使用,视频网络和数据集对于动漫SR来说是不必要的。相反,提出了一种动漫图像收集管道,从视频源中选择压缩最少、信息量最大的帧。基于这个流水线,引入了面向动画制作的图像(API)数据集。此外,还发现了两个动漫特有的挑战,即扭曲和模糊的手绘线条以及不需要的颜色伪影。通过在图像退化模型中引入面向预测的压缩模块和具有增强手绘线的伪真值准备来解决第一个问题。此外,引入了平衡的双感知损失,结合了动画和照片级真实感的高级特征,以减轻不必要的颜色伪影并提高视觉清晰度。通过在公共基准上进行广泛的实验来评估新方法,结果表明新方法优于最先进的动漫数据集训练方法。
提出的新方法框架概述,如图3-23所示。
图3-23 提出的新方法框架概述
在图3-23中,(a)在退化模型中提出了一个面向预测的压缩模块,用于模拟单个图像输入的多功能压缩退化。改进的shufffed方法调整大小模块被随机放置,以增强退化模型的表示。(b)真值图像通过改进的手绘线条进行增强,以促进在训练中生成具有锐化线条边缘细节的图像。(c)所提出的平衡双感知损失避免了GAN网络训练中不必要的颜色伪影AVC RealLQ的4倍缩放的定性比较,放大以获得最佳视图,如图3-24所示。