
SUPIR(Scaling-UP Image Restoration)是一个旨在开发适用于真实场景的高保真图像修复算法的项目。该项目的在线演示已在 suppixel.ai 上发布。
项目概述
SUPIR 利用生成先验和模型扩展的力量,结合多模态技术,实现智能且逼真的图像修复。通过收集包含 2000 万张高分辨率、高质量图像的数据集进行模型训练,每个图像都附有描述性文本注释,SUPIR 能够根据文本提示修复图像,拓宽了其应用范围和潜力。
主要功能
- 高质量图像修复:SUPIR 能够将低质量的图像恢复到接近原始状态的高质量版本,处理由于各种原因(如压缩、噪点、模糊等)导致的图像退化。
- 多类型图像修复:SUPIR 能有效修复多种类型的退化图像,包括风景、人脸、动、游戏画面、老电影和老照片,增强图像细节,恢复清晰度和真实感。
- 文本提示引导修复:SUPIR 允许用户通过文本提示来指导图像恢复的过程,指定恢复的特定方面,例如修复图像中的某个模糊物体、改变物体的材质纹理,或根据高级语义调整图像的恢复效果。
- 负质量提示:SUPIR 使用负质量提示来提高图像的感知质量,通过告诉模型哪些图像特征是不期望的(如“油画效果、卡通化、模糊、脏乱、低质量”等),模型可在恢复过程中避免这些特征,从而提升图像的整体质量。
工作原理
SUPIR 使用 StableDiffusion-XL(SDXL)作为其生成性先验,这是一个包含 26 亿参数的大型预训练图像生成模型。通过设计并训练一个具有超过 6 亿参数的适配器,SUPIR 能够识别低质量图像中的内容,并在像素级别上精细控制生成过程。此外,SUPIR 引入了负质量提示,帮助模型理解不希望出现的图像特征,并开发了一种修复引导采样方法,在扩散过程中有选择性地引导预测结果接近低质量图像,以保持恢复的一致性。
应用场景
- 老照片修复:修复老化、损坏或褪色的老照片,恢复其原始的色彩和细节。
- 模糊图像增强:提高因手抖、对焦错误或运动模糊导致的照片的清晰度。
- 噪点去除:有效识别并去除在高 ISO 或低光照条件下拍摄的照片中的噪点,同时保留图像的重要细节。
- 色彩校正和增强:识别和修正色彩失真问题,如过度饱和或色彩偏差,使图像的色彩更加真实和生动。