一款智能交互式图像编辑工具:FramePainter,能够通过简单的操作,比如绘制、点击或拖拽轻松修改图像。与传统方法需要大量训练数据和额外的复杂模型来学习真实世界的动态变化不同,FramePainter 采用了一种全新的思路,将图像编辑任务看作是一种 “从图像生成视频”的过程,从而利用强大的视频生成技术,降低训练成本,同时保证编辑效果的自然流畅。

FramePainter 的核心技术包括一个轻量的控制编码器,用来理解用户的编辑需求,并通过一种改进的 “匹配注意力机制” 来处理图像中大范围的变化。这使得它在执行复杂编辑时,依然能够保持图像的细节和整体连贯性。

相比现有方法,FramePainter 不仅在各种编辑场景下表现更好,比如自动调整杯子的倒影,还展现了超强的泛化能力,甚至可以应对现实中不存在的情况,比如将小丑鱼变成鲨鱼形状。

论文地址:https://huggingface.co/papers/2501.08225