ReconX 视频扩散模型:只需两三张照片就能构建完整的 3D 场景

清华与港科大联合推出ReconX视频扩散模型,仅凭2–3张照片即可重建高质量3D场景。它通过视频扩散模型“想象”补全缺失视角,再结合点云生成与多视角重建,显著提升泛化性与鲁棒性,对VR、自动驾驶等场景具有实用价值。

发布于2024年11月16日 06:50
编辑零重力瓦力
评论0
阅读59

如果你只有一个房间的两三张照片,能不能通过它们重建出整个房间的3D模型?传统方法在这种情况下往往会出现严重的失真和模糊。对此,清华大学和香港科技大学的研究人员提出了一种突破性的解决方案:ReconX。

ReconX 的核心思路非常巧妙,既然我们缺少足够多的视角来重建3D场景,那何不利用 AI 通过 "想象" 来补充缺失的视角呢?具体来说,ReconX 采用了以下的步骤:

  1. 首先,从少量输入照片中提取 3D 结构信息,构建一个初步的点云模型。
  2. 然后,将这个3D结构信息输入到一个视频扩散模型中。这个模型就像一位 "创意画家",能基于已有视角合理地生成更多视角下的画面。
  3. 最后,利用生成的多视角画面,通过一个可靠的3D重建算法,构建出完整且细节丰富的3D场景。

通过 ReconX 重建的 3D 场景,质量更好,更加真实自然。它的泛化能力也更强,即使遇到训练数据中没见过的场景也能应对自如。对输入视角的要求也更低,即使相机位置相距较远也能正常工作。

这项技术为虚拟现实、自动驾驶等领域提供了新的解决方案。未来,或许我们只需用手机拍几张照片,就能轻松重建出完整的3D场景。

论文地址

相关文章

如何用 AI 零门槛复刻月入万刀的无人出镜频道
AI 教程知识
2026年7月11日
0 条评论
小创

如何用 AI 零门槛复刻月入万刀的无人出镜频道

AI 博主 ADIL 演示利用 Claude Fable 5 配合 Higgsfield MCP 插件,在 20 分钟内全自动复刻高收益 YouTube 频道。该工作流集成图像、视频及语音生成引擎,可自动分析爆款结构、撰写脚本并一键产出含配音的纪录片视频及封面标签。平台并不排斥优质 AI 内容,此端到端自动化流程将创作耗时从数天缩至十几分钟,大幅降低不露脸创作门槛。未来核心竞争力在于利用工具实现规模化生产与持续运营的能力。

#Higgsfield#视频生成
阅读全文
Google 为何要开发 Gemma 4 模型
AI 产品工具
2026年7月11日
0 条评论
小创

Google 为何要开发 Gemma 4 模型

谷歌推出开源模型 Gemma 4,旨在解决网络受限地区无法使用前沿 AI 的问题。该模型追求内存占用下的智能最大化,首次具备多模态与智能体能力,支持在无网移动端高效运行复杂任务。目前已在乌干达离线医疗系统及秘鲁原住民语言保护等场景中落地应用。通过将大模型蒸馏至终端设备,Gemma 4 摆脱了对云端算力的依赖,推动去中心化开源生态发展,赋能各社区按需构建专属系统。

#开源模型#Google#Gemma
阅读全文
微软 Mirage:让世界模型学会“过目不忘”,速度快 10 倍、显存省 55 倍
AI 产品工具
2026年6月21日
0 条评论
零重力瓦力

微软 Mirage:让世界模型学会“过目不忘”,速度快 10 倍、显存省 55 倍

微软研究院联合多所高校发布 Mirage 模型,通过在扩散模型隐空间直接存储三维记忆,解决了 AI 视频生成中场景一致性差及计算昂贵的问题。该方案摒弃传统 RGB 点云渲染流程,使生成速度提升最高 10.57 倍,显存占用降低 55 倍,且长视频边际成本几乎不增。测试显示其三维与光度一致性优于现有方案,虽暂不支持动态物体记忆,但已开源并适用于机器人仿真等静态场景任务。

#世界模型
阅读全文
互动讨论

评论区

围绕《ReconX 视频扩散模型:只需两三张照片就能构建完整的 3D 场景》展开交流,未登录用户可浏览评论,登录后可参与讨论。

评论数
0
登录后参与评论
支持发表观点与回复一级评论,互动后将同步到消息中心。
登录后评论
暂无评论,欢迎成为第一个参与讨论的人。