仅需一部摄像机即可实现基于AI的3D重建

时间:2024-03-30 20:44:31

仅需一部摄像机即可实现基于AI的3D重建

Magic Leap研究人员提出了一种基于AI的方法,只需一个RGB相机即可捕获3D场景。

仅需一部摄像机即可实现基于AI的3D重建

该方法称为Atlas,主要有两步AI过程,该过程从平面2D图像生成3D环,无需另使用立体摄像机或特殊的雷达系统对环境进行先前的3D分析。研究人员认为,基于AI的2D图像的重建比基于3D数据的方法更有效。

仅需一部摄像机即可实现基于AI的3D重建

在左侧,你可以看到完整的3D模型,在图集重建的中间,正3D模型是使用MVDepthNet创建的。关于MVDepthNet 论文细节关注公众号AIRX社区【后台回复MVDepthNet即可下载】

仅需一部摄像机即可实现基于AI的3D重建

为图像分析而优化的神经网络将各个2D图像彼此独立地分割,并基于相机数据创建简单的3D模型。AI重建:比3D扫描仪更好?神经网络可以完善和补充3D模型,这使研究人员可以更好的完整创建场景的3D模型,甚至可以创建一些在扫描过程中隐藏的区域。

 

仅需一部摄像机即可实现基于AI的3D重建

 

关于ScanNet:ScanNet是一个RGB-D视频数据集,在超过1500次扫描中可包含250万次浏览,带有3D相机姿态、表面重构和实例级语义分割的注释。为了收集这些数据,设计了一个易于使用和可扩展的RGB-D捕获系统,包括自动表面重建和众包语义标注。使用这些数据有助于在一些3D场景理解任务中实现最先进的性能,包括3D对象分类和CAD模型检索。链接地址:http://www.scan-net.org/

 

仅需一部摄像机即可实现基于AI的3D重建

 

仅需一部摄像机即可实现基于AI的3D重建

根据研究人员的说法,他们的AI支持的2D-3D重建方法击败了定量和定性的常见且更复杂的方法,后者依赖于基于硬件的环境3D分析。

 

仅需一部摄像机即可实现基于AI的3D重建

但是,需要快速的PC硬件:在Nvidia Titan RTX上,重建当前以每秒约14帧的速度运行。因此,3D重建的应用(例如AR眼镜)可以实时地以3D方式测量房间并在其中精确放置数字对象。

相关论文地址:

https://arxiv.org/abs/2003.10432

Githubu项目地址:

https://github.com/magicleap/Atlas

关于更多机器学习、人工智能、增强现实、Unity、Unreal资源和技术干货,可以关注公众号:AIRX社区,共同学习,一起进步!AIRX三次方:超酷的开发者学习服务与交流平台(专注ARVR、Unity、Unreal、CV、AI领域)学ARVR开发,来AIRX三次方!!!

仅需一部摄像机即可实现基于AI的3D重建