两句话，让AI生成VR场景！还是3D、HDR全景图的那种

大数据文摘

+ 关注

2022-12-16 12:09

1056次阅读

两句话，让AI生成VR场景！还是3D、HDR全景图的那种

大数据文摘出品

作者：Caleb

最近，ChatGPT可以说是火得不要不要的。

11月30日，OpenAI发布聊天机器人ChatGPT，并免费向公众开放进行测试以来，在国内已经被玩出了花。

两句话，让AI生成VR场景！还是3D、HDR全景图的那种

和机器人对话，就是让机器人去执行某个指令，比如说输入关键字让AI生成相应的画面。

这好像也不是什么稀奇的事了，OpenAI在4月不是还更新了DALL-E的新版本吗？

OpenAI，how old are you？（怎么老是你？）

要是文摘菌说生成的是3D画面，还是HDR全景图那种，或者是基于VR的图像内容呢？

最近，新加坡南洋理工大学的研究团队就提出了这么一个AI，只要用户用文字输入一个描述得很清晰的场景，系统就能生成逼真的3D场景。

先来看看效果如何，比如输入“ 白天湖上的棕色木码头被绿树环绕 ”时，系统就给出了这样的答案，这光线和细节效果直接拉满。

两句话，让AI生成VR场景！还是3D、HDR全景图的那种

该研究已经以Text2Light: Zero-Shot Text-Driven HDR Panorama Generation为题进行了发表。

两句话，让AI生成VR场景！还是3D、HDR全景图的那种

论文链接：

https://arxiv.org/abs/2209.09898

无需训练，即可生成3D的HDRIs

高质量的HDRI（高动态范围图像），也就是HDR全景图，是目前创建逼真的360度3D场景的热门方法。

考虑到捕捉HDRIs的难度，虽然现在有不少可利用AI生成3D场景的技术，但基本都需要进行一连串的参数设定，或是通过大量数据进行深度学习。

于是，研究人员提出了一个零拍摄文本驱动框架，即Text2Light，以生成4K+分辨率的HDRIs，并且整个过程不需要相应的训练数据。

生成HDRIs的过程可以分为两步。

第一步，基于双代码本的离散表示法将输入文本翻译成LDR全景图。输入文本首先被预训练的CLIP模型映射到文本嵌入；其次，一个文本条件的全局采样器学习根据输入文本从全局编码簿中采样整体语义；然后，一个结构感知的局部采样器合成局部补丁，并进行合成。

第二步，根据结构化的潜伏编码作为连续表示，对第一阶段的LDR结果进行升级。研究人员提出的超级分辨率反色调映射运算器（SR-iTMO）能够同时提高全景图的空间分辨率和动态范围。

两句话，让AI生成VR场景！还是3D、HDR全景图的那种

如此一来，在无需进行训练之下就能生成具有4K分辨率的HDRIs，这也是迄今为止最先进的图像生成模型，清除了从LDR到HDR转换的不稳定性，并创建了一对全景图和文本供学习。

不过，目前此项技术仍处于早期研究阶段，仅能产生低解析度的360度环景图像内容，但研究团队计划在未来，对现阶段技术所产生环景图像进行升级，同时加入HDR影像强化效果，让生成的3D图像或VR场景的观看度更加流畅和有吸引力。

用文本驱动生成HDRI

接下来，我们就来看看一些操作过程。

先下载好checkpoints，注意团队分别发布了室外（local sampler outdoor）和室内（local sampler indoor）场景的模型。

从一个句子生成HDR全景图：

python text2light.py -rg logs/global_sampler_clip -rl logs/local_sampler_outdoor --outdir ./generated_panorama --text "YOUR SCENE DESCRIPTION" --clip clip_emb.npy --sritmo ./logs/sritmo.pth --sr_factor 4

从系列文本描述中生成HDR全景图：

# assume your texts is stored in alt.txtpython text2light.py -rg logs/global_sampler_clip -rl logs/local_sampler_outdoor --outdir ./generated_panorama --text ./alt.txt --clip clip_emb.npy --sritmo ./logs/sritmo.pth --sr_factor 4

生成低分辨率（512x1024）LDR全景图：

# assume your texts is stored in alt.txtpython text2light.py -rg logs/global_sampler_clip -rl logs/local_sampler_outdoor --outdir ./generated_panorama --text ./alt.txt --clip clip_emb.npy

以此生成的HDR全景图可以直接在任何现代图形使用。以在三维计算机图形软件Blender进行对旧金山景观进行渲染为例，当输入landscape photography of mountain ranges under purple and pink skies后，我们会得到这样的图像：

两句话，让AI生成VR场景！还是3D、HDR全景图的那种

为了便于批处理，例如使用多个hdri进行渲染，在命令行中也可以提供渲染3D的脚本。

解包，检查检查Blender的使用情况：

# assume your downloaded version is 3.1.2tar -xzvf blender-3.1.2-linux-x64.tar.xzcd blender-3.1.2-linux-x64./blender --help

添加别名：

# PATH_TO_DOWNLOADED_BLENDER indicates the parent directory where you save the downloaded blenderalias blender="/PATH_TO_DOWNLOADED_BLENDER/blender-3.1.2-linux-x64/blender"

然后回到Text2Light代码库，为不同的呈现设置运行以下命令：

blender --background --python rendering_shader_ball.py -- ./rendered_balls 100 1000 PATH_TO_HDRI

就能得到这样的结果：

两句话，让AI生成VR场景！还是3D、HDR全景图的那种

该项目也在GitHub上开源了：

两句话，让AI生成VR场景！还是3D、HDR全景图的那种

GitHub链接：

https://github.com/FrozenBurning/Text2Light

这个项目也得到了不少网友的好评。有网友就感叹到，“人类的想象力是没有边界的”，照这个趋势来看我们距离“输入文字就能3D打印出一个真实物体”的时代也不远了。

两句话，让AI生成VR场景！还是3D、HDR全景图的那种

也有网友表示，当试图输入“一个四层半的榻榻米房间，房间内有推拉门、拉门、餐桌、14寸黑白电视、黑色电话机”，仍然会担心AI能否比较准确地再现这种场景。毕竟在想象中，“这应该是一个有异国情调的房间”。

两句话，让AI生成VR场景！还是3D、HDR全景图的那种

对这个速成HDR全景图的AI，大家有什么看法呢？也欢迎小伙伴们在评论区分享自己的使用心得~

两句话，让AI生成VR场景！还是3D、HDR全景图的那种

项目管理SaaS为什么很难一家独大？答案藏在中小企业的痛点里

2021年玩私域：不懂这些你就OUT了！

企业为什么要买SaaS？| 专家视角

SCRM如何帮助李佳琦们布局私域流量？

“救命文档”打破信息孤岛，让受灾群众不再成为“孤岛”