新闻报道
2022 年 9 月 30 日

Text-to-3D:谷歌开发了一种神经网络,可以根据文本描述生成 3D 模型

简单来说

文本到 3D 神经网络可以从文本生成 3D 模型

DreamFusion 基于Imagen文字转图优化3D场景

二维扩散模型可用于文本到图像的合成

谷歌创建了一个 神经网络 能够根据文本描述创建 3D 模型。 最好的部分是最困难的方面甚至不需要教。 Imagen 被用作 Text-to-3D 的基础。

Text-to-3D:谷歌开发了一种神经网络,可以根据文本描述生成 3D 模型

你应该知道什么 梦幻融合?

在数十亿个图像-文本对上训练的扩散模型导致了文本到图像合成的最新进展。 将这种方法应用于 3D 合成将需要标记 3D 资产的大规模数据集以及高效的去噪 3D 数据架构,这两者目前都不可用。 在本文中,我们通过使用预训练的 3D 执行文本到 2D 合成来克服这些限制 文本到图像扩散 模型。 我们提出了基于概率密度蒸馏的损失,该损失允许将二维扩散模型用作优化参数的先验 图片生成器。 利用这种损失,我们使用梯度下降来优化随机初始化的 3D 模型(神经辐射场或 NeRF),使其从随机角度进行的 2D 渲染具有最小的损失。

生成的指定文本的 3D 模型可以从任何角度查看,使用可变照明进行照明,并合成到任何 3D 环境中。 它的方法不需要 3D 训练数据,也不需要改变 图像扩散模型,说明使用预先训练的图像扩散模型的功效。

DreamFusion 可根据标题制作具有高保真外观、深度和法线的可重新照明 3D 模型。 对象被表示为神经辐射场,具有预训练的 文本到图像扩散 之前使用过 Imagen 等。

从文本生成 3D 的示例

提示:一张穿着中世纪盔甲的松鼠吹奏萨克斯管的照片
提示:这张照片是一只松鼠穿着优雅的舞会礼服坐在陶轮旁塑造一个陶碗
提示:高度精细的松鼠金属雕塑,穿着紫色连帽衫骑着摩托车
提示:穿着中世纪盔甲挥舞武士刀的松鼠的复杂木雕

将物体放在一起形成场景

我们如何运作?

DreamFusion 使用 Imagen 文本到图像生成模型优化基于字幕的 3D 场景。 它建议采用评分蒸馏采样(SDS),其中涉及优化损失函数以从扩散模型中生成样本。 只要我们能够以不同的方式映射回图像,SDS 就使我们能够在任何参数空间(例如 3D 空间)中优化样本。 到 defi在这种可微映射中,它采用类似于神经辐射场或 NeRF 的 3D 场景参数化。 SDS 单独创建了一个还过得去的场景外观,但 DreamFusion 通过额外的正则化器和优化技术增强了几何形状。 生成的经过训练的 NeRF 是连贯的,具有出色的法线、表面几何形状和深度,并且可以使用朗伯着色模型重新照亮。

阅读相关文章:

免责声明

在与行 信托项目指南,请注意,本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是,仅投资您可以承受损失的金额,并在有任何疑问时寻求独立的财务建议。 如需了解更多信息,我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告,但市场状况如有变更,恕不另行通知。

关于作者

Damir 是团队领导、产品经理和编辑 Metaverse Post,涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位,他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。 

更多文章
达米尔亚拉洛夫
达米尔亚拉洛夫

Damir 是团队领导、产品经理和编辑 Metaverse Post,涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位,他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。 

Hot Stories

Galxe 与 Jambo 合作扩大全球可及性 Web3

by 艾丽莎·戴维森
2024 年 5 月 02 日
加入我们的时事通讯。
最新消息

Galxe 与 Jambo 合作扩大全球可及性 Web3

by 艾丽莎·戴维森
2024 年 5 月 02 日

宣判日到来:美国法院考虑司法部的认罪,CZ 的命运悬而未决

赵长鹏将于今天在西雅图的美国法院接受宣判。

了解更多

Samourai Wallet 创始人被指控在暗网交易中协助 2 亿美元

Samourai 钱包创始人的被捕对整个行业来说是一个显着的挫折,凸显了持续的......

了解更多
加入我们的创新技术社区
了解更多
查看更多
Eigen 基金会计划在社区批评后向用户额外分发 100 个 EIGEN 代币
市场 新闻报道 专业技术
Eigen 基金会计划在社区批评后向用户额外分发 100 个 EIGEN 代币
2024 年 5 月 3 日
Pantera Capital 投资 TON 区块链,对 Telegram 扩大加密货币可访问性的潜力充满信心
企业 新闻报道 专业技术
Pantera Capital 投资 TON 区块链,对 Telegram 扩大加密货币可访问性的潜力充满信心
2024 年 5 月 2 日
Mitosis 从 Amber Group 和 Foresight Ventures 筹集了 7 万美元资金,以推进其模块化流动性协议
企业 新闻报道 专业技术
Mitosis 从 Amber Group 和 Foresight Ventures 筹集了 7 万美元资金,以推进其模块化流动性协议
2024 年 5 月 2 日
Galxe 与 Jambo 合作扩大全球可及性 Web3
企业 新闻报道 专业技术
Galxe 与 Jambo 合作扩大全球可及性 Web3
2024 年 5 月 2 日