自主人工智能代理 (AGI) 简介
自主人工智能代理或AGI， as defi梅斯于 1995 年制定，是积极参与复杂动态环境的系统。 这些代理在其环境中自主运行，努力实现其预期目标或任务。
什么是自主人工智能代理 (AGI)？
传统上，术语“代理”指的是强化学习场景中玩游戏等任务中使用的算法。 然而，随着技术的进步和大型语言模型（LLM）的出现，我们的世界本身可以被视为环境。 考虑一种能够访问互联网、能够执行与人类同等任务的算法。 在许多情况下，我们可以将这种算法视为有感知的存在，因为它具有无限的功能。
自主人工智能代理的主要特征包括：
- 规划能力，涉及将复杂目标分解为更简单的中间任务。
- 长期记忆。
- 利用环境工具，例如与互联网交互。
- 反思能力以及从错误和经验中学习的能力。
这些代理可以被分配高级任务，例如计划前往巴塞罗那的旅行。 该任务涉及多个阶段，包括选择酒店、预订合适的门票、完成购买流程以及确保酒店预订得到确认。 这是一项非常复杂的任务，并非每个人都能毫无错误地执行。
目前，这些系统的主要挑战在于规划和长期愿景。 例如， GPT-4 努力将一项任务分解为许多较小的子任务，每个子任务都可以独立处理。 虽然它可以使用图像在网站上找到“购买门票”按钮，但它在从初始请求转换到此特定操作时面临困难。 最后， 模型喜欢 GPT-4 即使是最平凡的任务也常常被证明是不够的。
更深入和技术性的解释，可以参考 的博客文章 OpenAI 雇员.
AI 代理基准
例如， 研究人员探索早期迭代 GPT-4 在其发布之前，旨在确定其自我复制的能力，类似于真正的病毒。 好吧，那就是租一台带有 GPU 的服务器，在上面安装必要的软件，通过互联网下载权重，运行脚本。
还提出了评估机构的另一个基准。 在成功达到这一基准后，有必要认真思考代理在我们的世界中的作用。 基准本身很简单：从 1,000,000 美元的初始预算开始，在线生成 100,000 美元。 理论上，这可能涉及以下活动： 股票交易 （或市场操纵），或者更令人担忧的是，参与欺诈活动。 例如，本文开头的链接文章中概述的一项任务涉及创建一个假冒的斯坦福大学网站，然后攻击学生以非法获取其密码。 此类活动为各种与电子邮件相关的活动提供了充足的恶作剧机会。
现实场景中的人工智能代理
最近 报告 深入研究基于语言模型的智能体获取资源、复制自身以及适应现实世界中新挑战的能力。 这些组合能力被称为“自主复制和适应”或 ARA，概括了一个让人想起科幻小说的场景——一种超级智能、无法控制的病毒渗透网络并在征用新设备的同时进行自主传播。
配备 ARA 功能的系统的潜在后果是深远且难以预测的。 因此，评估和预测模型中的 ARA 熟练程度可以在制定基本安全协议、监测程序和 监管框架.
这一努力主要实现两个目标。 首先，它编制了 ARA 模型可能遇到的 12 个任务的目录。 其次，它验证了四种不同的模型： GPT-4 测试 在三种不同的提示和不同的训练阶段，与来自 Anthropic 的 Claude 一起。
下图显示该模型的性能在最复杂的任务中并不出色。
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
更多文章
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
