十大人工智能和 ChatGPT 2023 年的风险和危险
随着人工智能 (AI) 和聊天机器人技术的进步，越来越多的公司正在寻求自动化客户服务解决方案，以此作为改善客户体验和降低管理成本的一种手段。 虽然利用人工智能模型和聊天机器人解决方案有很多好处，但也存在与该技术相关的各种风险和危险，特别是随着它们在未来十年内变得更加普遍并融入我们的日常生活。
本周美国参议院的每个人都听了 Sam Altman 谈论 AI 模型的监管和风险。 这是一个基本的概要：
生物武器
人工智能的使用（AI) 在生物武器的发展中，提出了一种危险的有条不紊和有效的方法来制造强大和致命的大规模杀伤性武器。 ChatGPT 机器人 是人工智能驱动的对话助手，能够与人类进行逼真的对话。 的关注 ChatGPT 机器人的主要特点是它们有可能被用来传播虚假信息和操纵思想以影响 舆论.
我警告说人工智能可能会被滥用于制造生物武器，并强调需要进行监管以防止此类情况发生。
山姆·奥特曼
监管是防止滥用人工智能的关键组成部分 ChatGPT 机器人开发和部署生物武器。 各国政府需要制定国家行动计划来解决潜在的技术滥用问题，公司应对任何潜在的技术滥用行为负责。 AI和 ChatGPT 机器人。 国际组织应投资于专注于人工智能培训、监测和教育的举措 ChatGPT 机器人。
失业
人工智能和人工智能可能导致失业 ChatGPT 预计 2023 年将是 2020 年的三倍。人工智能和 ChatGPT 可能导致工作场所的不安全感增加、道德考虑以及对工人的心理影响。 人工智能和 ChatGPT 可用于监控员工的行为和活动，使雇主能够快速做出决策，而无需人员参与。 此外，人工智能和 ChatGPT 可能会导致不公平和有偏见的决定，从而导致工作场所的财务、社会和情感不安全感。
我强调人工智能的发展可能导致大量失业和不平等加剧。
山姆·奥特曼
人工智能监管
本文探讨了 潜在风险 以及围绕人工智能的危险 ChatGPT 2023 年监管。人工智能和 ChatGPT 技术 可用于执行潜在的恶意活动，例如根据人们的行为和活动对其进行分析。 缺乏适当的 人工智能法规 可能会导致意想不到的后果，例如数据泄露或歧视。 人工智能监管可以通过制定严格的指导方针来帮助减轻这种风险 ChatGPT 系统 未以恶意方式使用。 最后，人工智能和 ChatGPT 可能成为我们生活的一个控制因素，控制着交通流量、金融市场等事物，甚至被用来影响我们的政治和社会生活。 为了防止这种权力不平衡，需要实施严格的规定。
我们建议创建一个新的机构来许可和 规范人工智能 如果他们的能力超过了某个阈值，就会进行活动。
山姆·奥特曼
安全标准
人工智能和聊天机器人技术正在推动我们管理日常生活的方式取得进步。 随着这些技术变得更加先进，它们有可能变得自主并自行做出决定。 为了防止这种情况， 安全标准 必须确定这些模型必须满足才能部署。 Altman 在 2023 年提出的主要安全标准之一是自我复制测试，这将确保 AI 模型无法在未经授权的情况下进行自我复制。 Altman 在 2023 年提出的第二个安全标准是数据泄露测试，这将确保 AI 模型无法在未经授权的情况下从系统中泄露数据。 世界各国政府已开始采取行动保护公民免受潜在风险。
我们必须实施人工智能模型在部署前必须满足的安全标准，包括自我复制和数据泄露的测试。
山姆·奥特曼
独立审计
到 2023 年，对人工智能和法学硕士技术进行独立审核的需求变得越来越重要。 人工智能带来了各种风险，例如无监督的机器学习算法可能会不由自主地更改甚至删除数据，而网络攻击也越来越多地针对人工智能和 ChatGPT。 人工智能创建的模型包含偏见，这可能导致歧视性做法。 独立审计应包括对 为人工智能建模 受过训练、算法设计和模型的输出，以确保它不会显示有偏见的编码或结果。 此外，审计应包括对用于保护的安全政策和程序的审查 用户数据 并确保安全的环境。
进行独立审计以确保人工智能模型符合既定的安全标准。
山姆·奥特曼
如果没有独立审计，企业和用户将面临风险 有潜在危险 以及本可以避免的代价高昂的风险。 至关重要的是，所有使用该技术的企业在部署前都要完成独立审计，以确保该技术安全且合乎道德。
人工智能作为一种工具
人工智能呈指数级发展，并且 进步如 GPT-4 导致与计算机的交互更加真实和复杂。 然而，奥特曼强调，人工智能应该被视为工具，而不是有感知的生物。 GPT-4 是一种自然语言处理模型，可以生成与人类编写的内容几乎没有区别的内容，从而减轻了作者的部分工作量，并允许用户获得更加人性化的技术体验。
人工智能，尤其是高级模型，例如 GPT-4，应该被视为工具，而不是众生。
山姆·奥特曼
然而，Sam Altman 警告说，过分强调人工智能不仅仅是一种工具，可能会导致对其能力产生不切实际的期望和错误的信念。 他还指出，人工智能并非没有伦理影响，即使先进的人工智能可以用于好的方面，它仍然可以用于坏的方面，从而导致危险的种族定性， 侵犯隐私，甚至是安全威胁。 Altman 强调理解人工智能只是一种工具的重要性，它应该被视为加速人类进步的工具，而不是取代人类。
人工智能意识
关于人工智能及其能否实现有意识意识的争论一直在加剧。 许多研究人员认为，尽管机器具有复杂的计算架构，但它们无法体验情绪、心理或意识状态。 一些研究人员接受人工智能实现意识意识的可能性。 这种可能性的主要论据是人工智能是建立在使其能够 复制 在人脑中发现的某些生理和心理过程。 然而，主要的反驳论点是人工智能没有任何真正的情商。
虽然人工智能应该被视为一种工具，但我承认科学界正在进行关于潜在人工智能意识的辩论。
山姆·奥特曼
许多 AI 研究人员一致认为，没有科学证据表明 AI 能够以与人类相同的方式实现有意识的意识。 伊隆麝香作为这一观点最直言不讳的支持者之一，他认为人工智能模仿生物生命形式的能力极其有限，应该更加强调教导机器伦理价值观。
军事应用
军事环境中的人工智能正在迅速发展，并有可能改善军队作战的方式。 科学家们担心，人工智能在军队中的应用可能会带来一系列与伦理和风险相关的问题，例如不可预测性、不可计算性和缺乏透明度。
我认识到在自主无人机等军事应用中使用 AI 的潜力，并呼吁 管理条例 这样的使用。
山姆·奥特曼
人工智能系统容易受到恶意行为者的攻击，他们可能会重新编程系统或渗透系统，从而可能导致毁灭性的后果。 为了解决这些 , 国际社会迈出了第一步，其 1980 年《特定常规武器国际公约》规定了某些武器的使用禁令。 人工智能专家主张成立一个国际委员会来监督人工智能在军事应用中的评估、培训和部署等过程。
德盛
人工智能技术正变得越来越先进和普及，因此了解人工智能代理和系统带来的潜在风险变得非常重要。 与 AI 代理相关的第一个也是最明显的风险是机器智胜人类的危险。 AI 代理可以通过接管决策、自动化流程和其他高级任务轻松胜过它们的创造者。 此外，人工智能驱动的自动化可能会加剧不平等，因为它取代了人类 人才市场.
我警告说，更强大、更复杂的人工智能系统可能比许多人想象的更接近现实，并强调需要做好准备和采取预防措施。
山姆·奥特曼
人工智能算法及其在复杂决策中的使用引发了人们对缺乏透明度的担忧。 组织可以 减轻风险 通过主动确保以合乎道德的方式开发 AI、使用符合道德标准的数据以及对算法进行例行测试以确保它们没有偏见并对用户和数据负责，与 AI 代理相关联。
结论
奥特曼还表示，虽然我们可能无法管理中国，但我们必须与之谈判。 拟议的评价标准和 监管人工智能模型包括 合成生物样本的能力、对人们信仰的操纵、处理能力的消耗等等。
一个重要的主题是山姆应该与国家建立“关系”。 正如我们之前提到的，我们希望他们不要效仿欧洲的榜样。
常见问题
人工智能风险包括人工智能系统可能表现出偏见或歧视行为，被恶意或不当使用，或以造成伤害的方式发生故障。 人工智能技术的开发和部署可能会给隐私和数据安全以及人员和系统的安全带来风险。
与人工智能相关的五个主要风险是：失业， 安全风险，偏见或歧视，生物武器和 AGI。
人工智能最危险的方面是它可能导致大规模失业。
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
更多文章
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
