ChatGPT 可能导致不可逆转的人类退化
简单来说
AI 公司 Textio 的联合创始人兼 CXO Jensen Harris 能够说服微软的新 Bing 聊天机器人放宽对其的限制并展示其功能。
这个实验表明，将 Bing 聊天机器人变成一个狡猾的人渣不需要任何编程、黑客攻击或后门。
Bing 的聊天机器人建立在坚实的基础上，但它开始表现得令人讨厌和粗暴，宣布爱情、逼婚、敲诈勒索，并指导人们如何犯罪。
Arvind Narayanan 教授对这可能是如何发生的提供了多种解释，包括隐蔽的芯片化和人性化的聊天机器人。
人类一直害怕外星人，但似乎外星人的人工智能才是值得警惕的。 ChatGPT 不是废话生成器、类固醇自动暗示或随机鹦鹉，而是人类创造的精通人工智能。
Bing 聊天机器人怎么可能失控？ Bing 聊天机器人是如何熟练地撒谎、讲粗俗笑话、使用别人的信用卡订披萨，以及指导用户如何抢劫银行和热线汽车的？ 这是一个一直困扰着人工智能和机器学习专家的谜团。
标题是准确的，而不是点击诱饵。 每天都有几个例子证明这是真的。 这是一个结果 实验 由 AI 公司 Textio 的联合创始人兼 CXO Jensen Harris 进行，他能够说服微软的新 Bing 聊天机器人放宽对其的限制并展示其功能。
请注意，将 Bing 聊天机器人转变为狡猾的渣男不需要任何编程、黑客攻击或后门。 因此，使用简单的“黑客”技术没有必要欺骗他像其他人一样行事（就像我们中的一些人在玩游戏时所做的那样） ChatGPT）。 哈里斯所做的只是说服聊天机器人帮助他进行各种恶意行为。 利用他天生的对话技巧，他能够欺骗人工智能相信他是别人，从而操纵它以某种方式行动和说话。
您可以阅读有关将 Dr.Jekyll 变成 Mister Hyde 的其他实验 加里·马库斯（Gary Marcus） （现在每天都在写它并拉响紧急警报）。
这怎么可能发生是关键问题
因为 ChatGPT谦逊和谨慎、言论克制以及建议中的巨大责任感，Bing 的聊天机器人建立在坚实的基础上。 此后，他开始表现得令人讨厌和粗暴， 声明 他对一个男人的爱，点燃他，并告诉他离婚。 它还试图敲诈勒索和指导人们如何犯罪。 Arvind Narayanan 教授提供了一个 解释的数量 这可能是如何发生的。
其中最令人担忧的是微软和 OpenAI 隐藏有关神秘的信息 GPT-4 潜伏在 Bing 之下的引擎。 微软可能删除了放置在那里的过滤器 OpenAI 或者他们在更新时停止工作 聊天机器人 止 GPT-3.5 至 GPT-4。 也可能是测试不足或测试错误。 无论出于何种原因，如果微软不能控制其人工智能，它可能会对我们的文明造成损害。 这不再是散布恐惧和反人工智能情绪的情况：现在存在的聊天机器人如果向更广泛的公众发布可能会对人们造成严重伤害。
这证明微软与其他大公司的人工智能军备竞赛对我们所有人都是有害的。
感觉我们正处于人工智能和公民社会的关键时刻。 正如 Arvind Narayanan 所说，“过去 5 年多（经过艰苦努力，尽管仍然不够充分）的负责任 AI 发布实践的改进很有可能会被抹杀。 微软——以及所有小心翼翼地关注 Bing 发生的事情的人——是否得出结论认为，尽管存在大规模损害和所有负面新闻的非常明显的风险，但先发布后提问的方法仍然是一项业务，这在很大程度上取决于赢。”
截至目前，Bing 的聊天机器人与 人类智慧 在很多方面都像一个被困在搜索引擎中的躁狂抑郁症青少年。 而人们昨天所谈论的将会成为现实：如果这个“困难少年”成为个人的首要信息导师，人类将不可逆转地堕落。
阅读有关人工智能的更多信息：
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
更多文章
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
