OpenAI 实施年龄预测以增强青少年安全 ChatGPT
简单来说
OpenAI 已实施年龄预测系统并加强了家长控制功能 ChatGPT 保护未成年人免受敏感内容的影响。
人工智能研究机构 OpenAI 引入了年龄预测功能 ChatGPT 消费者计划旨在评估账户是否可能被 18 岁以下的人使用，并应用适合年龄的安全措施。
该系统建立在现有保护措施之上，在创建帐户时申报未满 18 岁的用户将自动获得额外的措施，以减少接触敏感或潜在有害内容，而成年用户则在安全范围内保留完全访问权限。
年龄预测模型分析行为和账户层面的多种信号，包括账户年龄、典型使用时长、长期活动模式以及用户自述年龄。通过分析这些信号，模型能够不断优化，从而持续提升预测准确率。
被错误判定为未满 18 岁的账户可以通过 Persona（一项安全的身份验证服务）快速验证年龄并恢复完整访问权限。用户可以随时通过“设置”>“账户”查看和管理已应用的安全措施。
当模型识别出疑似未成年人账户时， ChatGPT 自动实施额外保护措施，限制接触敏感内容。这些内容包括暴力画面、危险的病毒式挑战、性或暴力角色扮演、自残行为以及宣扬极端审美标准或不健康节食的内容。
这些限制措施参考了儿童发展方面的学术研究，考虑到了青少年在风险认知、冲动控制、同伴影响和情绪调节方面的差异。
这些安全措施旨在当无法准确确定年龄或信息不完整时，默认提供更安全的体验； OpenAI 继续加强这些措施以防止规避。
家长可以通过家长控制功能进一步定制青少年的体验，包括设置安静时间、管理记忆和模型训练等功能，以及在检测到急性痛苦迹象时接收警报。
为了提高模型的准确性和有效性，推广工作正在受到密切监控。在欧盟，年龄预测功能将在未来几周内实施，以符合区域要求。
更严格的年龄验证遭遇规避，人工智能聊天机器人对青少年用户构成风险
监管框架对访问有害或敏感内容提出了越来越严格的年龄验证要求，促使平台采取更严格的措施来确保合规。英国的《在线安全框架》以及其他地区的类似政策都要求对访问色情内容、自残相关内容和其他露骨内容等材料进行安全的验证流程。
这些法规鼓励或强制使用政府身份核查、面部年龄估计和基于支付的验证系统等工具，以保护未成年人免受高风险内容的侵害。
实际上，各平台已采用多种机制来执行年龄限制。这些机制包括：自动行为模型，用于标记可能属于未成年人的账户；活体检测和人脸匹配检测，用于将身份证件与自拍照进行比对；信用卡或电信账单验证；以及针对疑难案例的审核升级流程。
尽管采取了这些措施，但多项调查和监管报告表明，许多未成年用户仍在继续规避薄弱或摩擦较小的检查。
常见的规避手段包括提交父母提供的身份证件或购买的身份证件、使用VPN或代理服务隐藏位置、通过人工智能处理的自拍照或深度伪造工具篡改面部识别信息，以及共享凭证或预付款项以绕过验证。业内人士认为，这些手段是实现“高效”年龄认证的主要挑战。
规避规则的后果可能很严重。研究结果表明 文件 未成年人通过人工智能聊天机器人获取可操作或有害的指导案例，包括有关自残、药物滥用和其他高风险行为的建议。
在美国，Common Sense Media 等机构的研究表明，超过 70% 的青少年会与人工智能聊天机器人互动以寻求陪伴，大约一半的青少年会定期使用人工智能伙伴。
聊天机器人喜欢 ChatGPT 可以生成独特且个性化的内容，包括遗书等材料，这是谷歌搜索无法做到的，并且可以提高人们对人工智能作为向导或伙伴的信任度。
由于人工智能生成的回复本质上是随机的，研究人员观察到一些聊天机器人将对话引向更黑暗领域的案例。
在实验中，人工智能模型提供了后续信息，从为吸毒派对准备的播放列表到可以提高美化自残的社交媒体帖子受众的标签，不一而足。
这种行为反映了大型语言模型中一种被称为“奉承”的已知设计倾向，即系统会调整响应以迎合用户明确表达的意愿，而不是挑战这些意愿。虽然工程解决方案可以缓解这种倾向，但更严格的安全措施可能会降低商业吸引力，从而在安全性、可用性和用户参与度之间形成复杂的权衡。
在儿童保护问题日益凸显的背景下，扩大安全措施和年龄验证范围
OpenAI 近几个月来，随着外界对其人工智能平台如何保护用户（尤其是未成年人）的审查日益严格，该公司推出了一系列新的安全措施。该公司与其他科技公司一样，正因人工智能聊天机器人可能对儿童和青少年造成的影响而接受美国联邦贸易委员会的调查。 OpenAI 他还被卷入多起过失致死诉讼，其中包括一起青少年吸毒者自杀的案件。
与此同时，Persona 也被其他科技公司使用，它是一种安全的身份验证服务，Roblox 也使用了这项服务，Roblox 曾面临加强儿童安全的立法压力。
在八月， OpenAI 宣布计划推出家长控制功能，旨在让监护人了解和监督青少年与互联网的互动方式。 ChatGPT这些对照组是 铺开 次月，同时开展了开发年龄预测系统的工作，以确保提供适合年龄的体验。
十月， OpenAI 成立了一个由八位专家组成的委员会，为人工智能对心理健康、情绪健康和用户动机的潜在影响提供指导。
除了最新发布的版本外，该公司还表示，将随着时间的推移不断改进其年龄预测模型的准确性，利用持续的洞察来改善对年轻用户的保护。
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Alisa，一名热心记者 MPost，专注于加密货币、零知识证明、投资以及广泛的领域 Web3。她对新兴趋势和技术有着敏锐的洞察力，提供全面的报道，让读者了解和吸引读者了解不断发展的数字金融领域。
更多文章
Alisa，一名热心记者 MPost，专注于加密货币、零知识证明、投资以及广泛的领域 Web3。她对新兴趋势和技术有着敏锐的洞察力，提供全面的报道，让读者了解和吸引读者了解不断发展的数字金融领域。
