人工智能黑匣子：它是什么以及它是如何工作的
简单来说
人工智能黑匣子是在用户不知情的情况下运行的系统，例如机器学习，它由算法、训练数据和模型组成。
黑匣子对于软件安全很重要，因为它们可用于对软件进行逆向工程并发现要利用的缺陷，并且可以被软件测试人员和黑客用来发现弱点。
对于许多人来说，“黑匣子”一词指的是飞机上的记录设备，如果发生不可想象的事情，这些设备对尸检很有价值。 对于其他人来说，这是一个布置简单的小剧院。 然而，黑匣子对人工智能也至关重要。
人工智能黑匣子 是在用户不知情的情况下运行的系统。 您可以向它们提供输入并获得输出，但您无法检查系统代码或用于生成输出的逻辑。
机器识别 是人工智能的主要类型。 它包括一个算法或一组算法、训练数据和模型。
- 算法是一系列过程。 经过训练后，算法能够识别已知模式。
- 培训 data 是用于训练 AI 模型的数据集。
- 机器学习算法本质上是一种旨在从大量示例中学习并生成机器学习模型的过程。 机器学习模型是人们在创建后使用的模型。
可以对图像识别算法进行编程以发现图像趋势，训练数据可以代表狗的照片。 您可以将图像作为输入提供给它，并将其作为输出，无论图像中的一组像素是否以及在何处显示代表一只狗。
由于机器学习算法是众所周知的，因此隐藏黑盒的效果较差。 由于 AI 工程师经常将他们的知识产权隐藏在黑匣子中，因此他们通常将模型放在一个黑匣子中。 软件开发人员的另一种方式 隐藏 数据是通过模糊用于训练模型的数据——换句话说，将训练数据放在黑盒子里。
很难理解黑盒算法是如何运作的，但这并不是完全黑白分明的。
玻璃盒子是指算法、训练数据和模型是公开的系统，而黑盒子是指算法、训练数据和模型是隐藏的系统。 当研究人员甚至将人工智能系统的这些方面描述为黑色时，经常使用术语黑匣子。
缺乏关于机器学习算法的知识，特别是 深度学习算法， 功能。 研究人员正在开发算法，虽然不一定是玻璃盒子，但可以被人类更好地理解。
为什么 AI 黑匣子很重要？
信任黑盒机器学习算法和模型并不总是一个好主意。 如果确定您是否有资格从银行获得商业贷款的机器学习模型拒绝了您怎么办？ 您想知道，以便更好地对决定提出上诉或改变您的情况以增加下次获得贷款的机会。
将软件保存在黑匣子中被认为可以防止黑客对其进行检查，从而使其安全。 然而，黑客可以 逆向工程师 软件——也就是说，研究一个软件是如何紧密工作的——并发现可以利用的缺陷。 黑匣子对软件系统安全也有重要影响。
软件测试人员和善意的黑客有可能查看用于测试软件的玻璃盒内部以发现弱点，从而减少网络攻击。
阅读更多相关文章：
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
更多文章
Damir 是团队领导、产品经理和编辑 Metaverse Post，涵盖 AI/ML、AGI、LLM、Metaverse 等主题 Web3- 相关领域。 他的文章每月吸引超过一百万用户的大量读者。 他似乎是一位在 SEO 和数字营销方面拥有 10 年经验的专家。 达米尔曾在 Mashable、Wired、 Cointelegraph、《纽约客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作为数字游牧者往返于阿联酋、土耳其、俄罗斯和独联体国家之间。 达米尔获得了物理学学士学位，他认为这赋予了他在不断变化的互联网格局中取得成功所需的批判性思维技能。
