HiddenLayer是一个独特的安全平台的开发商，该平台保护企业组织在其最重要产品背后使用的机器学习模型，今天从隐身模式中脱颖而出，推出了其旗舰产品，该产品专门用于检测和防止针对机器学习驱动的系统的网络攻击。HiddenLayer 平台的主要产品是业界第一个也是唯一一个机器学习检测和响应 (MLDR) 解决方案，可保护企业及其客户免受这种新兴攻击媒介的侵害。

几乎所有行业的组织都在将人工智能 (AI) 技术整合到其硬件和软件产品中，为客户提供机器学习 (ML) 输入和输出，不良行为者已经注意到了这一点。Gartner 预测，到 2022 年，30% 的人工智能网络攻击将利用训练数据中毒、模型盗窃或对抗性样本来攻击机器学习驱动的系统。

当 ML 输入和决策公开时，攻击者可以对 IP 进行逆向工程以窃取商业机密并篡改生产系统。这些最先进的攻击可能会破坏数百万美元的投资，延迟产品发布，并使受害组织承担法律和财务责任。

根据HiddenLayer(创始人Chris “Tito” Sestito，Tanner Burns和James Ballard)的说法，公司不知不觉地在其ML模型中创建了漏洞，而这些漏洞没有已知的商业安全控制。这是他们在Cylance合作时学到的第一手经验，Cylance是一家端点安全软件开发商，率先在防病毒中应用机器学习。

“在我们的机器学习模型直接通过我们的产品受到攻击后，我们领导了救援工作，并意识到这对于任何在其产品中部署ML模型的组织来说都是一个巨大的问题，”HiddenLayer首席执行官Chris Sestito说。“我们决定成立 HiddenLayer 来教育企业了解这一重大威胁，并帮助他们抵御它。

HiddenLayer 的 MLDR 解决方案使用正在申请专利的基于 ML 的方法，每分钟分析数十亿个模型交互，以识别恶意活动，而无需访问或事先了解用户的 ML 模型或敏感的训练数据。它检测并响应针对 ML 模型的攻击，以保护知识产权和商业机密免遭盗窃或篡改，并确保用户不会受到攻击。

HiddenLayer的MLDR是一种非侵入性和易于使用的安全解决方案，不需要访问原始数据或算法。它通过无上下文矢量化数据点识别 ML 模型流量中的模式，以提供全面的防御，抵御针对生产中部署的 ML 模型的对抗性攻击。

HiddenLayer 正在使用 MITRE ATLAS 框架来构建他们的平台，以与业界领先的权威机构保持一致，以应对针对人工智能系统的对抗性威胁。“人工智能保障和安全对于人工智能的后续使用和更广泛的采用至关重要，”MITRE ATLAS的领导团队成员Christina Liaghati说。“政府，学术界和工业界之间的合作将带来健康的生态系统和独特的视角，以应对这些关键挑战。

“机器学习算法正迅速成为我们每天依赖的越来越多的技术产品的重要和差异化方面。作为专门的网络安全投资者，我们知道保护公司竞争优势核心的算法将成为公司网络防御的重要组成部分 - 这些算法将成为新的“皇冠上的宝石”。Tito，Jim和Tanner拥有解决这一日益严重的问题的独特经验和技能，使HiddenLayer成为领导这一重要新安全类别的最佳公司，“Ten Eleven Ventures的Todd Weber说。