。

幸运的是#xff0c;网络和安全提供商正在寻找方法来应对这些前所未有的威胁。

随着人工智能越来越深入地融入日常业务流程#xff0c;它面临着泄露专有信息、提供错误答…

的广泛使用带来了许多组织可能没有意识到的安全风险。

幸运的是网络和安全提供商正在寻找方法来应对这些前所未有的威胁。

随着人工智能越来越深入地融入日常业务流程它面临着泄露专有信息、提供错误答案或完全“产生幻觉”不存在的事实的风险。

必须通过新的政策和程序来应对这些陷阱以确保人类对人工智能助手的监督——以及对不了解使用人工智能风险的人类进行监督和培训。

如果你考虑

网络需求和安全风险你会发现你对业务数据和业务流程的集成越多风险就越大。

想象一下一个

应用程序可能会直接集成到票务系统中根据模型训练的智能接收票务并进行路由。

现在该应用程序直接与业务流程集成。

这会带来更多风险因为很明显如果该模型被黑客入侵它可能会扰乱业务流程。

仅使用专有信息训练大型语言模型(LLM)

就会带来巨大的知识产权泄露风险因为人工智能可能会在无害的答案中泄露商业或公司机密。

同样让人工智能接触敏感的个人信息可能会无意中导致人工智能公开这些细节。

LLM

如果你想把这些发现暴露给那些不应该接触到它的人他们可能比你更了解你的业务。

关注公众号网络研究观阅读

你需要制定正确的政策以控制访问和保护数据隐私。

在将这些应用程序更多地集成到流程中时良好的访问控制和数据保护安全实践是首要前提。

Gen

现在有一个新术语叫做知识泄露预防因为人工智能不仅仅涉及你的信用卡信息或PII

人工智能安全方法的第三支柱是威胁防护阻止针对人工智能模型的各种类型的恶意攻击这些攻击通常是旧伎俩的新花样。

就像所有可以使用的技术一样它也可以被滥用。

我们看到的攻击方式类似但又有所不同。

过去通常有

SQL

十大攻击实际上已经确定了人工智能安全领域的一些新兴类别。

所以这是另一个需要关注的领域。

SASE

然后你使用检测、签名匹配、异常、协议异常等对同一事物进行威胁防护然后进行

安全性和效率

如果使用太多安全产品性能就会下降。

如果试图简化变更管理和规则控制流程实际上可能会降低其安全性。

如果试图加快速度实际上会损害流程。

因此存在性能、灵活性、安全性等各种权衡。