人工智能与网络安全交汇的探索


网络安全领域一直处于技术创新的前沿,训练有素的网络安全专家们正在利用越来越创新的方法来保护企业重要资产免受恶意行为者的侵害。另一方面,人工智能 (AI) 领域在过去十年中也取得了类似的飞速发展。网络安全和人工智能领域正以前所未有的频率发生直接接触,这种交汇预计将在全球范围内产生深远的影响。

Cap Gemini去年进行的一项研究发现,63% 的组织计划在今年采用人工智能,而其中69% 的公司相信,如果没有人工智能,它们将无法应对威胁。Zion Market Research预测,网络安全领域的人工智能市场到2025年将增长到$309.1亿美元,这意味着2019年至2025年间的复合年增长率 (CAGR) 将近23%。这一预测是基于Zion Market Research进行的一项调查的结果。

以下是这两个领域融合产生的一些创新,以及这些进步可能如何影响传统公司及其网络安全团队的解释。

网络安全人才短缺推动人工智能的采用

尽管印度的网络安全项目数量大幅增长,但合格的申请者仍然不足以填补空缺职位。商业出版物《福布斯》不久前发表的一篇文章预测,到2020年,网络安全行业将有350万个职位空缺。这比仅仅六年前空缺的数量多出三倍以上。

不断扩大的技能差距将对那些已经在与黑客和其他网络犯罪分子的更危险的威胁作斗争的组织构成持续的挑战。由于网络安全领域训练有素的员工短缺,以及攻击数量和强度的增加,越来越多的企业正在转向网络人工智能来自动化其已实施的安全措施。人工智能作为网络安全各个运营(从威胁检测到快速响应)中值得信赖的主力军,正变得越来越普遍。

对抗性人工智能中的善与恶的对抗

很容易忘记,网络安全斗争是双向的,网络犯罪分子尽最大努力攻击基础设施,而网络安全支持者则尽最大努力阻止恶意行为者。然而,重要的是要记住,这场冲突是双向的。“对抗性人工智能”指的是一方利用人工智能来完善其攻击,而另一方则利用人工智能来保护其基础设施的情况。

超过70%的公司已经在试点测试人工智能网络安全用例。这些用例包括欺诈和入侵检测、风险评估沟通和行为分析。借助人工智能,这项工作可以更快地完成,人工智能还可以从其错误中学习,以改进其防御未来攻击的能力。即使是认证道德黑客 (CEH)——那些精通网络犯罪分子所用技术但将其专业知识用于公共利益的人——也能够从这项技术中获益匪浅。

此外,人工智能正越来越多地用于以更复杂的方式评估风险,这被称为“风险上下文”,而不仅仅是简单地发出即将发生的攻击警报。正如作者所解释的那样,这种方法“结合了数据分类、信任建模和安全分析,以更好地理解威胁的上下文并最大限度地减少误报的数量”。

另一方面,人工智能也使网络犯罪分子更容易实施攻击。一个例子是对电子邮件通信进行大规模监控以破坏帐户和凭据(通常通过网络钓鱼攻击),以及快速有效地执行此类攻击。人工智能能够模仿人类行为,以躲避更严格的安全措施并访问商业网络。在可预见的未来,这场斗争将在善与恶的参与者之间来回摇摆。

持续的竞争

黑客非常了解边缘和端点计算的安全漏洞,这些漏洞通常是人为错误的结果。这是世界范围内对边缘和端点计算使用日益增长的趋势的一个令人不快的副作用。Gartner预测,到2025年,配置和用户错误将占组织对用户端点有效攻击的85%以上。最近,针对手机和物联网阅读器等边缘设备的黑客攻击尝试数量有所增加。

人工智能已被证明是防御端点免受自动化攻击的有用工具。人工智能和机器学习能够执行各种防御任务,例如根据用户行为、地理位置和其他重要变量构建风险评分;支持从服务器到服务器的恶意软件防护工作流程;以及使用算法来确定应用程序何时处于风险或不安全状态(然后将这些功能转移到更隔离的系统)。

获得新技能是获胜的关键

随着强大的 AI 功能被应用,网络犯罪分子和致力于保护互联网安全的人员之间的持续冲突变得越来越复杂。如果您的公司培养相关的专业知识,例如熟悉使用各种智能代理构建应用程序的人工智能 (AI) 工程师和精通监督和非监督学习、数学和启发式技术以及实际建模的机器学习 (ML) 专家,那么您的公司将获得成功。这些类型的专业人员对您公司的成功至关重要。您应该谨慎行事,但如果您采取必要的措施来增强您的能力,您将能够在未来毫无问题地驾驭这个交叉点。

结论

人工智能系统在交通、医疗、执法甚至军事技术等领域的广泛应用凸显了人工智能系统安全的重要性。为了确保自动化决策系统的安全,各国政府需要审查诸如透明度指南、认证和审计标准以及问责措施等问题,这些问题超越了对经济和国家安全的直接利益。

更新于:2023年1月2日

210 次浏览

启动您的职业生涯

完成课程获得认证

开始学习
广告