​在有关新一代网络安全技术的讨论中，AI无疑是一个高频出现的词汇，总是被反复提及。当前的网络攻击形势愈发严峻，安全人员对于利用AI技术保护数字资产表现出了极大热情。而AI技术开发人员更是对“AI能够增强网络安全防御能力”这一愿景持乐观态度。他们认为，人为错误是不可避免的，而AI技术可以利用大数据和机器学习持续性观察和监控威胁发展趋势，从而优化提升某些防御行为。

但事物总是具有双面性，随着对AI技术应用效果的观察，很多用户和安全专家发现，目前的AI技术还并不能成为网络安全领域的“救世主”，至少并非像很多安全厂商宣传的那样。人们往往只关注AI的好处，却有意或无意地忽略了它的应用缺陷。这种对AI看法的偏见引起了一些研究人员的担忧，他们认为，尚不成熟的AI技术应用，正在为网络攻击者制造新的漏洞。

研究人员发现，AI技术在网络安全方面的应用弊端主要包括以下几点：

1、过度依赖大数据

掌握充分的数据是AI技术应用的基础，如果不考虑数据质量和充分性，AI的准确性就会无法保证。如果组织希望利用AI技术检测网络威胁、预测攻击并做出相应的反应，就必须通过机器学习算法模型提供大量的真实数据训练它。对于大型组织来说，这可能不是问题，因为他们本身就拥有大量数据。但是，对于那些只想保护自己的网络安全的中小型企业用户呢？目前，安全厂商正在给用户营造的印象是，AI技术是包罗万象的，但事实却并非如此，因为对那些缺少大数据资源的企业或组织而言，几乎无法有效使用AI技术。

2、数据泄露 

就保护数据隐私而言，处理数据的人越少越好。因为在网络安全领域为实施AI技术创建基础环境既不容易也不便宜，它需要高水平专业技术技能支撑。当企业无法自己管理运营基于AI技术的安全解决方案时，将不得不将其外包给第三方供应商，虽然相关供应商可能会做出“保密”的承诺，但事实上，这个过程增加了企业的数据暴露面和攻击面。同时，第三方供应商也可能为了自身利益而滥用客户数据，并且难以被监控审计。

3、黑客的目标

网络犯罪分子也在将紧跟网络安全趋势视为首要任务。随着AI技术在网络安全方面应用受到广泛关注，他们正竭尽所能地利用这一趋势。当安全专家尝试用最新的算法加强安全防御时，网络犯罪分子很可能已经在这些算法中发现了新的安全漏洞。在网络安全领域，没人能垄断AI技术，独享其带来的优势。入侵者和防御者之间存在一场利益争夺。如果入侵者没能抢在防御者前面，他们的恶意企图就不会得逞，所以入侵者也同样会努力保持领先。

4、AI应用技能不足

拥有一个良好的网络安全环境并不是只靠部署最新的技术就能实现，而是需要能够理解安全防护技术的原理并有效地利用它。除非是专业的网络安全人士，否则很难具备彻底使用AI技术的知识和技能。即便雇佣了AI专业人士来管理网络安全，但如果相关负责人员不了解算法及其工作原理，也无法获得理想的结果。而且，供应商所使用的算法模型可能并不适合企业的网络，如果企业对此并不了解，也将无法获悉这一点。

5、没有创造力和自发性

网络安全技术的目标是为了解决安全问题，因此并不存在完全通用的网络安全方法。就好像在“地面”部署的防御机制可能阻止不了来之“空中”的打击。为了能够及时找出恶意活动，必须要能够应用自发策略来管理特定的攻击。网络专业人士拥有实时遏制网络攻击的专业知识，他们可以用自己的创造力和自发性来应对独特的环境。而这一点正是AI技术所缺乏的，因为它主要是通过持续训练来养成分析和处置行为的。当一些未经过AI算法训练的恶意活动出现时，它将无法保护您的系统，因为AI技术缺乏人类即兴发挥、随机应变的第六感。

6、不切实际的期望

AI技术在网络安全领域的过度炒作让很多用户产生了不切实际的期望。似乎有了AI，就可以不用担心网络攻击了。但这是一个不能实现的承诺，因为AI技术远非完美。AI安全系统是由人设计的，因此根本无法避免漏洞的存在。尽管，AI算法可以为企业提供更好的决策和分析所需的数据，但它并不能为组织的网络安全需求提供“万能的”解决方案。因此，企业在应用AI技术前，必须准确了解它可以为自身的网络安全增加哪些价值，以及应如何实现这种价值。

参考链接：https://www.makeuseof.com/downsides-artificial-intelligence-cybersecurity/