对于安全运营团队来说，理想的人工智能通过认知、跟踪、预测和决策，形成终端安全事件的智能处理。结果表明，即使人工智能算法在认知、跟踪和预测过程中犯了不正确，也只会增加漏报和误报，即增加安全团队的工作量。但是，在决策环节，人工智能的不正确会导致无法挽回的结果。比如，WAF(Web应用防火墙)的不正确发展战略会导致网站业务中断，防火墙不正确的规则会导致网络中断，在工程控制、汽车网络场景下，结果会更加严重。

因此，可靠性是人工智能决策算法的压倒性指标，实现可用的智能决策引擎需要满足两个要点：

1、需要有可以证实、可以解释的证据和导向链，而不仅仅是深度神经网络产生的感觉。无法解释的决策是不可用的，不可靠的。

2.我们需要了解信息技术系统中资产的重要性和处理结果。不同的环境，即使受到同样的威胁，决策结果也不同。

现在，即使人工智能算法采用更深的网络，嵌入更多的特征，加入更多的样品，也能达到90%以上的精度，但是如果不能说明根据的话，就不能应用于自主决策，这是智能决策的最大困境。

人工智能:能否超越人工智能。

6年前开始深入学习的时候，网络安全员工想象着基于大数据、人工智能的新型检查技术能否超越传统的入侵检查技术，发现过去难以发现的网络威胁。网络安全产业面临的一大挑战是缺乏专业人才，目前国内网络安全人才差距近百万，我国每年网络安全人才培养数量远远不足以弥补这一差距[6]。目前，人工智能应用于网络安全的最大驱动力是通过算法学习将顶级专家的知识融入模型，通过规模化配置降低整个专家的极限成本。因此，在这种想法下，人工智能最大限度地接近人工(即专家)的智能水平。

至于未来，人工智能能能否帮助我们发现未知漏洞或未知威胁，如通过智能模糊测试、自动攻击系统找到深层次未知漏洞，进行自发多步攻击；或通过学习知识库，主动引导攻击行为的关联，从海量数据中发现新的攻击，甚至可以主动防护等。十年或二十年后，人工智能必须超越顶级人类攻防专家。事实上，攻防武器化已经成为重点发展趋势，但迄今为止需要持续积累知识。攻击者需要补充资产、漏洞和利用(exploit)之间的知识的守护者需要在现有知识库的基础上增加相关性、正确的语义等要素。

从本质上看，现阶段人工智能在互联网安全领域的应用还充满挑戰，主要是由于人工智能缺乏互联网对抗的相关知识，一些知识能够根据日常运中丰富多彩，最终接近人类专家的水准，而一些知识超过了现阶段防守人员现有的知识体系，而强人工智能显然不可以实现真正的全网空间知识自学。