首页 > 人物 >

戴上“白帽子” 人工智能投身网络安全攻防战

面对计算机系统和网络的缺陷和漏洞,黑客们找准机会实施攻击,白帽黑客则利用黑客技术来测试网络和系统的性能以判定它们能够承受入侵的强弱程度。短短几年时间,人工智能已进驻多个行业,落地无数场景。其中一些行业和场景已为大家所熟知,还有一些正在进入我们的视野,在网络安全领域,AI“白帽”正成为网络安全工程师的得力助手。

据报道,近日美国市场调研公司CB Insights发布报告预测了2019年人工智能行业的发展趋势,其中一个趋势便是用人工智能发现网络威胁。

正在赋能网络安全

“人工智能技术的蓬勃发展,为网络安全攻防带来的,不仅有机遇,也有挑战。”北京理工大学网络攻防对抗技术研究所所长闫怀志接受科技日报记者采访时说。

先说好的一面。360安全研究院邹权臣博士告诉科技日报记者,目前人工智能已经应用于恶意代码检测、恶意流量检测、威胁情报收集、软件漏洞挖掘等网络安全领域。

“例如在恶意代码检测方面,人工智能通过对恶意程序的API调用序列、系统CPU利用率、收发的数据包等信息,自动识别恶意代码的特征,进而判定分类。”邹权臣介绍,相比于传统的基于动静态分析的特征检测、启发式检测技术,人工智能可以大幅度提升检测的准确率。

360安全研究院研究员张德岳介绍,在软件漏洞挖掘方面,采用人工智能技术从漏洞相关的数据中提取经验和知识,并用训练好的模型提高漏洞挖掘的精度和效率,可以缓解当前该领域研究遇到的一些瓶颈问题,具体应用场景包括漏洞程序筛选、源代码漏洞点预测等。

“人工智能在网络安全领域的应用日益广泛,运用人工智能赋能网络空间安全,主要体现在主动防御、威胁分析、策略生成、态势感知、攻防对抗等诸多方面。”闫怀志说,其中包括采用人工神经网络技术,来检测入侵行为、蠕虫病毒等安全风险源;采用专家系统技术,进行安全规划、安全运行中心管理等;此外人工智能方法还有助于网络空间安全环境的治理,比如打击网络诈骗。

具备明显“过人之处”

与传统的应对网络安全的方式相比,人工智能确实展示了其“过人之处”。

在闫怀志看来,人工智能方法在解决人力所不及的安全大数据统计和抽取规律方面具备天然优势,它能够全面提高威胁攻击的识别、响应和反制速度,提升风险防范的预见性和准确性。特别是在异常行为检测等应用场景模糊的非精确识别和匹配方面,更是如此。

“人工智能针对未知威胁和攻击的检测也更出色。因为传统的特征匹配方法对未知威胁几乎无能为力,而人工智能方法有时不需要先验知识,对未知威胁的检测能力较强。”闫怀志说。

不得不说,人工智能系统还具备成本效益优势。闫怀志认为,人工智能可以在第一时间发现和识别预防威胁,并立即启动应急响应,高效的智能检测流程有助于减少人工参与、简化流程、降低成本、减小损失。

“传统的应对网络安全的方法依赖于人工硬编码定义、提取特征的方式完成相关任务,而人工智能可以直接对原始数据进行训练,从大量的数据中提取特征,自动完成分类判定的工作。”张德岳说,如此一来后者既可以提高网络安全中预测、防范、检测、销控等各个风险环节的自动化和智能化程度,又能提升响应速度和判定的准确率。

不能靠它包打天下

“虽然人工智能搅动了网络安全领域的一池春水,但是应该理性看待人工智能在应对网络安全方面的优缺点,不能指望全靠人工智能来包打天下。”闫怀志说,人工智能在应对网络安全问题时,也有较强的局限性。

邹权臣分析,这一方面受限于人工智能算法本身的能力。因为传统的机器学习技术依赖特征提取,而算法的效果和性能又依赖识别和提取特征的准确性。深度学习具有在高维数据中自动提取特征的能力,同时面临着持续学习、数据饥饿、可解释性等问题。

“另一方面机器学习、特别是深度学习过分依赖数据,但在恶意代码检测、软件漏洞挖掘等领域,目前仍然存在数据收集困难的问题,缺少较好的数据集用于训练,影响对相关领域的研究。”邹权臣补充说,另外人工智能严重依赖于耗费计算资源,复杂的深度学习网络需要同时计算成百上千万次的计算,需要强大的人工智能芯片计算力的支撑。

闫怀志则从不同方面总结了人工智能的不足。比如,易于忽视或者抛弃人类专家在网络安全领域的知识和经验积累,对网络安全的复杂应用场景考虑不足,对于已知威胁的检测效率远低于传统的精确特征识别方法等。

“使用神经网络和深度学习等算法,能够较好地识别出未知攻击威胁风险,达到‘知其然’的目的,但是这些算法通常无法揭示产生这种安全风险的基本机理,也就是‘不知其所以然’,从而为从源头防御这种攻击风险带来极大障碍。”闫怀志说。

脆弱面带来安全风险

人工智能在应对网络安全问题时,有时甚至会展现出脆弱的一面。

“一个真实环境中的人工智能系统,会面临数据安全、模型/算法安全、实现安全等多方面的安全威胁。”张德岳告诉科技日报记者。

张德岳举例说,在数据安全方面,在数据收集与标注时出现错误或注入恶意数据,将导致数据污染攻击;在模型/算法安全方面,针对人工智能算法存在黑盒和白盒对抗样本攻击,可导致识别系统出现混乱;在实现安全方面,除了人工智能系统本身的代码实现,其所基于的人工智能框架以及所依赖的第三方软件库中的软件实现漏洞,也都可能导致严重安全问题。

“人工智能对现有网络安全格局的影响,离不开算法、数据和计算能力3个方面,其容易遭受攻击的弱点也来自于此。”闫怀志总结说。

对于防范人工智能的脆弱性所带来的安全风险,闫怀志指出:首先要从体系架构、系统算法容错容侵设计、漏洞检测和修复、安全配置等方面来增强人工智能系统自身的安全性;其次,要用其所长,尽量减小其暴露给外界的潜在攻击面;最后要构建网络空间安全综合防御体系,从安全技术和安全管理等层面来协同防范安全攻击,间接减缓攻击者直接针对人工智能系统发起攻击以及攻击成功的可能性。

来自360安全研究院的专家也给出多个建议,其中包括:在数据获取过程中,要加强对数据来源的控制与过滤,在一定程度上保证数据安全可靠;在数据传输过程中,要使用更加安全的传输协议与加密算法;在人工智能系统的实现中,要保证代码质量并进行完善的测试,此外还要及时更新或修补框架或依赖库中存在的漏洞等。(刘园园)

责任编辑:Rex_22

122期四不像生肖图免费 内黄县| 阜新| 湘乡市| 黑水县| 理塘县| 奉新县| 苏州市| 富宁县| 尉氏县| 罗甸县| 启东市| 邵东县| 义马市| 西平县| 绥芬河市| 白水县| 手机| 师宗县| 宜宾市| 辽宁省| 新龙县| 高淳县| 广水市| 清河县| 略阳县| 昭苏县| 房山区| 沙河市| 湾仔区| 杂多县| 越西县| 福清市| 河南省| 安吉县| 雷山县| 新龙县| 利津县| 宜君县| 广饶县| 新津县| 塔城市| 大同市| 灌南县| 辽阳市| 安阳县| 兰溪市| 彰化县| 盐津县| 衢州市| 安龙县| 海伦市| 泸定县| 永清县| 翁牛特旗| 禄丰县| 宁武县| 山西省| 锡林浩特市| 雷州市| 孝义市| 潞西市| 华阴市| 濉溪县| 武城县| 东明县| 灵台县| 卢湾区| 南岸区| 中卫市| 金平| 景东| 乌海市| 乌拉特前旗| 南靖县| 锦州市| 额敏县| 武冈市| 安远县| 佛学| 信阳市| 博客| 合肥市| 平乐县| 寻甸| 天镇县| 定襄县| 衡水市| 饶阳县| 措美县| 调兵山市| 兰州市| 温泉县| 钟祥市| 台中市| 武夷山市| 云南省| 双江| 偏关县| 安吉县| 桐庐县| 扶余县| 崇明县| 台安县| 左贡县| 湘潭市| 蚌埠市| 吴堡县| 常州市| 永德县| 朝阳市| 江源县| 建始县| 台南县| 连南| 宜良县| 洛川县| 宜良县| 大悟县| 栖霞市| 大田县| 天祝| 灵宝市| 兴城市| 南溪县| 南涧| 固安县| 南平市| 江油市| 腾冲县| 天峻县| 手游| 高陵县| 都兰县| 华阴市| 阿克陶县| 赫章县| 阿鲁科尔沁旗| 江永县| 麻栗坡县| 东乌珠穆沁旗| 吉木萨尔县| 洛宁县| 永昌县| 阿尔山市| 朝阳县| 秭归县| 吉首市| 吴江市| 东乌珠穆沁旗| 安徽省| 顺义区| 辰溪县| 左权县| 佛冈县| 中超| 绥芬河市| 巴中市| 刚察县| 霍林郭勒市| 凌源市| 固镇县| 永康市| 四子王旗| 星座| 景洪市| 嘉鱼县| 龙游县| 万宁市| 方山县| 蓝山县| 读书| 盐山县| 胶州市| 大新县| 威宁| 奎屯市| 辽阳县| 多伦县| 葫芦岛市| 铁力市| 桃园市| 宜宾县| 莲花县| 威信县| 凉山| 太谷县| 灯塔市| 陵川县|