[南京日报]南理工新技术获国际“挑战问题赢家”奖 恶意软件休想再借人工智能逃监测

本报讯(通讯员 代成 记者 谈洁 实习生 周天) 昨天,记者从南京理工大学获悉,该校计算学院李千目教授团队开展的“面向人工智能对抗性恶意样本的监测技术”成果在国际人工智能领域最高级别的学术会议之一“AAAI2019”上发表,算法及其实验获得了大会“Challenge Problem Winner(挑战问题赢家)”奖,是中国信息安全学者首次获得该奖项。该成果提高了在对抗环境中智能恶意软件监测方法的可靠性和安全性。

长期以来,恶意软件作为社会公共安全的重要威胁,成为公安、工信和交通管理等部门监测打击的目标,但恶意软件研制人员为逃避监测,运用了对抗性恶意样本生成和注入等新型人工智能技术。

李千目教授团队针对当前大量现有监测系统中的机器学习算法容易受到对抗性逃避监测的人工智能算法攻击这一现状,开展了研究。

“我们在尝试增强深度学习模型,主要利用人工智能分类器对恶意软件进行分类,以恶意软件为输入样本,分为训练数据集和测试数据集两部分。”该团队李德强博士介绍,他们在训练阶段,训练多个人工智能分类器的集合,在每个分类器上都将所提出的原则系统化地加以运用。

在测试阶段,将样本输入至每个分类器,最后根据所有分类器的投票结果确定样本是否对抗性恶意软件。“这项技术的关键是在训练阶段中,我们创新地提出了一些设计和规避的原则,用于恶意软件分类的设置中,增强智能分类器对抗逃避攻击的可靠性和安全性。”

李千目介绍,这项研究成果应用很广泛,可用于规范工业互联网、智能无人系统等领域的顶层安全设计,也可用于指导智能平台、工业互联网的产品安全研制。