近2年人工智能安全技术进展情况研究
发布时间：2021-11-08 10:35:29 所属栏目：大数据 来源：互联网
导读：随着人工智能技术的发展，人工智能安全技术也呈现出创新发展的态势。人工智能安全技术，包括针对人工智能自身的攻防技术和基于人工智能的攻防技术。本文基于对近2年网络空间安全领域顶级会议技术成果的全面深入分析，从攻击人工智能的技术、防护人工智能的技
|
随着人工智能技术的发展，人工智能安全技术也呈现出创新发展的态势。人工智能安全技术，包括针对人工智能自身的攻防技术和基于人工智能的攻防技术。本文基于对近2年网络空间安全领域顶级会议技术成果的全面深入分析，从攻击人工智能的技术、防护人工智能的技术、基于人工智能的攻击技术以及基于人工智能的防护技术四个方面，研究了人工智能安全技术的最新进展，供大家参阅。 一、攻击人工智能的技术 1. 对抗样本技术 2020年以来，对抗样本技术的发展重点在于不断将对抗样本扩展至音频、软件等非图像领域，以及不断降低黑盒场景下的样本生成代价。 2020年8月，出现了一种对黑盒商用自动语音识别系统进行对抗样本攻击的技术[1]，利用与目标无关的白盒模型增强近似于自动语音识别系统的替代模型，自动生成音频片段作为对抗样本，大多数攻击的开发只需4.6小时的训练数据，就可以确保将几乎100%的目标命令成功转换为可用的对抗样本。 （编辑：常州站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
