一种对抗样本的识别方法及相关装置

发明专利有效专利

申请号：
CN202080004866.3
IPC分类号：G06N3/04;G06N3/08;G06K9/62
申请日期：
2020-11-17
申请人：
华为技术有限公司

基础信息

权利要求

说明书

PDF全文

法律信息

引证文献

著录项信息

专利名称	一种对抗样本的识别方法及相关装置
申请号	CN202080004866.3	申请日期	2020-11-17
法律状态	实质审查	申报国家	中国
公开/公告日	2021-04-16	公开/公告号	CN112673381A
优先权	暂无	优先权号	暂无
主分类号	G06N3/04 ? IPC结构图谱： G 物理 G0 仪器 G06 计算；推算；计数 G06N 基于特定计算模型的计算机系统〔7〕 G06N3/00 基于生物学模型的计算机系统（仿真生物的功能方面的模拟计算机入G06G 7/60）〔7〕 G06N3/02 采用神经网络模型（用于自适应控制的入G05B 13/00；用于图像模式匹配的入G06K 9/00；用于图像数据处理的入G06T 1/40；用于语音模式匹配的入G10L 15/16）〔7〕 G06N3/04 体系结构，例如，互连拓扑〔7〕	IPC分类号	G;0;6;N;3;/;0;4;;;G;0;6;N;3;/;0;8;;;G;0;6;K;9;/;6;2查看分类表>
申请人	华为技术有限公司	申请人地址	广东省深圳市龙岗区坂田华为总部办公楼变更专利地址、主体等相关变化，请及时变更，防止失效
权利人	华为技术有限公司	当前权利人	华为技术有限公司
发明人	易平;刘浩文;林孝盈
代理机构	深圳市深佳知识产权代理事务所（普通合伙）	代理人	王仲凯

摘要

本申请实施例提供一种防御对抗样本的方法及相关装置，该方法通过将目标神经网络的卷积层的结果输出到反馈重构网络中重构得到重构样本，使得对抗样本对目标神经网络的攻击会干扰自编码器的重构从而放大重构样本的误差，使得对抗样本更容易被检测出来，提高了对抗样本的检测准确率，减少了假阳性率。并且，本申请实施例使用对抗样本检测器通过学习对抗样本与非对抗样本各自的重构误差来判别输入样本是否为对抗样本，由于重构误差会放大对抗样本扰动，所以检测灵敏度更高。

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有引用任何外部专利数据！

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有被任何外部专利所引用！

我浏览过的专利

专利服务由北京酷爱智慧知识产权代理公司提供