新知榜官方账号
2023-11-28 18:02:13
人脸识别和目标检测的普及,使得对抗样本越来越受到关注。本文介绍了一种基于对抗样本设计的T-shirt,可以使穿戴者在AI检测系统中“消失无形”。在介绍该方法之前,我们先来了解一下对抗样本的概念。
对抗样本是指将原始输入样本进行微小扰动,使得经过深度学习模型处理后,输出结果发生改变的样本。这种样本对于人眼来说很难察觉,但对于深度学习模型却有很大的影响。
对抗样本的产生和深度学习模型的训练密切相关。通过大量样本学习得到的深度神经网络几乎是必然的存在大量的对抗样本。这种特殊且奇妙的现象来源于神经网络本身,且形成原因至今没有明确的定论。
本文介绍的基于对抗样本设计的T-shirt,可以使穿戴者在AI检测系统中“消失无形”。该T-shirt的设计基于多种转换,如缩放、旋转、模糊、光线变化和随机噪声等,利用EOT算法和TPS变化模拟衣服的褶皱规律,生成对抗样本,使得穿戴者对目标检测系统变得无法检测。
实验结果显示,该方法可以达到57%的攻击成功率,较其他方法有明显提升。该研究旨在通过指出神经网络的脆弱性和易攻击性,让更多的人意识到神经网络的安全问题,最终目的是帮助AI领域构建更加鲁棒的神经网络从而可以对这些对抗样本不再如此敏感。
相关工具
相关文章
相关快讯
推荐
中国首款3A游戏上线,《黑神话:悟空》出圈!
2024-08-21 13:46
盘点15款AI配音工具,短视频配音有救了!
2024-08-12 17:11
短视频文案没创意?10大AI写作工具来帮你!
2024-08-05 16:23
Midjourney发布V6.1版本,我已分不清AI和现实了!
2024-08-01 15:03
我发现了一款国产AI绘画神器,免费易上手!
2024-07-25 16:40
7位AI考生做今年高考题,能过一本线吗?
2024-07-19 17:17
世界上第一所AI学校来了,80亿人只需要1位老师?
2024-07-18 17:12
Sora首部AI广告片上线,广告从业者危险了!
2024-06-27 13:44
OpenAI与中国说拜拜,国产AI如何接棒?
2024-06-26 15:18
人与AI会产生爱情吗,专家发话了!
2024-06-17 17:28