重庆理工学生“攻陷”图像识别技术,AI安全问题再引热议!

随着人脸识别、动作识别、货物识别、图像识别等应用场景的出现,AI与安全结合的用途越来越广泛。

与此同时,这一新兴技术面临的安全问题也逐渐浮出水面,引起社会的广泛关注。

重庆理工学生“攻陷”图像识别技术,AI安全问题再引热议!-少儿编程网

近日,由阿里和清华大学联合举办的“安全AI挑战者”比赛结束。

重庆理工大学研三学生刘野,运用最少的代码“攻陷”了由清华专家给出的AI图像识别技术题,获得本场比赛的第一名。

重庆理工学生“攻陷”图像识别技术,AI安全问题再引热议!-少儿编程网

这场比赛主要是针对证件文档类图像伪造进行的对抗攻击竞赛,旨在通过实战解决证书文档信息伪造问题。

据刘野透露,每位参赛者会领到1000个图像文件,他们需要编写代码,让计算机自动修改图像的像素点,使得AI无法识别出画面上的人。

谁编写的代码修改像素越少并且越能阻止人工智能识别,谁就胜出,刘野为了完成比赛足足花了半个月时间钻研。

重庆理工学生“攻陷”图像识别技术,AI安全问题再引热议!-少儿编程网

“每张图像的像素点有500×500,有25万个。我修改了平均大约1200个,修改的像素点其实很少的。”刘野说到。

据了解,这项“安全AI挑战者计划”由清华大学和阿里巴巴联合举办,目的就是通过对现有AI技术的攻陷,来发现问题,从而抵御现实应用中的安全风险。

重庆理工学生“攻陷”图像识别技术,AI安全问题再引热议!-少儿编程网

竞赛题目以对抗样本为核心,提供场景、技术、数据、算力等支持,召集“挑战者”以防守者的身份打磨AI模型安全,发掘培养更多新基建安全技术人才。

在此前举办的4期比赛中,主题分别为人脸对抗识别比赛、ImageNet图像对抗比赛、辱骂场景文本对抗比赛、通用目标检测的对抗攻击。

这几个主题都是目前AI与安全结合最多,且最受人们质疑的点。

参赛者们通过代码修改像素形成的“对抗样本”,肉眼看上去没有什么变化,但足以影响人工智能的判断。

重庆理工学生“攻陷”图像识别技术,AI安全问题再引热议!-少儿编程网

比如说一只狗的图片,AI可以很容易推出这是一条狗,但是对抗样本的出现,可以对狗的图片做一些人眼不可察觉的改变,让机器识别不出来它是狗,甚至可以指定让算法识别出它是一只猫。

这个过程可以提前暴露人工智能的局限性,促进技术的进一步发展。

一旦比赛模拟的情况在现实生活中出现,人工智能真的受到攻击,就可能有监控摄像头认不出画面里的人、自动驾驶汽车识别不到前方障碍物等存在安全风险的情形发生。

本文链接:重庆理工学生“攻陷”图像识别技术,AI安全问题再引热议!

转载声明:本站文章若无特别说明,皆为原创,转载请注明来源:少儿编程网,谢谢!^^


*文章为作者独立观点,不代表少儿编程网立场
发表评论

坐等沙发
相关文章
少儿编程对孩子的成长发展很重要
少儿编程对孩子的成长发展很重要
编程教育会是世界各国下一场科技竞争
编程教育会是世界各国下一场科技竞争
未来stem课程的发展之路
未来stem课程的发展之路
如何通俗易懂地解释什么是算法?机器人编程与少儿编程教育区别?
如何通俗易懂地解释什么是算法?机器人…
游戏化的少儿编程为什么那么受欢迎?
游戏化的少儿编程为什么那么受欢迎?
少儿编程是什么?升学利器,谋生工具?未来前景,长远投资?让这篇文章来解答你的疑惑!
少儿编程是什么?升学利器,谋生工具?…
学生都说我是编程界的“吴彦祖”