2022-04-23 18:06:57 中国财经观察网 来源:网易 阅读量:19387
研究人员收集令人困惑的图像以暴露人工智能视觉的弱点
从上到下,从左到右,这些图像被错误地识别为数字时钟,灯塔,器官,注射器,巨嘴鸟,波斯猫。
非常需要研究这些图像当我们将机器视觉系统置于人工智能安全摄像头和自动驾驶汽车等新技术的核心时,我们相信计算机以与我们相同的方式看待世界对抗性图像证明他们没有
对抗性图像利用机器学习系统的弱点
为了证明这一点,来自加州大学伯克利分校,华盛顿大学和芝加哥大学的一组研究人员创建了一个包含大约 7,500 个自然对抗样本的数据集他们用这些数据测试了许多机器视觉系统,发现它们的准确度下降了 90%,在某些情况下,该软件只能识别 2% 或 3% 的图像
您可以在下面的图库中看到这些自然对抗样本的样子:
网格视图
8 个中的 1 个
叶子上的虫子被误认为是沉船。物联网平台型公司能够实现多场景海量数据的收集及分析,是AI海量数据输入与物联网万物互联结合的关键。具体而言,物联网平台型公司的价值在于:。
在随附的论文中,研究人员表示,这些数据有望帮助训练更强大的视觉系统他们解释说,这些图像利用了源于软件过度依赖颜色,纹理和背景线索的深层缺陷来识别它所看到的内容
在下面的四张蜻蜓图像中,AI 对颜色和纹理进行了磨练,从左到右分别是臭鼬,香蕉,海狮和手套在每种情况下,您都可以看到为什么会犯错误,但这并不会让它变得不那么明显
人工智能系统犯这些错误并不是新闻多年来,研究人员一直警告说,使用深度学习创建的视觉系统浅薄和脆弱——这意味着他们无法以同样的细微差别理解世界和作为人类的灵活性
有关的
这个彩色印刷补丁让你几乎看不到人工智能
这些贴纸让计算机视觉软件产生不存在的幻觉
Magic AI:这些是欺骗,愚弄和flummox计算机的错觉
但这是否意味着这些机器视觉系统已不可挽回地损坏了一点也不所犯的错误通常是微不足道的,例如将排水盖识别为检修孔或将货车误认为是豪华轿车
虽然研究人员说这些自然对抗样本会骗过很多视觉系统,但这并不意味着他们会骗过所有人许多机器视觉系统都非常专业,例如用于在医学扫描中识别疾病的机器视觉系统虽然这些都有自己的缺点,但他们无法像人类一样了解世界并不能阻止他们发现癌性肿瘤
机器视觉有时可能很快而且很脏,但它通常会得到结果这样的研究向我们展示了下一步需要填补的盲点
。