【瘦身塑形秘诀】看!AI 自拍标识也有不靠谱的一面

看!看A靠谱AI 自拍标识也有不靠谱的拍标一面

尽管现代人工智能常常因其日益成熟的表现而受到称赞,但它与“世界末日”等的识也字眼扯上关系的时候更多,即人工智能革命将使数以百万计的看A靠谱工作实现自动化,消除现实与技巧之间的拍标障碍,并最终迫使人类走向灭绝的识也瘦身塑形秘诀边缘。

不过,看A靠谱就目前而言,拍标大多数人工智能的识也能力有限,只能在经过专门培训的看A靠谱特定领域有用,比如下棋,拍标或是识也翻译。用一个机器人去完成其能力之外的看A靠谱任务,往往会得到滑稽可笑的拍标结果——这恰恰是使用 ImageNet Roulette(基于 ImageNet 的人物类别训练 AI 工具)的乐趣所在。

艺术家兼研究人员 Trevor Paglen 与人工智能研究人员 Kate Crawford 共同打造了“Training Human 图像识别系统史展览”,识也 ImageNet Roulette 也在展览中扮演着重要角色。针对该展览举办的旅行攻略定制目的,Trevor Paglen 解释说,该展览旨在研究人工智能当前的形式,以及它繁琐的学术和商业历史,而不是对其进行评判。

另一位创办人 Kate Crawford 也曾表示:

两年前,我们开始构思这个展览的时候就想要通过计算机视觉和 AI 系统对人像的识别来展示图像识别史。我们对人工智能的炒作营销,以及未来反乌托邦机器人的户外装备选择故事都不感兴趣,只想切实地了解 AI。为了达到目的,我们就必须弄明白图像识别系统的运作方式,并且严谨严谨地对待用于训练的图片——这是机器视觉发展的重要因素。

从某种程度上来说,这个项目意义重大,即便 ImageNet Roulette 的表现展示了 AI 滑稽的一面。例如下图:

看!AI 自拍标识也有不靠谱的一面

测试人员表示自己不抽烟,但 ImageNet Roulette 却将其标记为 Pipe Smoker(吸烟者)

看!AI 自拍标识也有不靠谱的一面

雷锋网注:上面二图来自 The Verge

测试人员正坐在自己的办公室内,ImageNet Roulette 却认为其位于机舱中,并将其标记为 steward,flight attendant(空乘人员)。

实际上,ImageNet Roulette 的诞生就是为了让公众更加清楚明了地了解关于机器学习系统;它的背后,也集成了来自各方的“力量”。

雷锋网获悉,ImageNet Roulette 使用了开源的 Caffe 深度学习框架(由加州大学伯克利分校研发),该框架针对“人员”类别中的图像和标签进行培训。当用户上传照片时,应用程序首先运行人脸检测器来定位人脸;锁定之后,就会将人脸信息发送到 Caffe 模型进行分类;然后在原图边界框显示检测到的人脸和分类器分配给图像的标签。

该项目的启动也有一部分原因是为了突出 ImageNet 将人标记为“problematic”(有问题的)和 “offensive”(冒犯的)等缺陷。Twitter上就有过这样的例子,一些上传照片的男性被随机标记为“强奸嫌疑人”。Trevor Paglen 表示,这对于该项目所强调的主题之一至关重要,即人工智能系统的不可靠性。

ImageNet 数据集中包含了许多诸如“有问题的”、“攻击性的”和“怪异的”,甚至是“厌女症”、“种族歧视”等类别,而这些说法都来自 WordNet。由于 ImageNet Roulette 的结果基于 ImageNet,这些类别也将在 ImageNet Roulette 的结果中出现。

不过,从另一方面来说,这未尝不是件好事——这能够说明,基于有问题的数据而进行训练,得到的结果极有可能也是有问题的。ImageNet Roulette 让人们直观地看到机器“犯错”,这种情况很少见,要知道,人工智能对人类对象的分类结果几乎不会对被分类的对象公开。

雷锋网小结

尽管在有些时候,ImageNet Roulette 的“犯错”看起来是一种有趣的消遣,但它传递出来的信息却让人感到些许失望。值得欢天喜地的是,这个项目至少探索了两个至关重要的问题,即人类如何通过训练集来解释和展示信息,以及技术系统如何接收和使用信息。