2018 年十大 AI 失败案例,董明珠“被抓拍”乌龙事件上榜

0 Comment

2018 年十大 AI 失败案例,董明珠“被抓拍”乌龙事情上榜

 · 
2018-12-20
新兴技巧和有偏见的数据也会犯下人类无法设想的过错。

编者按:2018年人工智能行业有哪些失败案例?本文举行了全面的总结。本文编译自medium,原文标题

2018 年十大 AI 失败案例,董明珠“被抓拍”乌龙事情上榜

人工智能已取患了显著的进步,许多科学家梦想发明出Pedro Domingos提出的“主算法”——能够

呐喊解决人类设想的所有问题。但是
研讨职员、新兴技巧和有偏见的数据也会犯下人类无法设想的过错。

这就是为什么咱们有必要总结人工智能的失败之处:这篇文章的目的不是贬低或讥笑研讨和开发了局,而是看看哪里出了问题,以便下次能做得更好。

以是,让咱们来总结一下2018年的10大人工智能失败案例。

中国著名企业家被误识为交通违纪职员

中国的主要都会目前已在使用人工智能来解决乱穿马路的问题。交通警察部门在十字路口部署了使用脸部
辨认
技巧的智能摄像头,以检测和辨认
乱穿马路的人,这些人的部分名字和面目面貌会被模糊地显示在公共屏幕上。

但是
,中国南方都会宁波的人工智能系统比来上演了为难一幕,因为它过错地将公交车身上董明珠的广告“辨认
”成了闯红灯的真人。这一过错迅速传遍了中国各大社交媒体,宁波警方为此报歉。但董明珠并不担心,还在微博上写道:“误拍是小事。平安重要。”

CloudWalk深度深造研讨员Zhou Xiang告诉Synced,问题可能出在缺乏实时检测上。“在这个间隔的情形下举行实时检测仍是有一定困难的,虽然将图象辨认
为真人如今非常遍及。”

2018 年十大 AI 失败案例,董明珠“被抓拍”乌龙事情上榜

董明珠的面目面貌出如今公共屏幕上

Uber的主动驾驶汽车闯祸致行人殒命

3月28日,美国亚利桑那州Tempe市,一辆Uber主动驾驶SUV撞倒一名女性行人,导致其殒命。Uber的车辆当时处于主动驾驶模式。

Uber发现,主动驾驶软件在汽车传感器检测到行人后决定不采取任何制动。美国国家运输安全委员会(US National Transportation Safety Board)对这起事故的初步调查报告显示,Uber的主动驾驶模式使Volvo工厂装置的主动紧急制动系统失效。

这场悲剧产生
后,Uber暂停了在北美都会的主动驾驶测试,Nvidia和Toyota也停止了在美国的主动驾驶公路测试。事故产生
8个月后,Uber宣布计划恢复匹兹堡的主动驾驶公路测试,不外该公司将来的主动驾驶愿景仍不确定。

2018 年十大 AI 失败案例,董明珠“被抓拍”乌龙事情上榜

Uber事情ABC15台截屏.

IBM的Watson 系统在医疗方面力有不逮

根据Stat取得的外部

暮气文件,佛罗里达州Jupiter病院的一名大夫在谈到IBM的旗舰人工智能程序Watson时默示:“这款产物简直就是一坨屎。”IBM最初将Watson作为答录机开发,开初也探索其在包孕医疗在内的广泛使用。2013年,IBM开发了Watson在癌症推荐疗法方面的首个商业使用程序,过去5年里,该公司与多家病院和研讨中心建立了合作关系。但Watson的AI能力并无给大夫留下深入印象。一些人抱怨它在癌症治疗方面给出的过错的提议可能会导致严重甚至致命的后果。

据报道,IBM在这个项目上花费了数年时间,却没有取得重大希望,如今该公司正在精简Watson医疗系统,扩充该部门一半以上的员工。

亚马逊的人工智能招聘软件存在性别蔑视

据报道,亚马逊人力资源部在2014年至2017年期间使用了一款支撑人工智能的招聘软件,帮忙审查简历并提出提议。但是
,该软件被发现对男性求职者更有利,因为它的模式是根据过去10年提交给亚马逊的简历举行设计的,当时亚马逊聘用了更多的男性求职者。

据报道,该软件会对简历中含有“女性”字样或暗示申请者是女性的简历举行降级。亚马逊开初放弃了这款软件。该公司没有否定使用该对象来提供推荐,但默示从未将该对象用于评估求职者。

DeepFakes暴露出人工智能不得体的一面

去年12月,Reddit网上涌现了一些国际顶级女星的色情视频,原因是“DeepFakes”将明星的脸与色情视频中女性的脸举行了交流。虽然脸部
交流技巧已发展了很多年,但DeepFakes的方式表明,任何拥有足够多脸部
图象的人,如今都能够制作出非常有说服力的假视频。

今年,逼真的名人假视频依旧充斥着互联网。虽然从技巧上讲,这种方式不算“失败”,但其潜在的危险是严重而深远的——视频证据不再可信可能会进一步鼓励子虚新闻的传布。

2018 年十大 AI 失败案例,董明珠“被抓拍”乌龙事情上榜

Daisy Ridley的面目面貌出如今了色情视频的女性脸上

谷歌 Photo涌现了bug

谷歌 Photo能够主动检测具有相同背景或场景的图象并将它们合并成一张全景。今年1月,Reddit用户“MalletsDarker”发布了三张在滑雪胜地拍摄的照片:两张是风景照,另外一张是他伴侣的照片。当谷歌 Photo将这三张照片合并在一起时,就涌现了上面这张搞笑的图片。

社交媒体赞扬了谷歌算法对图象的奇妙
混杂,同时讥笑了它在构图基础方面的愚蠢。

2018 年十大 AI 失败案例,董明珠“被抓拍”乌龙事情上榜

谷歌 Photo的合并照片

LG的机器人Cloi遭受
滑铁卢

LG的物联网助手Cloi本应于1月8日在拉斯维加斯的国际生产电子展(CES 2018)上大显身手的。Cloi本来应当能够

呐喊辨认
控制家电的语音命令。但是
,当这款可爱的机器人举行现场演示时,观众们发现它没有回应LG营销总监的指令,气氛一度变得十分为难。

Boston Dynamics的机器人“意外”时刻

软银行旗下的机器人制造商Boston Dynamics今年不止一次在互联网上出风头了——该公司生产的机器狗SpotMini能够用身上的机械臂灵敏

伶牙俐齿地开门;它的人形机器人Atlas也能做到跑酷了——顺利地跳过一段圆木或一系列40厘米的台阶却不用减速。

但Boston Dynamics也有“糟糕”的时刻——在将来科学家和技巧专家大会(Congress of Future Scientists and Technologists)上首次亮相时,Atlas在一次演示中举起了盒子,但正当表演救赎准备离开时,这个不幸的机器人被帘子绊倒了,笨拙地从舞台上摔了下来。不外,它摔倒的样子倒也挺像人类的。

2018 年十大 AI 失败案例,董明珠“被抓拍”乌龙事情上榜

Boston Dynamics的机器人 Atlas跨过一段圆木

人工智能对世界杯了局的预测几乎局部过错

2018年世界杯期间,高盛(Goldman Sachs)、德国多特蒙德理工大学(Technische University of Dortmund)、Electronic Arts、Perm State National Research University等机关的人工智能研讨职员利用机器深造模子预测了多阶段比赛的了局。但是
,大多数预测都完全过错,只有EA正确地预言了冠军是法国队。EA游戏引擎由许多机器深造技巧支撑,这些技巧旨在使玩家的表现尽可能逼真。

SQL Services数据科学家Nick Burns对此做出了解释:“不管你的模子有多好,它们也只是建立在你数据的基础上罢了……而近期的足球数据还不足以预测世界杯的表现,有太多的信息缺失和未定义的影响存在。”

2018 年十大 AI 失败案例,董明珠“被抓拍”乌龙事情上榜

一家创业公司声称能够从脸部
图象预测智商

以色列一家机器深造领域的创业公司Faception声称其人工智能技巧能够剖析脸部
图象和骨骼结构,从而显现人们的智商、个性,甚至暴力倾向。数据科学家Ben Snyder在Twitter上谴责该公司的技巧说:“这是颅相学和种族蔑视”。这条推文已被转发了6500多次,点赞17000次。

2018 年十大 AI 失败案例,董明珠“被抓拍”乌龙事情上榜

Faception的网页截图

编译组出品,编辑:郝鹏程