机器之能，是机器之心旗下关注全球人工智能产业应用场景及商业化的内容账号。欢迎关注与互动：almosthuman2017
撰文 | 彭君韬（Tony）
编译 | 王宇欣
今年，人工智能项目 AlphGo 和 Libratus 分别在围棋和德州扑克两个领域战胜了世界上最好的人类选手。虽然这些里程碑事件显示了近些年人工智能的发展程度，许多人仍然对新兴技术整体的成熟程度抱有怀疑——尤其是考虑到过去 12 个月中出现的一些人工智能的失误案例。
机器之能是机器智能的铁杆粉丝，这从我们的名字中就可见一斑。但是同样，我们十分清楚地认识到，一些新技术并不能有效地执行自己本来的任务，时常会犯一些人类从不会犯的错误。以下是我们挑选出来的 2017 年人工智能失误事件 Top 10。
面具解锁 Face ID
Face ID，一种用来解锁最新款 iPhone 的面部识别技术，一度被称为迄今为止最安全的人工智能激活方法。苹果公司曾夸口称 Face ID 的解锁失误率仅为百万分之一。但是随后越南公司 BKAV 使用了由 3D 打印的塑料、硅胶、化妆品和一些剪纸制成的面具就成功破解了 Face ID，而面具的造价只有 150 美元。BKAV 只是扫描了测试对象的脸部，使用 3D 打印机生成了一个脸部模型，贴上了一些剪纸眼睛、嘴巴和硅胶做的鼻子。Face ID 的破解给整个行业带来了冲击，加剧了对消费者设备隐私的风险以及更普遍的人工智能技术安全性的考量。
Amazon Echo 故障引发邻居报警
最近大受欢迎的 Amazon Echo 被认为是更加强大的智能扬声器之一。但是没有东西是完美的。一名德国男子的 Echo 在其外出期间被意外唤醒，并在半夜开始大声地播放音乐，吵醒了邻居。邻居报了警，警察不得不打破前门才把 Echo 关闭。事后警察更换了门锁，房子的主人回家时发现自己的钥匙已经打不开自己的房门了。
Facebook 关闭聊天机器人
今年 7 月，媒体铺天盖地地报道，两个 Facebook 的聊天机器人以人类无法识别的语音相互沟通，发现后被关停。关于新的秘密超级智能语言的谣言淹没了各大网站，直到 Facebook 出来解释，这种神秘的交流只是语法编译不力造成的结果，这场风波才渐渐平息。
拉斯维加斯的自动驾驶巴士上路第一天就发生事故
今年 11 月，一辆自动驾驶巴士在拉斯维加斯华丽亮相，包括常驻拉斯维加斯的魔术明星 Penn & Teller 在内的众多名人争相排队试乘。然后，仅仅在两个小时后，这辆公交车就和一辆货车相撞。尽管从技术角度来看，公交车无须为此次事件负责——据警方所说，货车司机才应该为此次事件负责——但是这辆智能巴士上的乘客还是抱怨说，公车还是不够智能，卡车慢慢靠近的时候，它无法摆脱危险。
Google Allo 用头巾表情回应枪支表情
美国有线电视新闻网的员工使用 Google Allo 时收到了一个带有头巾的人的表情建议。而这个表情是因为一个手枪表情触发的回复建议。谷歌尴尬地向公众保证，问题已经得到解决，并向公众道歉。
双胞胎骗过了汇丰银行的声纹识别 ID
汇丰银行的声纹识别 ID 是一个以人工智能为核心的安全系统，允许用户通过语音命令访问自己的账户。尽管汇丰银行声称这套系统和指纹 ID 一样安全，但是 BBC 的一名记者的双胞胎兄弟却能通过模仿声音访问他的账户。实验尝试了 7 次才成功。汇丰立即给出了解决方案，登录失败三次后即锁定账户。
Google 人工智能把步枪错认为直升机
通过略微调整步枪的照片，麻省理工学院的研究小组成功欺骗了 Google Cloud Vision API，让它将步枪照片错认为直升机。这个技巧，也叫对抗样本，是计算机通过进行人眼无法察觉的修改从而使图像分类出现错误。此前，如果黑客知道目标计算系统的基本机制，这种对抗样本才会起效。麻省理工学院的团队通过触发错误分类无须获得系统信息，改进了对抗样本。
路牌黑客愚弄了自动驾驶汽车
研究人员发现，用油漆和胶带对停止标志作出不起眼的修改，他们就可以使自动驾驶汽车对这些标志错误分类。用「love」和「hate」这样的单词修改停止标志，就欺骗了一辆自动驾驶汽车的学习系统。测试集中，自动驾驶汽车的学习系统 100% 将这些停车标志辨认为「限速 45」。
AI 想象了一片「银行臀部」颜色的夕阳
机器学习研究人员 Janelle Shan 训练了一个神经网络，用来生成新的油漆颜色以及给每种颜色起一个匹配的名字。这些颜色可能看起来非常舒服，可这些名字却令人捧腹。使用颜色名称数据进行少量训练之后，这个模型仍然会将「天蓝色」标记为「Gray Pubic」，把深绿色标记为「Stoomy Brown」。
对 Alexa 许愿要小心，说不定一不留神就下单了
亚马逊 Alexa 的虚拟助理可以使网上购物更容易。但是是不是太容易了？1 月份，圣地亚哥新闻频道 CW6 报道，一个六岁的女孩仅仅和 Alexa 说希望要一个玩具小屋，所以她就通过 Alexa 花了 170 美元买了一个玩具屋。据称，当电视播出时，主持人重复了这个女孩的话，说：「我喜欢这个小女孩说的话，'Alexa 给我买了一个玩具小屋'，」一些观众家里的 Alexa 设备再次被触发，然后下单购买了一个玩具屋，不过这个说法的真实性仍然有待查证。
