近些年来, 人工智能项目 AlphaGo 和 Libratus 分别在围棋扑克大赛战胜了人类, 成为了里程碑事件通过这些事件显示了近几年来人工智能取得了很大的发展, 但是特别是在过去的一年中 AI 领域出现了一些问题, 让许多人对于新兴技术的整体成熟程度产生了怀疑
以下是对 2017 年 AI 领域的十大败笔的总结, 让我们一起来看一看
1. 被面具破解的面孔 ID
面部识别技术 (Face ID) 是 iPhone X 的面部识别解锁技术, 被誉为迄今为止最安全的人工智能激活方法, 苹果公司宣称其出错率为百万分之一但随后越南公司 BKAV 使用由 3D 打印的塑料硅胶等构成的价值 150 美元面具进行破解并且破解成功在该测试中, BKAV 首先简单的扫描了一下测试对象的脸部, 然后使用 3D 打印机生成的一个脸部模型, 并贴上剪纸眼睛和嘴巴以及硅胶鼻子, 并对该面部模型进行扫描这一测验的结果, 说明该项技术存在很大安全隐患, 并不能很好的保护消费者设备隐私的安全
2. 邻居们因 Amazon Echo 而报警
流行的 Amazon Echo 被认为是最大的智能音箱之一一名德国男子不在家时, 家中 Echo 意外启动, 并在半夜里响起音乐吵醒邻居他们打电话给警察, 警察不得不强行将门打开关闭该音箱
3.Facebook chatbot 被关闭
今年七月, 广泛被报道的两个 Facebook 聊天机器人以无法识别的语言互相沟通后被关闭关于这个谣言淹没了讨论区, 直到 Facebook 官方解释说, 这种神秘的交流只是语法编码监督的结果, 此事才了结
4. 拉斯维加斯无人驾驶公交车运行第一天撞车
今年十一月, 一辆无人驾驶公交车在拉斯维加斯首次亮相, 然而在短短的两个小时的运行中, 该车与一辆货车相撞尽管从技术上来说, 警方鉴定该事故由货车司机引起无人驾驶公交汽车对这起事故不负责但是这辆智能巴士上的乘客抱怨称, 它仍然不够智能反映不灵敏, 当卡车慢慢靠近的时候, 它没有及时规避风险
5.Google Allo 使用头巾表情符号来回应枪支表情
美国有线电视新闻网的工作人员通过 Google Allo 收到了对于手枪表情符号所作回应的表情建议: 一个戴头巾的人的表情符号 Google 公司尴尬地向公众保证, 这个问题已被解决, 并发表道歉声明
6. 双胞胎愚弄汇丰语音 ID
汇丰银行的语音识别 ID 是一个以人工智能为导向的安全系统, 允许用户通过语音命令访问他们的账户尽管该公司声称它和指纹 ID 一样安全, 但 BBC 的一名记者的双胞胎兄弟却能够通过模仿对方的声音访问对方的账户该项实验分为七次, 而汇丰语音识别系统的应对措施是, 确定三次尝试失败后, 关闭账户户限
7.Google AI 将步枪误认为是直升机
麻省理工学院的一个研究小组通过略微调整步枪照片, 欺骗了 Google Cloud Vision API, 使其将步枪确定为直升机这个技巧, 又称不良样本, 会导致由于将图像进行了人眼无法察觉的修改, 使得计算机对图像进行错误分类过去, 对抗的例子只在黑客知道目标计算机系统的基本机制时才会起作用麻省理工学院团队通过触发错误分类而向前迈进了一步, 但却没有获得这些系统信息
8. 街道警示牌愚弄自驾车
研究人员发现, 通过使用油漆或胶带谨慎应用停止标志, 他们可能欺骗到自动驾驶汽车对这些标志进行错误分类用爱和恨这两个词来修饰停车标志, 愚弄一辆自驾车的机器学习系统, 在所有的测试案例中自驾车将其误分类为速度极限 45 的标志
9.AI 将 Bank Butt 误认为 sunset
机器学习研究员 Janelle Shan 训练了一个神经网络, 用以对新生成的油漆颜色与每种颜色的名称相匹配结果与预想大相径庭, 即使在用颜色名称数据进行少量训练之后, 该模型仍然将天蓝色标记为灰色耻骨, 将深绿色标记为 Stoomy Brown
10. 询问 Alexa 需谨慎
亚马逊 Alexa 的虚拟助理可以使网上购物更容易 1 月份圣地亚哥新闻频道 CW6 报道说, 一个六岁的女孩只因向 Alexa 表达了自己的想要一个玩具屋而购买了价值 170 美元的玩具屋并且当播出的电视主持人重复了这个女孩的话时, 一些观众家里的 Alexa 设备再次被启动订购了玩具屋
来源: http://click.aliyun.com/m/42669/