编者按: 关于人与机器 (工具), 过去其实有着两条故事线索, 一条是 AI(人工智能) 的故事, 这是一个英雄 (或者恶棍) 崛起的故事; 一条是 IA(智能增强)的故事, 这是思想之轮高开低走的故事 AI 的崛起让我们提出了如何与我们的创造物共处的问题, 而智能增强 (IA) 让我们有了全新的思考生活及存在方式那个问题的答案就在 AI 与 IA 身上人类与 AI 的共处之道在于优势互补: 人类最擅长提问, AI 最擅长解答; 在于要共赢而不是零和: 共生才是大自然之道 MIT 的这篇 文章 值得好好读一读
卡斯帕罗夫畏缩了, 那表情就好像有人朝他的早餐吐了一口口水一样兵进 F5 深蓝仍旧沉默, 就好像它刚刚朝某人的早餐吐了一口口水一样车进 E7: 吃掉了卡斯帕罗夫的后这是第六局, 但在第二局结束被深蓝击败的时候卡斯帕罗夫就已经失去了勇气, 此后双方就一直打成平局卡斯帕罗夫走出的这一步将是他的最后一步象至 E7 吃掉刚吃了他的后的车深蓝做出反应兵进 C4 卡斯帕罗夫迅速意识到深蓝这是准备用它的后来进攻了他知道大势已去
才走了不到 20 步, 加里. 卡斯帕罗夫就投子认负 1997 年 5 月 11 日, IBM 的深蓝成为击败人类国际象棋世界冠军的第一个 AI
现在你可以把比深蓝还要厉害的 AI 下载到笔记本
来自 ESPN 纪录片: 人与机器: 卡斯帕罗夫耸耸肩离开座位的那一刻
AI 的故事
这就是几十年来我们一直在讲给自己听的故事: 这是人与机器之战, 是造物主与创造物之战, 会随岁月老去的血肉之躯与光滑如初的硅模块之战不管我们对 AI 的担心是近忧还是远虑, 都源自同一种恐惧: 害怕 AI 不会具备跟人类一样的目标和价值观 更糟糕的是, 我们告诉自己, 人与人以及人与 AI 的关系就像一场国际象棋游戏:
零和有一个玩家获胜另一个玩家就得输掉
卡斯帕罗夫要求重赛他指责 IBM 有人暗中在帮助深蓝, 此外, 他在 1997 年输掉的那场比赛也是他在 1996 年干净利落地击败了深蓝之后的重赛再重赛一次再公平不过
IBM 拒绝了他们干掉了深蓝, 然后打包回家(安息吧深蓝, 19891997)
但是卡斯帕罗夫止不住在想: 如果一个人类跟一个 AI 一起合作会怎样? 次年, 也就是 1998 年, 卡斯帕罗夫举办了全球第一次半人马国际象棋赛类似于半人马这种神话形象, 这些半人马也是一半是人类一半是 AI 组成的团队
但是如果人类下国际象棋比不上 AI 的话, 人 + AI 的组合岂不是要比单个的 AI 更弱? 难道计算机不会被人类拖慢吗? 就像博尔特跟一只胖嘟嘟的大熊猫绑在一起跑二人三腿赛一样? 2005 年, 在卡斯帕罗夫的半人马赛的启发下, 一项网上的国际象棋锦标赛试图回答这个问题他们邀请了各种各样的参赛选手, 比如超级计算机人类大师人机组合等来角逐一项大奖
不出意料, 人机组合的半人马击败了纯粹的人类不过令人吃惊的是 人机组合的半人马也击败了纯粹的计算机
这是因为, 智商这东西跟网上那些不科学的骗点击的 IQ 测试不一样, 它不是一维的 (在不同的认知任务中, g 要素, 也就是所谓的一般智力进展个人表现的 30 到 50% 所以尽管这是个很重要的维度, 但并不是唯一的) 比方说, 人类大师擅长远期的下棋策略, 但不擅长看清楚眼前的几百万种下法应该下哪一步更好而下国际象棋的 AI 正好相反因为人类与 AI 在不同的维度上面正好优势互补, 所以这两个组合出来的半人马就能够击败纯粹的人或者计算机之流
但是在我们擅长的维度 AI 难道最终不会变得更好吗? 也许但是, 需要考虑一下没有免费的午餐, 这条定理恰恰出自机器学习领域本身该定理指出, 在不考虑具体问题的情况下, 没有任何一种算法会比另一种算法更优, 甚至随机胡猜的效果反而更好: 也就是说, 智能必须有专长松鼠这种智能体的专长在于成为一只松鼠人类这种智能体的特长是做人类如果你经历过设法阻止松鼠接近你的喂鸟器的不愉快的话, 你就会知道在某些智能维度上甚至松鼠也比人聪明这也许是我们的一线曙光: 在某些维度上人类比计算机聪明的局面甚至还会继续下去
现在, 人机的结合不仅解决了一个技术问题如何用 AI / 人类的优势克服人类 / AI 的劣势, 而且还解决了那个道德问题: 如何确保 AI 跟我们人类拥有一样的目标和价值观?
解决的办法很简单: 如果你不能打败他们, 那就加入他们 !
本文剩下的内容要谈的就是 AI 那个被遗忘的表亲: IA: 智能增强(Intelligence Augmentation) AI 的老故事讲的是人脑如何对抗硅脑 IA 的新故事将会是人脑如何与硅脑合作事实证明, 这个世界大部分都是国际象棋游戏的反面:
非零和玩家双方可以共赢
在接下来的几个章节里, 我会谈谈 IA 的过去现在以及将来我们人类如何开发工具来扩大自身的智力优势, 同时克服我们的智力劣势我还会展示在艺术工程等领域人类已经在如何跟 AI 进行合作最后, 我还会就如何设计好跟 AI 的合作关系如何成为半人马给出一些粗略的想法
人和 AI 一起将从将军 (checkmate) 走向队友(teammate)
IA 的故事
Doug Engelbart 把一块砖头绑住了一支铅笔, 然后试着用它来写字他当然知道怎么去花他的冷战军事研究资金
Doug Engelbart Institute 的历史照片
1962 年卡斯帕罗夫跟半人马下国际象棋的几十年前, 早期互联网被发明出来的几年前 Doug Engelbart 在琢磨着工具如何塑造我们的思想这件事情那时候, Doug 的大部分同行只是把计算机看成是更快地处理数据的一种手段然而, 他却看到了更加深刻的东西: 他看到了一种增强人类思维的手段
人类增强自身能力没什么新鲜的我们没有尖牙利爪, 于是我们的祖先就欧阳长矛和弓箭增强自身的身体能力我们的工作记忆不大, 于是我们的祖先就用算盘和书写来增强他们的认知能力工具不仅让人类生活变得更加容易它还彻底改变了人类的生活方式尤其是写字: 这不仅仅是记录的一种手段, 它还导致了数学科学历史文学艺术等现代文明支柱的诞生
这就是 Doug 为什么要试着将砖头绑上铅笔的原因他要证明一个观点在我们创造出来的所有用来增强自身智能的工具当中, 书写也许是最重要的但当他用砖头绑上对铅笔进行去增强之后, 甚至连写个字都变得困难了许多许多一旦你让书写的低级部分变得困难, 要想进行书写的更高级部分: 组织你的思路探索新的想法及表达一直精简到必不可少的部分, 这些东西就会变得困难多了 Doug 想要表达的正是这个: 工具不仅仅让某件事情变得更容易它还解锁了新的之前不可能的思考生活及存在方式
Doug Engelbart 好几年都在追逐这个梦想, 1968 年 12 月 9 日, 他向全世界展示了一种新的计算机系统, 终于将智能增强的这个想法变成了现实现在我们都把那个叫做展示之母(The Mother of All Demos), 这个叫法非常切题全世界有史以来第一次目睹了: 计算机鼠标超文本视频会议实时协作等等东西, 提醒你一下, 那是在 1968 年那是在苹果 Macintosh 诞生的 16 年前, Skype 诞生的 35 年前, Google Docs 诞生的 44 年前
还是来自 1968 年在旧金山进行的展示之母, 右边是 Doug Engelbart
随后的几十年时间里, 大众开始慢慢接触到展示之母里面的那些奇迹个人计算机让普通人也有了计算的力量, 这一度是政府和大企业才负担得起的东西瑞士的一家粒子物理实验室推出了一个叫做 World Wide web 的小东西, 让大家可以利用叫做网页的东西来分享知识, 大家甚至还可以利用叫做超链接的东西建立知识之间的关联
乔布斯曾经把计算机叫做思想的自行车注意自行车这个比喻, 自行车不像汽车, 它可以让人类移动得更快, 但跟汽车不一样的是, 自行车是人力驱动的 (而且自行车对你的健康也更有利) 金属的力量, 再加上人类的心智这是天作之合: 一个半人马
大家曾经对增强智能运动的进展情况感到非常乐观
曾经
现在, 甚至连听说过 IA 的人都没几个了, 尤其是跟它的表亲 AI 相比但这不仅仅只是绕口令 Doug Engelbart 设想计算机将成为智力与艺术创造的工具; 现在, 我们的设备更多是围绕着消费而不是创造而设计的且不说 AI 跟我们共享价值观了甚至非 AI 技术都不再支撑我们的价值观了, 在某些情况下, 还在积极地搞破坏
我们想要一辆思想的自行车; 得到的却是 Lazy Boy 牌思想躺椅
不过谢天谢地, IA 的故事没有就这么结束了近年来, 对 IA 的兴趣开始复苏讽刺的是, 这部分是因为人类对落后于 AI 的恐惧这正是马斯克 (Elon Musk) 成立 Neuralink 的原因, 他想研究如何制造大脑植入物, 将我们的思想直接跟计算机相连但就像 Doug Engelbart 和卡斯帕罗夫所表明那样, 其实你不需要直接的脑机接口才能增强我们的智能进化所赋予我们的接口眼睛耳朵手以及身体这些东西已经相当好了你可以骑上思想的自行车, 又不用把金属塞进灵魂的躯壳里
但就像 IA 表明未必需要人机对抗那样, 我们也未必需要 IA 与 AI 的对抗在上个世纪里, AI 的故事和 IA 的故事各自走出了自己的轨迹不过在接下来的 10 年里, 这两个故事也许会走出一条会碰撞出火花的轨迹
如何成为半人马
还有一个震撼在等着卡斯帕罗夫还记得 2005 年由超级计算机人类大师以及人 + AI 半人马参赛的那场网上国际象棋锦标赛吗? 我忘了提到是谁最后拿到大奖了,
一开始, 当随身携带一台弱小的笔记本的人类大师击败一台世界级的超级计算机时, 卡斯帕罗夫并不感到惊奇但令卡斯帕罗夫感到震惊的是最后赢得锦标赛冠军的人不是有一台强大计算机助阵的国际象棋大师, 相反是由两位业余棋手加三台性能不高的计算机组成的团队! 那三台计算机分别跑了三套不同的国际象棋 AI 程序, 当它们对下一步怎么走的意见不统一时, 人类就教这些计算机进一步探究那些走法
就像卡斯帕罗夫总结那样: 弱的人类 + 机器 + 更好的处理比单独的强力计算机更出色, 更引人瞩目的是, 也要比强的人类 + 机器 + 糟糕的处理更出色
出自古希腊神话的半人马是高贵的女神的后代 Netflix 的原创系列剧里面的马男波杰克则是一位颓废的酒鬼, 把身边所有的人都伤害了个透尽管这两个都是半人半马的生物, 一个一个显然是比另一个更成功的组合而这给我们带来了人机协作最重要的经验教训
当你建立人 + AI 团队时, 困难的部分不在 AI 甚至也不在人
难就难在 +
四轴飞行器机身, 由人 + AI 团队设计
那么怎么才能给人和 AI 找到最好的 + 呢? 如何才能让人类和 AI 的优势互补, 并且克服各自的劣势呢? 好吧, 要想做到这个, 我首先需要知道人类和 AI 各自的优劣势究竟是什么
不管怎样, 人性基本上是亘古不变的如果你想看看哪些是人类普遍具备的独特优势, 别看哪些世界著名的大奖获得者看看小孩孩子, 哪怕是年纪很小的孩子, 都已经精通于: 直觉类推创意同理心社交技能有人可能会嘲笑这些属于软技能, 但实际上我们可以做出一个会下国际象棋的 AI, 但它却 hold 不住一次 5 分钟左右的正常对话, 这就是这些技能的软只是对我们自己而言的证明, 因为进化已经用了 35 亿年的艰苦工作才塑造出我们
而如果你想看看人类的弱点的话, 那就去学校看看那些就是对人类智能而言比较困难的东西, 并且需要长年累月的训练才能获得基本的能力: 算术计算记忆逻辑数学注意, 这些都是你的手机比最聪明的人做得更好更快的事情(我们想也许这就是为什么孩子觉得学校毫无意义的原因)
好了, 这些就是人类的优势与劣势了那 AI 的优势和劣势又是什么呢? 说实话, 傻子才会想要预测在遥远的未来 AI 能干哪些不能干哪些事情既然我们没法预测任何具体的东西, 那就泛泛思考一下目前为止哪种类型的任务 AI 具备相对优势或者劣势的吧
计算机显然最擅长计算它们很擅于处理数万亿的数字, 扫描数十亿的数据点, 考虑数百万种可能性数字也许是 AI 最大的优势但数字也是其最大的劣势现在, 你只有在具备代价函数, 也就是存在在定量上更好或更坏的答案时才能训练 AI 这就是 AI 下国际象棋或者围棋能够击败人类大师的原因因为胜平负一目了然, 但在对话创造发明艺术创作商业谈判阐述科学假设这些事情上的表现却令人尴尬因为这些事情你没法简单地用一个维度来对答案进行高低排序那些类型的任务你会希望找人来干, 他们会从简单的回答后撤一步, 询问为什么? 或如何? 或者如果?
换句话说, AI 擅长选择答案人类擅长选择问题
而这就是 2005 年网上竞标赛获胜的人 + AI 团队选定的 + 两位业余选手提出问题给三台能力不强的计算机, 当计算机返回不同的答案时, 人类再向它们提出更深入的问题
棋盘不是人 + AI 这个半人马唯一取得成功的地方从艺术到工程, 过去几年我们已经在多个领域见证了半人马的崛起:
2002 年, Sung-Bae Cho 开发了一种工具让人和 AI 一起进行时装设计这项工具模拟了进化的过程, 只是用在了服装上面 AI 提供遗传变异, 随机生成一些衍变的服装样式, 你则提供自然选择, 利用自己的美感挑选出可以在下一代繁殖的样式
2016 年, Maurice Conti 演示了进化 AI 与人合作的又一个例子, 设计四轴飞行器机身人类给 AI 设定目标和约束(让机身尽可能轻便, 同时保持牢固且有 4 个螺旋桨), 作为响应 AI 则演进出一个四轴飞行器机身人类然后可以答复 AI, 设定进一步的目标或者约束
2016 年 Zhu 等人开发了一个绘图工具, 你只需要画出大致轮廓, AI 就会把剩下的补好, 最后画出来的图就像照片一样逼真人和 AI 通过图片进行了一场艺术对话比方说, 人可以在底部画一些绿线, AI 就提供一些逼真的绿地图片供人挑选然后, 人再增长上面化个黑色的三角形, AI 就会用几张近景是绿地远处是高山的图画作为回应在人与机器的这种反复来回之间, 艺术就被创作出来了
在所有这些半人马的例子当中, 都是人类以设定目标和约束的方式选择问题而 AI 则产生答案, 通常会立即展示多种可能性, 来实时回答人类的问题不过这并不仅仅只是单向的对话: 通过提出更深入的问题, 选择和组合答案, 并且引导 AI 利用人类直觉, 人类然后也可以响应 AI 的答案
所以, 考虑利用 AI 增强人类智能时, 融为伯格人 (The Borg) 的想法不妨少考虑一点, 多考虑一下 Kirk 与 Spock(注: 星际迷航人物, 前者是人类, 后者是半人类半瓦肯人)之间的灵魂对话 超越了两个个体的直觉与逻辑的混合
既然人 + AI 系统是如此崭新的领域 (其实领域都是很大方的说法了, 更像是一小块草地), 肯定还有很多未决的问题: 比如 1) 人类应该提出哪一类的问题? 在所有上述例子中, 问题通常是符合这些目标 & 约束的可能解决方案是什么? 2)人类应该如何与 AI 沟通? 你未必需要使用文字或者甚至代码; 画画那个例子里面人和 AI 就是通过图画来交流的! 3)可以有多少个人和多少个 AI 一起协作? 上面所有的例子都是 1 个人跟一个 AI 合作, 但是 2005 年半人马国际象棋锦标赛的赢家就有 2 个人和 3 个 AI 怎么才能扩充到几十几千甚至数百万个人及 / 或机器的规模?
AI 选择答案人类选择问题鉴于所有这些可能性, 考虑到未来几十年技术所带来的希望与陷阱, 我们人类选择的下一个问题自然是:
接下来呢?
苹果海报, 思想之轮 ,1980 年
我们的故事
过去几十年, AI 的故事是英雄崛起的故事还是说是恶棍的崛起? 1997 年, 一个 AI 击败了卡斯帕罗夫, 2011 年和 2016 年, AI 分别击败了 Jeopardy!(智力竞赛)与围棋的人类顶级选手现在, 很多人害怕 AI 会取代我们的工作, 或者甚至取代人类本身
与此同时, IA 的故事却高开低走, 经历了不幸的跌落 IA 的想法从 Doug Engelbart 的展示之母强势起步, 却随着技术从创造的工具日益朝着消费工具转变而慢慢被人遗忘有人偷走了我们的思想的自行车的轮子
不过现在, 这两条故事线索可能正开始纠缠到一起, 形成了历史上的一条新的纽带: AIA 人工智能增强(Artificial Intelligence Augmentation) IA 可以赋予 AI 跟人必要的合作关系, 一边依然与我们最深刻的目标和价值观保持一致反过来, AI 可以赋予 IA 一些思想自行车的新的替代性的轮子
我挺愿意告诉你未来会是什么样子的不过如果你告诉某人美好的事情必定发生的话, 会导致有违初衷的自满而如果你告诉某人糟糕的事情不可避免的话, 会带来自我实现的绝望
此外, 回答是 AI 该做的事作为人, 你应该得到的是问题
举个例子, IA 也许能够协调 AI 的目标与人类的目标保持一致, 但我们又如何能够协调增强人类的目标与没有增强过的人类的目标保持一致? 我们是不是只是用人类与人类 2.0 之别取代了人类与 AI 之别? 且不说如何让人与 AI 和平共处的问题, 人类之间的和平共处问题我们都还没有解决呢我们知道如何制造工具来增强我们的智能, 但我们能制造工具来增强我们的同理心吗? 我们的社区呢? 我们的意义感和目的感?
我不知道我不知道答案是什么
然而, 人类有着悠久的向自然借智的历史光是在机器学习这个领域, 人工自然网络就受到了生物神经网络的启发基因算法则受到了生物进化本身的启发所以, 如果从这整篇文章你只能概括出一点的话, 那就是大自然最不受赏识的小手段: 共生(symbiosis)
共生源自古希腊语, 意思是: 一起生活共生就是花朵为蜜蜂授蜜, 反过来蜜蜂为花朵授粉共生就是你吃健康食物养育肠道内数万亿的微生物, 反过来, 这些微生物替你分解食物 15 亿年前, 一个细胞吞下了一个细菌但没有消化它, 然后这个细胞就喜欢上这里了, 作为回报这个细菌 (我们现在称之为线粒体) 开始为宿主产生能量
共生向我们表明, 大家可以进行富有成效的协作, 哪怕各自有着不同的技能, 或者不同的目标, 或者甚至是不同的物种共生向我们表明, 这个世界往往不是零和的未必需要是人 Vs AI, 或者人 vs 半人马, 或者人 vs 其他人共生是两个个体因为差异性而一起成功而不是相互憎恨共生就是那个 +
人类故事的新篇章正在开启, 接下来会发生什么, 要由一起生活的我们共同书写
来源: http://www.tuicool.com/articles/aUf2A3I