艾萨克阿西莫夫(Isaac Asimov)曾在他的科幻小说里描述了规范行为的三定律,包括:不能伤害人类、服从人类命令和保护自己。
现在,英国标准协会正式发布了一套伦理指南,比阿西莫夫三定律更加复杂和成熟。我们的社会已经到了要给制定行为规范的时候了,这不禁让人产生一种科幻与现实交织的奇妙感觉。
英国标准协会(British Standards Institute,简称BSI),是有着 100 多年历史的英国国家标准机构,在世界范围内具有很高的权威性。这个伦理指南的全称是《和机器系统的伦理设计和应用指南》(以下简称《指南》),主要针对的人群就是设计研究者和制造商,指导他们如何对一个做出道德风险评估。最终的目的,是保证人类生产出来的智能,能够融入人类社会现有的道德规范里。
这个标准的文件代号为 BS8611,发布于9月15日英国牛津郡的 “社会和AI ”(Social Robotics and AI)大会上。西英格兰大学教授Alan Winfield表示,这是业界第一个关于伦理设计的公开标准。
文件内容虽然用词枯燥,但是里面所描绘的场景,简直跟从科幻小说里蹦出来的一样。欺骗、令人成瘾、具有超越现有能力范围的自学能力,这些都被列为危害因素,是设计人员和制造商需要考虑的。
《指南》开头给出了一个广泛的原则:的设计目的不应是专门或主要用来杀死或伤害人类;人类是负责任的主体,而不是;要确保找出某个的行为负责人的可能性。
《指南》也聚焦了一些有争议性的话题,例如,人类与产生情感联系是可以的吗,尤其是当这个本身设计目的就是为了与小孩和老人互动。
谢菲尔德大学教授Noel Sharkey认为,这就是在无意的情况下欺骗人类的例子。是没有感情的,但是人类有时候并不这么认为。他指出,最近有一项研究,把小放到一所幼儿园里,孩子们很是喜爱,并且认为这些比家里的宠物具有更高的感知能力。
《指南》建议设计者更应关注的透明性,但是科学家们表示这个在现实里很难应用。这是因为人们无法确切了解AI系统(尤其是深度学习系统)是如何做出决定的。
相关搜索(Beta) 机器人 标准 高考改革方案正式颁布 关于提请正式颁布 高考方案正式颁布 姓名登记条例正式颁布 中考改革方案正式颁布 英国留学机器人专业 英国机器人 英国机器人大战 英国机器人妓女来源: http://www.ailab.cn/Intelligent_Robots/2016092081043.html