当机器人能决定人类生死时我们还能信赖它吗

"达芬奇"手术机器人系统

随着人工智能和机器学习的发展,机器人越来越多地承担起更加重要的工作,如外科手术、自动驾驶等等,甚至能决定人类的生死,那么我们能信赖机器人吗?近来,许多科技界名人表达了他们对人工智能横行世界的忧虑。人类和机器正形成一种新的关系。在不久的将来,我们会开始对那些具有高度自主性、完全自动化的机器人系统委以重任。这是人类第一次在面对复杂、变动和无序环境时,通过对机器编程而不是直接控制来做出生死抉择。精准高效的外科手术机器人目前,外科医生已可以利用机器手臂来做复杂的手术。美国纽约大学机器人手术中心主管迈克尔斯蒂夫曼已做过上千例机器人辅助手术。他在控制台操纵着机械臂,每个机械臂都通过一个约5毫米宽的微小切口伸入病人体内,只要旋转自己的手腕,捏紧手指,伸入病人体内的机械臂就会精准地执行同样动作。他引导着两只手臂给一根线打结,操纵第三只手臂用针穿过病人肾脏,将切除肿瘤后留下的洞缝在一起,第四只手臂则拿着内窥镜将病人腹腔内的情况呈现在显示屏上。斯蒂夫曼是位受过高等训练的专家,然而,他正在把宝贵的时间花在缝合等手术后续工作上。如果机器人能接手这项单调机械的任务,外科医生就能腾出手来做更重要的事。今天的手术机器人能力进一步增强,手术中不仅没有手颤,还能实施多种方案。但说到底,机器人只是由人类直接控制的高级工具。在一些实验中,机器人能比得上人,有些甚至比人更加精确、高效。今年5月,华盛顿一家医院展示了一个机器人系统缝合的猪小肠组织,让人执行同样手术进行比较发现,机器人缝得更均匀、更细密。虽然这些系统还没准备好用于病人,但它们代表了未来手术的发展方向。同样的逻辑也适用于操作室和装配流水线,如果高自动化能提升工作效果,那就没什么能阻止它。2013年,美国加州的直觉手术公司开始向世界各大学机器人研究人员捐赠达芬奇手术机器人系统。目前,全世界有超过3600家医院安装了达芬奇系统。但它的商业之路并非一帆风顺,曾因轻微事故而面临诉讼。加州大学伯克利分校自动化科学与工程实验室主管肯戈德伯格认为,在今后10年内就能实现简单的手术任务自动化。但即使机器人真的能在常规手术中表现更好,他仍希望机器人的行动是一种在人类医生监督下的自主。他说,让机器人做长时间精确且一致的工作,就像缝纫机对手工缝纫,只有机器与人合作才能成为超级医生。兼顾逻辑与道德的无人驾驶车设想一下,将来的某个夜晚,一个醉醺醺的行人突然在一辆无人驾驶汽车前面摔倒,当场被撞死。如果车里有人,这会被认为是一次事故,因为行人显然有错,理性的司机也难以及时躲避。但是随着无人驾驶汽车日益普及,车祸发生的概率会减少90%,对应司机过失的理性人的法律标准也会消失,对应的标准是给理性机器人。因此,现在科学家必须做的是,把一些基本的判断因素教给自动驾驶汽车和其他机器人。目前,在一些欧美国家,法律已明确允许对完全自动化车辆进行测试,但车里还要有一个测试司机。自动车辆获得环境信息是通过一系列传感器,如视频摄像机、超声波传感器、雷达和激光雷达(激光测距)。在加州,申请自动车测试牌照要向机动车管理局提供碰撞前30秒的所有传感器数据,工程师可以凭着这些数据精确重现碰撞事故场景。利用汽车的传感器记录,就能推知它决策背后的逻辑。所有驾驶都会涉及风险问题,但这些风险如何在司机、行人、骑自行车者之间分配,甚至风险的性质都有着道德的成分。无论对工程师还是对一般公众来说,最重要的是自动驾驶汽车的决策系统,它决定了汽车行为中所含的道德成分。自动驾驶车辆面临的更大挑战是,它们必须在信息不完全、程序员常常考虑不到的情况下,利用编码在软件中死板的道德条规,迅速做出决定。

中国风海报
复古海报
抖音风海报