当机器人能决定人类生死时 我们还能信赖它吗？(4)
“达·芬奇”处在人类医生的完全控制之下，除非医生在控制台上抓住操纵杆，否则其手臂只是毫无生气的塑料和金属片。该公司先进系统研发部经 理西蒙·迪迈奥说，目前他们打算保持这种现状。但机器人专家正在面向未来努力，让医生在做手术时有越来越多的辅助工具或计算机引导。
迪迈奥指出，这一领域的研究就像早期的自动驾驶汽车，“第一步是识别道路标志、障碍物、汽车和行人，”下一步是让汽车来帮助司机。比如，智能汽车会感知周围车辆的位置，在司机错误变道时发出提醒。同样，手术机器人可在医生的手术器具偏离常规路径时发出警示。
加州大学伯克利分校自动化科学与工程实验室主管肯·戈德伯格也在训练他的“达·芬奇”独立执行手术任务。目前，它的缝合技术已相当灵巧，它 能一只手臂拉线通过模型伤口两边，另一只手臂通过拉针把线绷紧，无需人类引导而开始缝下一针。它通过位置传感与摄像技术计算每次进出针的最佳位置，计划并 跟踪行针轨迹。但任务还是很艰巨，据报告，它目前只能完成四针程序的50%，而且还不会给线打结。
戈德伯格说，现在他们使用机器学习算法采集视觉和运动学数据，把每一针分为定位、推针等多个步骤，让“达·芬奇”按顺序处理。通过这种方法，它有可能学会做任何手术。
理论上，同样的程序也能指导真正的手术。戈德伯格认为，在今后10年内就能实现简单的手术任务自动化。但即使机器人真的能在常规手术中表现 更好，他仍希望机器人的行动是一种在人类医生“监督下的自主”。他说，让机器人做长时间精确且一致的工作，就像缝纫机对手工缝纫，只有机器与人合作才能成 为超级医生。
被重新定义的军事机器人
捷克作家卡雷尔·恰佩克1920年发表了科幻剧作《罗素姆的万能机器人》，发明了“机器人”一词，其最初含义是合成人类，它们在工厂长时间 辛苦地工作，生产低成本商品。然而，最终这些机器人杀死了人类。这也是科幻小说一直在描写的情节：机器人失去控制，变成不可阻挡的杀人机器。
现在，随着人工智能的发展和机器人技术的进步，加上伊拉克、阿富汗战争中无人机与地面机器人的广泛使用，人们在震惊之余开始担忧，科幻中的恐惧会变成现实。
世界最强大的军队目前正在开发更智能的武器，这些武器将拥有不同程度的自动化能力和杀伤力，绝大多数通过人类远程控制。但也有人认为，未来的人工智能武器最终会完全自动化地操作，由集成微芯片和软件来决定人类的生死，这将成为战争史上的一道分水岭。
于是，“机器人杀手”引发了激烈争论：一方认为，机器人可能开启一场世界大战摧毁人类文明；另一方则认为，这些武器是一种新型精确制导武器，只会减少而不是增加伤亡。人工智能领域的一些主要研究人员呼吁，禁止“自主进攻型武器超越人类控制”。
去年，三位学术界名人——美国加州大学伯克利分校的斯图尔特·罗塞尔、麻省理工学院的马科斯·泰格马克和澳大利亚新南威尔士大学的托比·沃 什，在一次人工智能（AI）大会上组织发起了联名请愿。他们在公开信中指出，这些武器将导致“全球AI军备竞赛”，用于“暗杀、破坏国家稳定、镇压群众和 选择性地消灭某个少数民族群体。”目前，这封信已有超过两万人签名，包括著名物理学家斯蒂芬·霍金、特斯拉CEO埃隆·马斯克等人。马斯克还捐了1000万美元给一家位于波士顿的研究所。该研究所的任务是“保卫生命”，抵抗可能出现的恶意人工智能。这一事件成为世界各大媒体的新闻，甚至在12月日内瓦联合 国裁军谈判会议上，约有100多个国家参与讨论这一问题。
这场争论还扩展到网络上。人们对未来进行了各种预测和展望，有人认为，某种情况下还可能出现“出售杀伤性微型机器人的低成本大规模黑市，购买者可以给它设定某些标准，不加分辨地杀死成千上万符合标准的人”。
他们三人还指出：“自主性武器是一种潜在的大规模毁灭性武器。虽然一些国家或许不会选择将它们用于这种目的，但这对有些国家和恐怖主义分子却极有吸引力。”
造出在智能、自主和自动化方面不断升级的杀人机器，不管这种军备竞赛能否更好地服务于人类利益，也不管目前存在着多大争议，实际上新一轮的AI军备竞赛已经开始。