在线客服
企业微信
机器人是人类的好帮手；然而，世界上发生了多起“机器人杀人案”。那么，案件的幕后黑手究竟是谁呢？这是值得我们深思的问题，也是值得学界正视的议题。因为机器人并没有责任感，人类才应该为机器人做的事情负责。然而，随着机器人越来越普遍，人们会越来越觉得它们真的具备自主性和意图，因为它们看起来似乎有能力并且应该为自己负责。
在“机器人杀人”案例的言论中，人们都在或有意或无意地将因机械故障导致的安全事故与有意识行为的“杀人”事件混为一谈，甚至张冠李戴。所谓安全事故，是指生产制造的过程中突然发生的，伤害人身安全和健康的意外事件；而杀人事件则是有意识的，在主观行为驱动下导致的事故。所以，这两者之间是有着本质区别的。在此，我们先来了解一下“机器人杀人”的典型案例。
1985年5月，前苏联发生了一起家喻户晓的智能机器人棋手“杀人事件”。全苏国际象棋冠军尼古拉?古德柯夫同机器人棋手下棋连胜三局，机器突然内部程序大乱，本不完善的软件系统一下子进入了失控状态；机器人棋手因输了棋而恼羞成怒，突然向金属棋盘释放强大的电流，在众目睽睽之下将这位国际大师击毙。
2015年6月，德国大众汽车公司一家工厂发生一起悲剧，一名技术员被机器人“杀“死了。遇难技术员是大众承包商，当时他与一名同事合作安置机器人，但被机器人击中胸部，并被抓起、重重摔在一块金属板上，最终因伤重不治身亡。大众汽车公司发言人海科?希尔威格先生接受媒体采访时将这次事故归咎于“人为失误”而不是机器人。
2015年7月，一台“发狂”的机器人“错手”将美国密歇根州一家汽车零部件生产厂的一名女装配工“杀死”。据调查人员描述，事发当时该装配工在工厂六号厂房“100区”工作，然后不幸的是，其中一台机器人突然“发狂”，从一个区走向另一区，在装载完毕的地方仍试图再装一遍，胡乱得挥舞手臂，击中了她的头部。等到她的的同事发现有什么东西少了的时候，她已经死亡。
2018年9月，我国安徽芜湖耐世特凌云有限公司发生了一幕惨剧：一名工人在给机器人换刀具时，突然被机器人夹住；虽然该工人很快被救下，但被送到医院后，因伤势太重，不治身亡。“肇事”的机器人属于工业搬运机器人，外形类似吊车，有一个“粗壮”的手臂，主要用来抓举、搬运重物。据悉，机器人将员工“杀死”这样的意外，在我国还是第一次出现。
上述案例显示，在我们的日常工作和生活中，因人员的操作不当或失误导致的“机器人杀人”事件时有发生。虽然这些事件是不能责备一个人或一群人的，但是我们不能因为机器人给人的印象，就免除属于它们的人类制造者的责任。其实揪出“机器人杀人案”的幕后黑手，倒不如推动机器人安全性能的提升。近年来，“机器人杀人”事件已经鲜有报道，因为科技的进步，人们的安全意识不断提升，出现事故的几率大大减小。
美国科幻作家艾萨克?阿西莫夫先生在1950年提出著名的“机器人三守则”：1.机器人必须不危害人类，也不允许它眼看人将受害而袖手旁观；2.机器人必须绝对服从于人类，除非这种服从有害于人类；3.机器人必须保护自身不受伤害，除非为了保护人类或者是人类命令它做出牺牲。这三条守则，给机器人社会赋以了伦理性和安全性。至今，“机器人三守则”仍为机器人研究人员、设计制造厂家和用户，提供了十分有意义的指导方针。
作为高新科技，机器人在给我们带来有利因素的同时，也会存在相应的挑战。要充分认识机器人的优势和它可能存在的问题，做到趋利避害。正如我国学者周仪荣先生所言：“科技是一把双刃剑，在它给人们带来美好的同时也带来一些麻烦；因此要合理利用科技，发挥它有利的一面，限制它不利的一面……”作为个体，我们要不断学习高新科技，更新知识库，要成为高新科技的掌控者，而非被科技所操控的对象。
文/崔勇(作者单位：东北大学机器人科学与工程学院)
