“機器人殺人案”的幕后黑手究竟是誰？

機器人是人類的好幫手；然而，世界上發(fā)生了多起“機器人殺人案”。那么，案件的幕后黑手究竟是誰呢？這是值得我們深思的問題，也是值得學(xué)界正視的議題。因為機器人并沒有責(zé)任感，人類才應(yīng)該為機器人做的事情負(fù)責(zé)。然而，隨著機器人越來越普遍，人們會越來越覺得它們真的具備自主性和意圖，因為它們看起來似乎有能力并且應(yīng)該為自己負(fù)責(zé)。

在“機器人殺人”案例的言論中，人們都在或有意或無意地將因機械故障導(dǎo)致的安全事故與有意識行為的“殺人”事件混為一談，甚至張冠李戴。所謂安全事故，是指生產(chǎn)制造的過程中突然發(fā)生的，傷害人身安全和健康的意外事件；而殺人事件則是有意識的，在主觀行為驅(qū)動下導(dǎo)致的事故。所以，這兩者之間是有著本質(zhì)區(qū)別的。在此，我們先來了解一下“機器人殺人”的典型案例。

1978年9月，日本廣島一家工廠的一名值班工人被該廠負(fù)責(zé)切割鋼板的機器人意外殺害；由于當(dāng)時科技不夠發(fā)達(dá)，殺人事件僅被歸結(jié)為機器人智能低下，無法分辨人類和工業(yè)品。然而，這是世界上第一宗機器人殺人案件。1981年7月，日本川崎重工業(yè)公司明石工廠的一名修理工人，無意中觸動了機器人的啟動鈕，這個加工齒輪的機器人立即工作起來，把那個工人當(dāng)成齒輪夾起，放在加工臺上砸成了肉餅。日本至今已有近20名工人死于機器人手下，致傷的也有8000多人。

1985年5月，前蘇聯(lián)發(fā)生了一起家喻戶曉的智能機器人棋手“殺人事件”。全蘇國際象棋冠軍尼古拉?古德柯夫同機器人棋手下棋連勝三局，機器突然內(nèi)部程序大亂，本不完善的軟件系統(tǒng)一下子進(jìn)入了失控狀態(tài)；機器人棋手因輸了棋而惱羞成怒，突然向金屬棋盤釋放強大的電流，在眾目睽睽之下將這位國際大師擊斃。

2015年6月，德國大眾汽車公司一家工廠發(fā)生一起悲劇，一名技術(shù)員被機器人“殺“死了。遇難技術(shù)員是大眾承包商，當(dāng)時他與一名同事合作安置機器人，但被機器人擊中胸部，并被抓起、重重摔在一塊金屬板上，最終因傷重不治身亡。大眾汽車公司發(fā)言人海科?希爾威格先生接受媒體采訪時將這次事故歸咎于“人為失誤”而不是機器人。

2015年7月，一臺“發(fā)狂”的機器人“錯手”將美國密歇根州一家汽車零部件生產(chǎn)廠的一名女裝配工“殺死”。據(jù)調(diào)查人員描述，事發(fā)當(dāng)時該裝配工在工廠六號廠房“100區(qū)”工作，然后不幸的是，其中一臺機器人突然“發(fā)狂”，從一個區(qū)走向另一區(qū)，在裝載完畢的地方仍試圖再裝一遍，胡亂得揮舞手臂，擊中了她的頭部。等到她的的同事發(fā)現(xiàn)有什么東西少了的時候，她已經(jīng)死亡。

2018年9月，我國安徽蕪湖耐世特凌云有限公司發(fā)生了一幕慘劇：一名工人在給機器人換刀具時，突然被機器人夾住；雖然該工人很快被救下，但被送到醫(yī)院后，因傷勢太重，不治身亡。“肇事”的機器人屬于工業(yè)搬運機器人，外形類似吊車，有一個“粗壯”的手臂，主要用來抓舉、搬運重物。據(jù)悉，機器人將員工“殺死”這樣的意外，在我國還是第一次出現(xiàn)。

上述案例顯示，在我們的日常工作和生活中，因人員的操作不當(dāng)或失誤導(dǎo)致的“機器人殺人”事件時有發(fā)生。雖然這些事件是不能責(zé)備一個人或一群人的，但是我們不能因為機器人給人的印象，就免除屬于它們的人類制造者的責(zé)任。其實揪出“機器人殺人案”的幕后黑手，倒不如推動機器人安全性能的提升。近年來，“機器人殺人”事件已經(jīng)鮮有報道，因為科技的進(jìn)步，人們的安全意識不斷提升，出現(xiàn)事故的幾率大大減小。

美國科幻作家艾薩克?阿西莫夫先生在1950年提出著名的“機器人三守則”：1.機器人必須不危害人類，也不允許它眼看人將受害而袖手旁觀；2.機器人必須絕對服從于人類，除非這種服從有害于人類；3.機器人必須保護(hù)自身不受傷害，除非為了保護(hù)人類或者是人類命令它做出犧牲。這三條守則，給機器人社會賦以了倫理性和安全性。至今，“機器人三守則”仍為機器人研究人員、設(shè)計制造廠家和用戶，提供了十分有意義的指導(dǎo)方針。

作為高新科技，機器人在給我們帶來有利因素的同時，也會存在相應(yīng)的挑戰(zhàn)。要充分認(rèn)識機器人的優(yōu)勢和它可能存在的問題，做到趨利避害。正如我國學(xué)者周儀榮先生所言：“科技是一把雙刃劍，在它給人們帶來美好的同時也帶來一些麻煩；因此要合理利用科技，發(fā)揮它有利的一面，限制它不利的一面……”作為個體，我們要不斷學(xué)習(xí)高新科技，更新知識庫，要成為高新科技的掌控者，而非被科技所操控的對象。

文/崔勇(作者單位：東北大學(xué)機器人科學(xué)與工程學(xué)院)