剛剛發現在很古老的時候，曾經因為聊天看到攻殼二的介紹，寫下了這一小段關於Asimov機器人三原則的閒聊，就讓我來把他標點一下貼出來吧。
=本文開始=
我沒看過攻殼二不過我覺得如果攻殼二真的用故障做為機器人殺人的原因，那真的很爛，濫倒多少漂亮的比喻都不能原諒的爛...
艾西莫夫式的機器人，已經變成了一種獨特的文學傳統了，這一種類行的機器人文學（包含電影、漫畫）其實都在討論一個我們都知道的主題-人是什麼？
所有Asimov之前與之後的相類似機器人都其實是以人與神，機器人與人之間的類比關係去發展的...
我看過士狼正宗的漫畫版攻殼，就我所知，實在很難想像到了電影版，一個艾西莫夫式機器人殺人的原因竟然是因為"故障"為什麼我會說"故障"這個原因不應該存在...
這個得回到Asimov-like機器人的最早的原理-機器人三原則是出現在一個很基本的思考上，當時流行機器人毀滅人類的故事，但是Asimov認為這不合理，因為機器人既然是以協助人類的工具被發展，人類怎麼可能會不設定控制的原則呢？
工具會失控，一定不會是工具的錯，如果工具本身有錯，我們拋棄工具不就好了？
在這個前提之下，Asimov模仿人類的道德，與他的責任編輯共同的創造出了我們所熟知的機器人三原則..
機器人三原則一開始就與我們人類的道德一樣
1.機器人不能殺人或坐視人類死亡-人不能夠殺人與罔顧他人生命
2.不違反第一原則機器人必須服從命令-在尊重他人生命的前提，也應當尊重公眾的意見
3.不違反一二原則，機器人應當保護自己-除非為了更高尚的道德人要珍惜生命
這是Asimov結合了人的性質與物品的性質所創造出來的道德。這種包含人性與物姓的說法，並不是我們人類學家自己的玄想或者詭辯，而是來自Asimov的寫作過程，Asimov採用機器人三原則寫作的時間橫掛了20年以上。他在訪問中提及，三原則是為了替機器人這個"工具"的發明，提供合理的理論基礎，也就是人類在理性上應當是可以掌握自己的工具的。在持續寫作的過程當中，Asimov寫作了越來越複雜的機器人，並且再把機器人三原則與人類的道德作了更緊密的處理，甚至在晚期提出了第零原則。
大抵上來說機器人三原則的不可違背在歷來Asimov-like的作品當中都是一致的，至少不可能被以非邏輯的方式違背。
在寫作中，機器人三原則前期以工具性的規範出現，後期則與道德與人性緊密的結合。
這一點必須要回到機器人三原則的設定上，如果機器人三原則只是社會法律或者規範，那麼整個科幻小說的機器人寫作傳統就會崩潰。很簡單的例子，大部分的法律都規定不能殺人，但是總是有人殺人。如果僅僅只是法律上的規定機器人在製造的時候要烙印上這樣的程式，那麼只要違法，機器人就能夠殺人了，那這樣的機器人文學就根本沒有什麼發展或者討論的空間。因為機器人就更徹底的回到了工具的層次，機器人能殺人或者不能殺人，端看設計者守不守法而已。這就是為什麼我說如果攻殼二的機器人殺人如果是因為"故障"很爛的原因。因為如果機器人故障了，我們只要銷毀他就好了，就像丟掉一個壞掉的電腦一樣。在真正艾西莫夫式機器人牽扯到機器人殺人的問題，不會用這麼簡單的邏輯。其實一開始艾西莫夫在設定機器人三原則的時候就思考到這個問題了，他提到機器人三原則不是法律，而是正電子腦的數學基礎，換言之，我們不能夠設計出不符合三原則的機器人，因為沒有這種正電子腦。但是在Asimov-like機器人當中卻多的是殺人或者是傷人的矛盾，這正是以機器人三原則創造的文學迷人的地方，他們揭示一個問題-就算是完美的道德與牢不可破的規範，在現實生命當中複雜而多樣的情境當中，一定會有為難或者不可能被遵守的地方。
Asimov自己就玩弄過很多這樣的突破，不知道你有沒有看最近出的漫畫"Pluto"裡頭的機器人是Asimov-like的。裡頭唯一的一件機器人殺人案，所有的人都問，是不是電子腦故障了？答案是"沒有"這因為這樣，才有了機器人與人的辯證空間。因為如果我們獲知正電子腦故障了，那我們只要銷毀就好了，就什麼都不需要思考了。
在Asimov式的機器人當中，對於玩弄三原則的矛盾其實有過很多的經點例子，比方說電影"變人"的原著。
機器人有創造力、有思考有法律地位，但是他依然不被認為是人。因為他永恆，因此安德魯在最後透過外科手術讓自己的正電子腦逐漸的衰弱，達到衰老死亡的效果，透過違背機器人三原則，來讓自己變成人，另外在一個叫做Aurora的星球當中，機器人的製造者，玩弄"人"的定義來創造出可以殺人的機器人。在「我，機器人系列」當中，艾西莫夫也透過操作"殺人""傷人"的定義，來思考更多機器人的矛盾。並且我們仔細的推敲其實會發現，這些都可以反匱到我們人的處境上。第零原則也是一樣。
第零原則是：機器人必須為了人類全體或者歷史作最有利的選擇，此選擇優先於三原則。
因此在後期的Asimov的作品當中，有機器人是會為了整體人類的福祉殺人的，只是由於違反長久遵循的第一原則，而導致自我毀滅..
其實這些矛盾都是很人性的，如最後一個例子，人們很可能為了理想或者社群而傷害他人，但是一個善良的人（遵守三原則的機器人）一定會因此帶有罪惡感，甚至導致自我傷害。
因此好的機器人故事，絕對不會因為故障而違反三原則殺人。只有在遵守原則的情況下殺人，這樣的機器人故事才是好故事。就好像我們並不會對於因為利益的犯罪而感動，卻會為著因為人性的犯罪而感慨萬千一樣...
