Re: [問題] 機器人三大定律
※ 引述《ray365 (Ray)》之銘言：
: ※ 引述《silcas (銀光の旗の下に)》之銘言：
: : 看了這個討論串之後，我滿疑惑的.....
: : 大家有看過艾西莫夫的原作嗎？
: : 至少看到什麼可以因為三大定律晶片而造成機器人暴動的說法我就感覺很搞笑.....
: : 因為這根本是不可能的 = =
: : 而且在艾西莫夫的小說裡也出現了"在三大定律控制下的擬人機器人"，
: : 當然是普通地球人無法分辨的擬人機器人..... 無論是外觀還是行為.....
: : 而AI裡面的機器人應該是跟愛西莫夫無關的吧= =.....
: : 並非有類似人類感情的機器人就無法控制其行為.....
: : 而且重點根本就在艾西莫夫的設定不見得會全盤地在Matrix的世界裡面成立.....
: : 還是先去看過艾西莫夫的原作再引用相關說法吧，
: 其實我覺得還好啦，
: 這三個定律看起來很直覺，
: 任何人不需完全看過艾西莫夫的著作，就可以實做這個系統。
雖然這三個定律似乎很直覺，但是這也許是因為他已經深入了所有我們看過的相關作品，
所以我們會事後諸葛地感覺他很直覺；
至少如果真的完全沒接觸過，不見得會把同樣的概念以這樣的三個敘述句表示。
另外，艾西莫夫的設定是"三大定律是與正電子腦一起設計出來的"，
"正電子腦的基礎理論是以與三大定律為基礎設計的"，
而不會是今天我寫一個程式包含三大定律，然後輸入一個稱為正電子腦的硬體裡面.....
正電子腦到底是怎樣的結構，我還沒有看到相關的說明，
但有說明他是是一個類似人腦的存在，想法在正電子腦中以電位表示，
相衝突的兩電位(想法)的以電位大小作決定，電位高者勝出，
而第一定律的電位是壓倒性的最高，
其他的想法的電位應該都是以第一定律為標準而決定的..... (這句話是推論)
: 當然了，如果看過他的著作，
: 我想會對各種必須面對的問題，有更深入的瞭解吧。
: 至於說，艾西莫夫的設定，是否能在 Matrix 中成立，
: 我覺得不無可能。
我的意思是，三大定律是很簡單的敘述，Matrix可以引用了這樣的敘述，
但是這個定律設定細節到底要與艾西莫夫的原設定有多接近又是另外一個問題。
就好像也許Matrix中的三大定律就是一個輔助晶片插在機器人的電腦裡面，
而不像艾西莫夫設定的三大定律是正電子腦軟硬體設計的基礎.....
所以也許Matrix裡面的機器人可以因為個晶片被Deactivated而失控，
但是艾西莫夫小說中的機器人卻會因為違反三大定律而當機或是線路被燒壞。
(偶然目睹交通事故卻無法保護所有人完全不受肉體傷害，
對於早期的機器人來說也已經算是"違反第一定律"，會因而受到硬體線路上的傷害)
因為我看到討論串中有很多問題事實上與我有看過的艾西莫夫小說的情節要討論的部分
有重疊的部分，所以我認為先去看過之後會比較適合，
畢竟提出這個設定的人對於這樣的問題已經在小說中探討並且解答過了.....
我只是希望大家在引用三大定律最一些想像的時候，
可以先注意一下他本來的架構是怎樣的，
先注意一下原先的世界觀底下繼器人的設計與其相關限制是怎樣的，
再來提出自己與他不同的，也許是全新的想法。
畢竟引用三句話很簡單，可是這三句話之後的世界觀與詮釋方式卻很複雜.....
: 畢竟所有的系統都是被設計出來的，只不過是多加幾條規則。
問題就在於艾西莫夫的小說中，三大定律不是可以"加幾條規則"就好的.....
: 而且綜合前面的討論，我們甚至可以假設，
: Matrix 是為了避免人類互相傷害而被設計出來的？
: 這就可以解釋為什麼 AI 有核融合技術可以產生能源，
: 卻不殺光人類？
: 至於為什麼選擇殺光 Zion 的人，
: 則是因為如果 Matrix 被破壞，人類又會開始相互殘殺，
: 電腦權衡傷害的輕重之後，決定犧牲少部分人類，解救大部分人類？
: （這段推論不見得符合艾西莫夫的設定，但是有討論的價值）
依照三大定律機器人不可以主動傷害任何人類，就算是比較高等的機器人也是一樣，
主動傷害一個人類或是主動傷害人類整體都是傷害人類，
機器人的程式最多只能做到在無法做任何事情阻止人類被傷害的情況下保持不當機.....
這也是後來丹尼爾要把自己的意識轉到一個非人高等生物的身上的原因，
因為他受三大定律限制太深，無法在他有限的生命中完成他自己的拯救人類的計畫，
他必須非常迂迴地行動..... 唔，離題太遠，有興趣還是看看原作吧~"~|||
: 我覺得我們應該考量各種可能性，
: 艾西莫夫的設定可以供未來設計 AI 的人參考。
: 雖然我個人還是認為，
: 這些定律無法阻止人類用機器犯罪的，
: 就像你說的，人類可以鑽系統的漏洞，
: 甚至更簡單的，惡意的人類可以直接破解正電子腦，改變其行為。
: 不要以為這是不可能的，
: 你問任何一個駭客都會告訴你，沒有系統是不能破解的。
: 只要有足夠的時間和工具。
: 當然其實最最簡單的方法，就是先在人類世界搞獨裁，
: 然後你就可以為所欲為，
: 直接設計出不受控制的機器人。
直接設計出不受三大定律的機器人不是Hack，是完全的創新.....
不能說是"破解"正電子腦，因為那是要創建以另外一個行動準則為基礎的系統.....
不論是軟體或是硬體.....
而人類對於機器人的恐懼，在艾西莫夫小說中已經探討過了，
至少在艾西莫夫的世界裡面，設計出可以傷害人類的機器人是全人類的禁忌，
不會是任何政權可以簡單顛覆的.....
而那也不是一個獨裁有辦法存在的時代就是了.....
而地球人類或外世界人都不能接受這樣的事情，看完了裸陽應該就會了解這一點.....
: （別忘了這世界上永遠會有「狂人」的存在，海珊不會是最後一個）
: 突然想起網路上看到的一句話：
: To err is human -
: and to blame your computer for your mistakes is even more so.
這是一個非常有趣的問題，
突然讓我想到：
這個世界上沒有"笨"電腦，
因為電腦程式是被寫出來的，目前他只能一個口令一個動作，
不能有意識地自發地幫助人類，所以他不會是笨的，
頂多是設計程式介面的人不夠聰明，讓消費者用起來不順手.....
這個世界上只有對於電腦有太高期望而失望的"人"、
不會使用電腦而無法發揮他真正效能的"人"，
或是不夠聰明的系統工程師(也是"人")，沒有笨"電腦".....
--
大地に平和を 空に希望を
そして 人心に寬容を
--
※ 發信站: 批踢踢實業坊(ptt.csie.ntu.edu.tw)
◆ From: 218.166.108.110
※ 編輯: silcas 來自: 218.166.108.110 (06/28 14:38)
討論串 (同標題文章)
TheMatrix 近期熱門文章
PTT影音娛樂區 即時熱門文章