Re: [問題] 機器人三大定律
※ 引述《silcas (銀光の旗の下に)》之銘言：
: 看了這個討論串之後，我滿疑惑的.....
: 大家有看過艾西莫夫的原作嗎？
: 至少看到什麼可以因為三大定律晶片而造成機器人暴動的說法我就感覺很搞笑.....
: 因為這根本是不可能的 = =
: 而且在艾西莫夫的小說裡也出現了"在三大定律控制下的擬人機器人"，
: 當然是普通地球人無法分辨的擬人機器人..... 無論是外觀還是行為.....
: 而AI裡面的機器人應該是跟愛西莫夫無關的吧= =.....
: 並非有類似人類感情的機器人就無法控制其行為.....
: 而且重點根本就在艾西莫夫的設定不見得會全盤地在Matrix的世界裡面成立.....
: 還是先去看過艾西莫夫的原作再引用相關說法吧，
其實我覺得還好啦，
這三個定律看起來很直覺，
任何人不需完全看過艾西莫夫的著作，就可以實做這個系統。
當然了，如果看過他的著作，
我想會對各種必須面對的問題，有更深入的瞭解吧。
至於說，艾西莫夫的設定，是否能在 Matrix 中成立，
我覺得不無可能。
畢竟所有的系統都是被設計出來的，只不過是多加幾條規則。
而且綜合前面的討論，我們甚至可以假設，
Matrix 是為了避免人類互相傷害而被設計出來的？
這就可以解釋為什麼 AI 有核融合技術可以產生能源，
卻不殺光人類？
至於為什麼選擇殺光 Zion 的人，
則是因為如果 Matrix 被破壞，人類又會開始相互殘殺，
電腦權衡傷害的輕重之後，決定犧牲少部分人類，解救大部分人類？
（這段推論不見得符合艾西莫夫的設定，但是有討論的價值）
我覺得我們應該考量各種可能性，
艾西莫夫的設定可以供未來設計 AI 的人參考。
雖然我個人還是認為，
這些定律無法阻止人類用機器犯罪的，
就像你說的，人類可以鑽系統的漏洞，
甚至更簡單的，惡意的人類可以直接破解正電子腦，改變其行為。
不要以為這是不可能的，
你問任何一個駭客都會告訴你，沒有系統是不能破解的。
只要有足夠的時間和工具。
當然其實最最簡單的方法，就是先在人類世界搞獨裁，
然後你就可以為所欲為，
直接設計出不受控制的機器人。
（別忘了這世界上永遠會有「狂人」的存在，海珊不會是最後一個）
突然想起網路上看到的一句話：
To err is human -
and to blame your computer for your mistakes is even more so.
: 至少我是看到了很多如果看過了原作之後就不會發生的謬貍帡暋D~出現在討論串裡面.....
: 而有關以上的討論，至少要看看機器人系列的"鋼穴"以及"裸陽"吧？
: (漢聲青年文庫有出，圖書館應該可以找到吧..... )
: 在這兩部裡面有針對三大定律與機器人的設計或是對於機器人的效力作出一些討論，
: (以下有少少劇情洩漏，如果不想看可以跳過..... )
: 這兩部的內容是謀殺案的偵查，
: 而且都或多或少與機器人有關，而且裡面也在提到在三大定律限制下，
: 用什麼方法可以讓機器人殺人.....
: 在鋼穴中主角懷疑他的同伴，擬人機器人丹尼爾奧利瓦是兇手，
: 但是這個懷疑被完全擊破了，
: 看看這段懷疑被推翻的過程可能對三大定律對於機器人的設計的重要性有所了解，
: 而裸陽的部分針對兇手如何騙過機器人，使得機器人殺了人而不自知，
: 或者是利用被三大定律限制的正電子腦製作戰爭兵器.....
: 自己去看看應該可以發現一些三大定律對機器人的限制以及傷害.....
--
※ 發信站: 批踢踢實業坊(ptt.csie.ntu.edu.tw)
◆ From: 140.112.230.238
討論串 (同標題文章)
TheMatrix 近期熱門文章
PTT影音娛樂區 即時熱門文章