Re: [問題] 機器人三大定律
※ 引述《silcas (銀光の旗の下に)》之銘言：
: : 甚至更簡單的，惡意的人類可以直接破解正電子腦，改變其行為。
: : 不要以為這是不可能的，
: : 你問任何一個駭客都會告訴你，沒有系統是不能破解的。
: : 只要有足夠的時間和工具。
: : 當然其實最最簡單的方法，就是先在人類世界搞獨裁，
: : 然後你就可以為所欲為，
: : 直接設計出不受控制的機器人。
: 直接設計出不受三大定律的機器人不是Hack，是完全的創新.....
: 不能說是"破解"正電子腦，因為那是要創建以另外一個行動準則為基礎的系統.....
喔，沒有啦，我那段的意思是說，
可以用 Hack 的，也可以全新設計。
並不是說，直接設計是 Hack。
不過我還是認為要 Hack 並非不可能，
以我自己的經驗，我曾經 Hack 軟體，也看過別人 Hack 硬體，
只要那個東西是被設計出來的，他就能被 Hack。
如果可以拿到設計圖，要 Hack 真的非常簡單。
: 不論是軟體或是硬體.....
: 而人類對於機器人的恐懼，在艾西莫夫小說中已經探討過了，
: 至少在艾西莫夫的世界裡面，設計出可以傷害人類的機器人是全人類的禁忌，
: 不會是任何政權可以簡單顛覆的.....
我倒是認為任何一個國家都會從事這項禁忌研究的，
因為太明顯了，以生化武器或核子武器為例，
每個國家都知道是不好的，也有限制核子擴散條約，
可是每個國家還不是照樣偷偷發展？
可以傷害人類的機器人絕對是重要的戰鬥兵種，
任何交戰中國家都會投入去發展的，
這就是為什麼印度和巴基斯坦會先後擁有核武，
連美國也阻止不了。
不過，我沒看過你說的那些著作，
所以上面的推論純粹靠個人的知識背景。
: 而那也不是一個獨裁有辦法存在的時代就是了.....
: 而地球人類或外世界人都不能接受這樣的事情，看完了裸陽應該就會了解這一點.....
: : （別忘了這世界上永遠會有「狂人」的存在，海珊不會是最後一個）
: : 突然想起網路上看到的一句話：
: : To err is human -
: : and to blame your computer for your mistakes is even more so.
: 這是一個非常有趣的問題，
: 突然讓我想到：
: 這個世界上沒有"笨"電腦，
: 因為電腦程式是被寫出來的，目前他只能一個口令一個動作，
: 不能有意識地自發地幫助人類，所以他不會是笨的，
: 頂多是設計程式介面的人不夠聰明，讓消費者用起來不順手.....
: 這個世界上只有對於電腦有太高期望而失望的"人"、
: 不會使用電腦而無法發揮他真正效能的"人"，
: 或是不夠聰明的系統工程師(也是"人")，沒有笨"電腦".....
呵呵，這倒是；
除非真的發明出「sentimental programs」。
不過以我對人工智慧的瞭解，
我認為不太可能做到可以和人無差異的境界，
目前人工智慧的智能頂多達到「蜜蜂」這個等級。
--
※ 發信站: 批踢踢實業坊(ptt.csie.ntu.edu.tw)
◆ From: 140.112.230.238
討論串 (同標題文章)
TheMatrix 近期熱門文章
PTT影音娛樂區 即時熱門文章