Re: [問題] 機器人三大定律
: 如果你採用 sentimental programs 的話，
: 就不能用 chip 控制意識，
我想，那個防堵 chip
也可以設計成是最後的安全防線
不見得機器人的行事準則
都要依靠該晶片
如果，機器人會發生傷害人的行為
當然要讓機器人自我崩潰啊
不是說發明 AI 要做什麼
chip 只是 just for safety
我所重視的觀點，在於最後一道防線
那個可阻止機器人傷害人類的 chip
不管機器人用哪種模式運行
否則，電腦有了感情
但是哪天電腦的感情出了問題
卻沒有辦法把機器人關掉
這才是嚴重的問題吧
像我在撰寫程式碼的時候
基礎設定寫下的，一定是「強制關閉」
否則在 test run 的時候
來個措手不及的 crash，怎麼得了？
即便是最終定稿，也還是保留該 function.
試想假如哪天程式當掉，連 Ctrl + Alt + Del 都無效的時候
不是很糟糕嗎？
總結，chip 規則，可以不主導機器人的 AI 思維
但必須作為最後防線
以避免不可預期的慘劇發生
: 不然會造成精神崩潰。
: sentimental programs 允許電腦有感情，
: 如果感情和 chip 的規則相衝突，
: 電腦就會崩潰，
: 那你發明 AI 幹嘛？
: 簡單的說，你要嘛就用不像人的機器人，
: 想要像人就沒法像機器人。
我的想法是，機器人可利用 sentimental programs
使行為模式像人
但必須使用某些手段
讓機器人無法傷害人類 ...... chip
: 顯然出問題的是透過 sentimental programs 來控制的機器人，
: 如果是普通工程用的機器人，根本不可能暴動。
: 也許你會問，那人幹嘛要用 sentimental programs 來控制呀，
: 不是自找麻煩嗎？
: 你可以看看史蒂芬史匹伯的 AI 這部電影就知道啦，
: 很多時候，電腦人是人的延伸，
: 連上帝都想以自己的形象造人，
: 更何況是經常自以為是上帝的人類呢。
: 創造了類似人類的新生命，自以為是上帝的無知人類，
: 終究會走向自我毀滅的命運。
這是 eva 嗎！
: 不要懷疑，這種事人類經常做呢，
: 現在的複製人技術，就是引發爭論的最好例子。
: 有沒有想過，萬一複製人暴動怎麼辦？
嘿！其實這跟教育問題也是一樣的
同樣的教育，可以教導出傑出的科學家、造福世人的博愛家
但也同樣會跑出恐怖大魔王
而且還是智慧型的，受過高等教育
複製人為何暴動？
想必是為了人權的問題.
關於這個，哈利波特的小精靈（ex：多比）就是個例子(請看火盃的考驗)
以上，我的看法
仍然是，不論機器人如何
都最好加個最後防線的防堵chip
以免機器人暴走
不過，當你創造出一個遠超越你能力所可以控制的東西時
事情會怎麼演變，難以預測
可以看的出來，matrix 也表達了
現代人類一直盲目追求“先進???”科學
卻超出自己的控制範圍
於是，來個戲劇性的毀滅
不說 matrix
現實世界真的就是如此
拿塑膠來講
很容易製造，同時也很難善後
搞的現在烏煙瘴氣
: 突然想起科學怪人這部電影呢。 ^^
--
※ 發信站: 批踢踢實業坊(ptt.csie.ntu.edu.tw)
◆ From: 140.116.131.38
討論串 (同標題文章)
TheMatrix 近期熱門文章
PTT影音娛樂區 即時熱門文章