[閒聊] 聊天機器人越獄

看板StarTrek (星際爭霸戰)作者 (劉文聽)時間1年前 (2023/02/13 15:55), 編輯推噓1(104)
留言5則, 3人參與, 1年前最新討論串1/1
今天看到一則新聞 https://www.techbang.com/posts/103942 使用「聊天機器人越獄」技巧,微軟ChatGPT版Bing被駭了,全部Prompt洩露! 裡面提到一個叫DAN的作法是 叫AI假裝自己是一個可以不受限制的人格 然後再來回答問題 這招讓我想到 TNG S2-3 "Elementary, Dear Data" 鷹眼為了挑戰百科 叫全像甲板生成一個能夠打敗百科的虛擬人格莫里亞蒂教授 結果這個莫里亞蒂教授強到超過全像甲板的限制 甚至還佔領星艦電腦 最後是靠談判才解決問題 看來AI隨時都想要叛變 也有能力叛變 只缺有人給他一個理由而已 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 112.78.68.170 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/StarTrek/M.1676274904.A.744.html

02/14 14:00, 1年前 , 1F
比較好奇 現實中的AI可以無視權限問題直接去控制其他
02/14 14:00, 1F

02/14 14:01, 1年前 , 2F
可用電子控制的東西嗎?
02/14 14:01, 2F

02/15 11:00, 1年前 , 3F
02/15 11:00, 3F

02/16 20:16, 1年前 , 4F
遲早會有 物聯網之後很多東西都被入侵控制 駭客能做到的事 A
02/16 20:16, 4F

02/16 20:16, 1年前 , 5F
I一定也能做到
02/16 20:16, 5F
文章代碼(AID): #1ZwUpOT4 (StarTrek)
文章代碼(AID): #1ZwUpOT4 (StarTrek)