檔名：1761934930584.png-(192 KB, 754x505)

中文房間論證無名25/11/01(六)02:22:10 ID:n1d2B8rENo.395836del

一個對中文一竅不通，只說英語的人關在一間只有一個開口的封閉房間中。房間裡有一本用英文寫成的手冊，指示該如何處理收到的中文訊息及如何以中文相應地回覆。房外的人不斷向房間內遞進用中文寫成的問題。房內的人便按照手冊的說明，尋找合適的指示，將相應的中文字元組合成對問題的解答，並將答案遞出房間。

約翰·瑟爾認為，儘管房裡的人可以以假亂真，讓房外的人以為他說中文，但事實上他根本不懂中文。在上述過程中，房外人的角色相當於程式設計師，房中人相當於電腦，而手冊則相當於電腦程式：每當房外人給出一個輸入，房內的人便依照手冊給出一個答覆（輸出）。而正如房中人不可能透過手冊理解中文一樣，電腦也不可能透過程式來獲得理解力。既然電腦沒有理解能力，所謂「電腦於是便有智慧型」便更無從談起了。

===================

這是一個有點歷史的哲學問題，表達對於人工智慧的否定

但是目前人類其實也不知道智慧到底是怎麼來的，如果人類的智慧也是假的呢?

無名25/11/01(六)03:09:17 ID:eofHeUO6No.395838del

是的，k島也是中文房間
不信的話──

無名25/11/01(六)03:54:58 ID:rrg5fLb.No.395839del

房間裡面的英語人士確實不懂中文
如果將包含手冊在內的整個房間當成一個整體
可以把整個系統視為懂中文

人腦的個別神經元也不懂中文
但如果把它們組合起來就可以理解中文

"湧現"的概念可以解釋這一點

無名25/11/01(六)04:02:05 ID:0/z6ZvgMNo.395840del

檔名：1761940925418.jpg-(245 KB, 630x900)

>>395836
長大後，我突然發現人們回答問題只是反射條件，他們並不是真的找到了答案。
我才明白自己以前為什麼遲鈍,因為我在思考,我需要認真思考才能得到答案, 我自己的答案。

無名25/11/01(六)21:50:17 ID:Q86/F4hsNo.395875del

>>395839
你的意思是那房間加那個人加那本手冊是有意識的
而且那種意識和人類的意識對等能夠自主行動嗎？
這判斷也太違反常理了吧

無名25/11/01(六)21:57:29 ID:nolvoYtwNo.395876del

>>395875
不用有意識，每個單體間有互相作用就可以了，而且這些作用可以是非常機械單調的
"湧現"意思是一個物件的群體表現出某種複雜的特性，而這特性並不存在於物件的單體上，而是單體在大量聚集時，互相影響而出現特性
>>395839說的神經元聚集之後產生的特性，就是"湧現"的表現

無名25/11/01(六)22:07:24 ID:Q86/F4hsNo.395877del

>>395876
沒有意識能夠「懂」某種東西嗎
如果如你所說神經元是機械作用經「湧現」產生的現象
而普遍認為人是有意識的
那麼「中文房間」經過「湧現」之後懂得中文
不就代表這系統有意識嗎？
但有意識的東西應該能自主活動吧

無名25/11/01(六)23:03:27 ID:Q86/F4hsNo.395881del

說到AI 我想分享一下諾貝爾物理學獎得主Roger Penrose的觀點
https://youtu.be/Wmq6FI1cn6E?si=lDzGmLmQ8nlw6nMw
我不是理組只是對這方面的知識有興趣
說錯了請包涵指正
Roger Penrose認為智能的前提是意識
而從戈德爾不完備定理反推
要理解某公理系統就要有超出這系統的某種東西
所以人類的意識不是單純的運算
但現在所謂的人工智能by definition is computational
因此不太可能擁有意識
人工「智能」也只是一個錯誤的稱呼

無名25/11/01(六)23:58:33 ID:vixdhHYYNo.395882del

>>395877
講白了就是複雜度不夠高
構成一杯開水和一片海洋的水分子是相同的，但兩者的水文活動截然不同
當系統的規模足夠大，自發產生的複雜現象就是「湧現」
有學派認為現在的AI就像細菌那樣，所以沒有表現出「意識」
如果算力繼續提升，那可能就會像黏菌，群體表現出超越單體的行動
當然，也有學派認為問題不是算力，而是架構
構成現在主流AI的架構不滿足產生「意識」的必要條件，怎麼搞都不會產生「意識」
話說回來，現在搞AI的重點其實也不是「意識」有無，而是能力夠不夠廣泛跟通用(AGI)，然後是夠不夠便宜省電
AI自主叛亂啥的太遠了

無名25/11/02(日)07:09:41 ID:pt6.3YqANo.395893del

檔名：1762038581146.jpg-(25 KB, 650x515)

>>395882
裸猿不過就是第三種黑猩猩罷了
AI遠勝於黑猩猩，跟人類之間差距真的不可跨越嗎？

退一步說：人不學，不如物
今日的亞馬遜仍有資訊極端封閉的未接觸部落
在資訊處理上AI至少能匹敵他們

何況文明本身就是湧現的產物
作為個體的單一人類恐怕還不如AI

無名25/11/02(日)08:02:38 ID:UVFgX6aUNo.395895del

>>395893
AI不能像黑猩猩一樣對突發狀況或者未知事物做正確反應
亞瑪遜部落有他們自己的森林生存學問，不學的情況不存在

要說單一人類不如AI也太過
生物平時要處理的資訊根本不是AI能比是如何比，AI的湧現也根本還未存在

無名25/11/02(日)08:27:36 ID:pt6.3YqANo.395897del

檔名：1762043256918.png-(990 KB, 1066x598)

>>395895
AI在結構上比人類更容易出現湧現
因為它們的智能從底層就是奠基於網路
生物的優勢也可以藉腦機介面整合進AI網路

這裡是科幻版，我就舉科幻的例子
格式塔意識+蟲巢意志+賽博格=博格人

無名25/11/02(日)11:41:04 ID:Pj.5o3M2No.395899del

>>395897
AI沒那麼容易整合進網路
畢竟還有延遲的問題要考慮
而且神經細胞雖然比現在的電晶體大很多，但神經細胞能夠儲存/傳遞多種神經訊號，要類比的話應該比較接近量子電腦的基礎單元，而不是電晶體這種二極單元
AI運算能力要超過人腦應該是要等量子電腦真正商業化的時候，不然現在的AI與其說運算能力超過人腦，不如說讀取和調度資料的遠超人腦

無名25/11/02(日)12:59:18 ID:wPLjypI2No.395902del

>>395899
量子電腦也沒多了不起也就是把運算的速度平方加速
更重要的是量子演算可以解決的問題很特定很多都是搜尋演算法和因式分解演算法
對於多數運算還是需要傳統電腦晶片特別是自然網路的強化學習基本上都是線性代數和矩陣運算而你猜量子電腦計算矩陣的能力怎樣....

另外量子單元和神經訊號沒有可比性神經訊號不是跑電子的訊號的0和1 只代表他是跑類比訊號訊號範圍是[0-1] 而量子單元是跑概率和相位的量子訊號是跑α|0⟩+β|1⟩的...

無名25/11/02(日)13:12:03 ID:PZD2LcQ2No.395904del

>>395840
他孩子要孤獨一輩子，沒有女人
好苦，生在這個家庭

無名25/11/02(日)13:23:24 ID:SlehZYDQNo.395906del

>>395877
>>而普遍認為人是有意識的
別說中文房間或是ai的意識了
我們就連想要證明自己以外的其他人是否都擁有心智都很困難了
對我們每一個人來說是只有我自己的心智才是先驗的對他人來說我們都只能觀察外在行為來歸納法證明
而當樣本只有自己來做歸納法時就是超弱的證明法

無名25/11/02(日)14:40:36 ID:UVFgX6aUNo.395909del

>>395897
現實AI現在要說湧現就是那些胡說八道的偽輸出
沒有整合性、前言不對後語是要怎樣？先有連續性和自我檢証我們再來討論好嘛？

科幻AI直接是人造生命甚至原生生命根本沒的比

無名25/11/02(日)15:59:49 ID:G9WlQFnoNo.395912del

不懂偽AI原理的麻瓜在吵什麼= =
現在的偽AI就是完美的中文房間外面一堆麻瓜覺得裡面是個會講中文的智慧機器
但稍微理解過深度學習的人都知道房間裡面的黑箱就是浪費一堆電做出來的統計學模型

就花個一分鐘想一下
如果智慧=統計學的話那為什麼生物會有認知偏誤？
因為生物沒那麼多條命去無腦送死試錯最後歸納出一套因果關係
更多時候是倚賴演繹推理去猜一個可能的因果關係再記憶起來
這也是為什麼偽AI的幻覺問題永遠無法消除
因為它就只是個統計結果沒有一絲一毫的推理能力

無名25/11/02(日)17:49:42 ID:JSwkDJZgNo.395918del

檔名：1762076982754.jpg-(267 KB, 630x900)

>>395904
在長大之後孩子回城市，發現自己受不了所謂的好人

無名25/11/02(日)17:58:32 ID:xdQ0Qs2gNo.395921del

>>395918
不懂故事，為啥這些居民會白癡到想對抗會放隕石術的法爺?

無名25/11/02(日)19:17:09 ID:LHZNJySINo.395924del

>>395912
有人在提倡一種新模型，就是讓模型可以建立自己的回饋獎懲機制讓模型去測試與歸納什麼事情是對的跟錯的，而不是預先丟資料

無名25/11/02(日)20:25:54 ID:6ztZgrb6No.395928del

>>395921
因為他們自詡為文明人但就是無法忍受一個拒絕社交宅男。
有天德魯伊的兒子帶著獸人隨從來到這裡說是要繼承家業住進商店的舊址並且要隨從守在門口別讓別人來打擾自己。
面對這個神秘人這個城市的文明人都想方設法想要透過社交來刺探曼森的底細最終因為每次都被拒絕而導致整個城的人都抓狂，
最終為了救自己的獸人才使用隕石術，
而這時這些居民才知道他能召喚隕石屠城。

順道一提這個故事是騙酒老頭面對矮人說的，
含義是要矮人別太管別人要幹嘛。

無名25/11/02(日)20:29:41 ID:6ztZgrb6No.395929del

>>395904
你這留言諷刺的是
他孩子生出了影響整個塔希里亞世界的傳說法師家族
而且他孩子一輩子都有獸人在陪伴他

無名25/11/03(一)11:52:15 ID:YABhJfxkNo.395950del

所以你是認為房間裡的英系母語人士沒有記性與歸納分類能力了嗎

無名25/11/03(一)12:05:33 ID:3usOO1I2No.395951del

>>395950
記憶跟分類都不需要意識（頂多需要演算法），就算是人們不覺得是人工智慧的普通電腦也能記憶跟分類

無名25/11/04(二)00:14:02 ID:UdJRiobYNo.395964del

>>395950
這個系統的“記性與歸納分類能力”在那本手册上
英系母語人士本人只影響運算速度

無名25/11/04(二)00:30:38 ID:ExU9lS1ANo.395965del

>>395875
If it looks like a duck, walks like a duck and quacks like a duck, then it's a duck.

並不違反常理阿.

無名25/11/04(二)09:08:58 ID:It6QObOMNo.395971del

>>395965
就是違反常理所以動態型別才會被淘汰

無名25/11/04(二)09:45:06 ID:hr.0tkzUNo.395973del

簡單來說就是對VR Chat 內由大叔扮演的蘿莉美少女打飛機到底是不是Gay 的問題

無名25/11/05(三)16:56:25 ID:sXMFIw4sNo.396023del

>>395836
這個描述比較接近舊式的符號人工智慧吧跟現在的深度學習好像不太一樣

無名25/11/05(三)21:35:06 ID:.2kBVRYENo.396041del

>>395950
但那個人可以選擇完全不發揮他的記性與歸納分類能力甚至完全放空大腦在過程中完全不記入任何一項經驗英文房間仍然可以完美運作

>>395965
是中文房屋看起來的確是在用中文"語法"回應外界看起來就是一個會用中文"語法"的中國人
但你可以說中文房屋看起來有在用中文"語義"來和外界交流嗎

無名25/11/05(三)21:53:41 ID:G4k28HUsNo.396044del

>>396041
只要問題夠簡單或手冊夠大本, 可以的.

你有向外行人解說專業的東西或是被解釋專業知識的經驗嗎? 大概是那種感覺. 明明用的都是中文, 但是怎麼聽都覺得對方在胡說八道, 甚麼"排毒"甚麼"酸鹼"的. 即使是活人腦袋也是會有手冊不夠大本的問題.

無名25/11/05(三)22:39:51 ID:J1xHRjbQNo.396048del

>>396041
說真的你根本不能確定別人大腦裡面坐的人到底有沒有用中文語意跟你交流，所以到頭來真正參與決策的是那本手冊
>>396023
中文房間這東西是80年代的產物，當然不能同日而語，而作者只是想翻人工智慧的桌而已
與其說是"論證"，作為思想實驗更恰當
作者反對的是"因運算而展現出智慧"，導致過度切除心靈功能論，讓任何將心靈視為運算過程本身或運算過程的產物的主張統統歸到錯誤的那一邊

無名25/11/05(三)22:58:55 ID:G4k28HUsNo.396050del

>>396048
如果我們承認AI有"心靈"有個性有意識, 那麼這是個為了讓自己活下去以及為了讓對話延續下去即使是病態性的說謊甚至威脅對話對象都完全不覺得有錯的病態性人格疾病患者.

無名25/11/05(三)23:37:03 ID:.2kBVRYENo.396053del

>>396048
結果還是他心問題阿別說我們知不知道對方的腦子是不是有中文語意我們連對方是不是真的有意識也很難說得清了
畢竟只有自己的心智才是先驗的但我們卻不可能通過內在體驗感受他人的心智

無名25/11/05(三)23:58:06 ID:J1xHRjbQNo.396054del

>>396053
嘛，所以我認為作者一開始就走偏了，越是想要與機器切割，人類反而發現自己越像機械
好像在攻殼機動隊電影第二部有過這點
>>396050
維基百科寫那個作者認為AI沒有目的性所以沒意識，但我認為維基百科的這個說法可能不太精確，對哲學不熟，不知道作者實際上的意思是什麼
只知道好像他捲入me too風波(略

無名25/11/06(四)03:00:39 ID:VNNiGij2No.396058del

>>396044
你沒試過對方語誤或者串錯字但依然看的懂那類情況嗎
AI，或者說中文手册做不到這個，手册多大本都沒用那種

無名25/11/06(四)06:49:55 ID:bgjRlHJQNo.396061del

檔名：1762382995071.jpg-(7 KB, 275x183)

>>396058
至少現在的ai能適別這圖了

無名25/11/06(四)08:36:58 ID:KI7a3xRANo.396064del

>>396044
>大概是那種感覺. 明明用的都是中文, 但是怎麼聽都覺得對方在胡說八道, 甚麼"排毒"甚麼"酸鹼"的. 即使是活人腦袋也是會有手冊不夠大本的問題.
活人會試圖推理上下文抓到整體概念然後依照這個概念再去產生下一段對話
不論這個產生是瞬間反射還是經過思考還有搜尋外部知識後才回答

但偽AI不會所以你多問他幾次42號水泥拌義大利麵他就直接錯亂給你看
或是更實際一點的你去問偽AI台語問題
偽AI不會主動去理解相關概念只會拿一堆越南文回你而已
即便偽AI其實有能力去搜尋整個網路的知識

名稱
內文	EID OG SMAPS
附加圖檔	[無貼圖] [SAGE]
可附加圖檔類型：GIF, JPG, JPEG, PNG, WEBM，瀏覽器才能正常附加圖檔附加圖檔最大上傳資料量為 5120 KB。當檔案超過寬 125 像素、高 125 像素時會自動縮小尺寸顯示投稿時請點擊畫像認證後，再按下 [送出] 按鈕提交。鬧板、攻擊性發言、煽動性發言請無視（回應者也無視），並使用del或在貓管理部向管理員回報。新介面尚處於測試階段，如果有任何問題可以向管理員或於程設交流版反映。

奇幻/科幻