這篇論文雖然好像是沒有發(fā)表，就在arxiv上展示了一下，但確實前段時間在公眾號之間傳瘋了。我個人倒是沒太在意，雖然"XXX有心智"這樣的文章可能對大眾很有吸引力，但對于人工智能學(xué)了好幾年的我來說，倒不認(rèn)為是什么值得大驚小怪的事情，況且ChatGPT我也是經(jīng)常在用的，它能力怎么樣我還是很清楚的。但最近一個偶然的機會得到了這篇論文，那還是要讀一讀。

整篇論文其實也并不長，我也沒太多想扯的，此篇專欄就寫的短一點。

1.心智

其實我覺得，這篇論文的關(guān)注點其實不應(yīng)該只在心智（mind）上，更應(yīng)該在自發(fā)（Spontaneously）上。不過還是要先談心智。

這篇論文研究的心智是基于心智理論（這個翻譯可能有些問題，原文是theory of mind，最好不要把它當(dāng)成一個理論而是一種能力，可能更好理解一些），它主要包括的是使得人類智力超越其他物種的核心能力，換句話說，只要一個模型具有這些核心能力，我們似乎就能證明它擁有智能。

可能大家會想到圖靈測試，不過當(dāng)前圖靈測試都快被玩爛了，很多模型發(fā)布似乎都要宣稱下自己的模型通過了圖靈測試，這其實也表明圖靈測試其實并不是那么難的測試，還有中文屋甚至是哥德爾不完備性定理這樣的大殺器擋在AI面前呢。不過GPT-3.5和ChatGPT在心智理論指導(dǎo)下的測試中表現(xiàn)得出奇的好，那么問題似乎就有些嚴(yán)重了。

更麻煩的是，沒有跡象表明模型的上限就在這里，之后的更大參數(shù)和更優(yōu)化策略的模型可能會在測試中取得更好的表現(xiàn)。

2.自發(fā)的心智

自發(fā)的第一重意思很容易理解，ChatGPT是端到端的大模型，是不借助于外部知識庫的，它回答你的問題的方法只是從一大堆數(shù)字中生成一個答案出來，這層意義上，它是自發(fā)地回答你的問題的，如果這個回答背后有心智，那產(chǎn)生心智的地方就沒有其他任何地方（例如不在某一個數(shù)據(jù)庫中），只能在模型內(nèi)部，在那一堆按某個結(jié)構(gòu)組合起來的數(shù)字中。

自發(fā)的第二重意思是論文中主要觀點的意思，即這個心智并不是我們?nèi)ピO(shè)計給模型的，心智的出現(xiàn)僅僅是模型的一個副產(chǎn)物而已。ChatGPT可能就是這樣的一款模型。

并且，不僅僅是心智理論，其他的很多能力都可能是模型的副產(chǎn)物，對于大語言模型來說，這可能意味著“世界知識”這類高階技能。

3.回到人的智能

這個話題好像我還挺少的在專欄中提過的，但是在“智能科學(xué)導(dǎo)論”課上可以說是很重要的全局認(rèn)知了：我們研究人工智能最終是為了更好地了解人類智能。我們研究大腦并仿照人的大腦設(shè)計了神經(jīng)網(wǎng)絡(luò)是為了探索人類智能的產(chǎn)生方式（這么看來，最早的神經(jīng)網(wǎng)絡(luò)是“多層感知機”，是希望模仿人的感知；而現(xiàn)在的大模型可能已經(jīng)存在“智能”，確實可能只是因為參數(shù)量堆得不夠而已），我們研究人的邏輯也是為了研究人的思維

這篇文章也進(jìn)行了相關(guān)的說明，即從ChatGPT的表現(xiàn)來看，心智的出現(xiàn)可能只是人類語言能力增強的一個副產(chǎn)物，或者說人類的智能并沒有那么神秘，只不過是堆硬件堆出來的罷了。

不知道大家看到這個結(jié)論會有什么思考，我個人由于這類問題思考的過多（學(xué)習(xí)智能科學(xué)導(dǎo)論要思考這類問題，學(xué)習(xí)哲學(xué)也要思考這類問題）都有點麻木了。

當(dāng)然，再補充一下，這篇論文畢竟只是一篇研究罷了，文中提到的學(xué)說還需要進(jìn)一步驗證。

4.結(jié)語

我們知道，ChatGPT之所以是一個優(yōu)秀的對話系統(tǒng)是因為它做了“和人類對齊”的步驟，或者說我們成功地從GPT-3.5中引出了ChatGPT擁有的能力?，F(xiàn)在一般也認(rèn)為大語言模型中存在著很多能力，只不過都需要某種程度上的激活而已，ChatGPT的成功可能只是找到了激活能力的一把鑰匙而已，要更好的激活其他能力可能需要不同的鑰匙（好中二啊你）。

補充：本篇的實驗設(shè)計的很有意思，這些實驗讓我回想起當(dāng)初學(xué)知識論看過的論文，真的是太相似了（勾起了腦子被JTB理論和葛梯爾問題打成結(jié)的回憶），這篇有興趣的朋友真的可以去看一看。