主角是蘇格拉底牛頓的玄幻奇幻《蘇格拉底之問(wèn)：解剖大模型本質(zhì)》，是近期深得讀者青睞的一篇玄幻奇幻，作者“無(wú)知駭客”所著，主要講述的是：無(wú)知客：我第一次用大模型的時(shí)候，說(shuō)實(shí)話，有點(diǎn)被嚇到。它回答得太快了，說(shuō)話太完整了，連語(yǔ)氣都很像人。我當(dāng)時(shí)腦子里只有一個(gè)念頭：這玩意兒是不是己經(jīng)在思考了？蘇格拉底：在你下結(jié)論之前，我們先慢一點(diǎn)。你先告訴我——你為什么覺(jué)得它在思考？無(wú)知客：因?yàn)樗芑卮饐?wèn)題啊。而且不是那種死板的回答，是有邏輯、有例子、有總結(jié)。我問(wèn)它“怎么寫(xiě)方案”，它真給我寫(xiě)了一份；我問(wèn)它“人生有沒(méi)有意義”，它還能反問(wèn)我。這不像思考，像...

知客：我次用模型的候，說(shuō)實(shí)話，有點(diǎn)被嚇到。

它回答得太了，說(shuō)話太完整了，連語(yǔ)氣都很像。

我當(dāng)腦子只有個(gè)念頭：這玩意兒是是己經(jīng)思考了？

蘇格拉底：你結(jié)論之前，我們先慢點(diǎn)。

你先告訴我——你為什么覺(jué)得它思考？

知客：因?yàn)樗芑卮饐?wèn)題啊。

而且是那種死板的回答，是有邏輯、有例子、有總結(jié)。

我問(wèn)它“怎么寫(xiě)方案”，它給我寫(xiě)了份；我問(wèn)它“生有沒(méi)有意義”，它還能反問(wèn)我。

這像思考，像什么？

蘇格拉底：那我種問(wèn)法。

如個(gè)西說(shuō)話很像，我們是是就意識(shí)地認(rèn)為它想？

知客：……像是。

蘇格拉底：那我們來(lái)個(gè)實(shí)驗(yàn)。

設(shè)有只鸚鵡，它能背你所有的問(wèn)題和對(duì)應(yīng)的回答。

你問(wèn)句，它就答句，遠(yuǎn)出錯(cuò)。

你說(shuō)它思考嗎？

知客：吧，它只是背得多。

蘇格拉底：那問(wèn)題來(lái)了。

如“回答”等于“思考”，你憑什么確信，模型是只“級(jí)鸚鵡”知客：可問(wèn)題是，模型只是重復(fù)。

它能回答我沒(méi)見(jiàn)過(guò)的問(wèn)題。

蘇格拉底：你說(shuō)得很。

那我們就要更確點(diǎn)。

你覺(jué)得“思考”至包含什么？

知客：嗯……理解問(wèn)題？

知道己說(shuō)什么？

是說(shuō)？

蘇格拉底：很。

那我們先抓住其個(gè)：理解。

我再問(wèn)你個(gè)有點(diǎn)舒服的問(wèn)題：你怎么確定——對(duì)方是的理解了，而是起來(lái)像理解？

知客：這怎么區(qū)？

蘇格拉底：很難。

因?yàn)轭?lèi)界，我們幾乎從來(lái)區(qū)。

個(gè)能對(duì)答如流、邏輯清楚、語(yǔ)氣然，我們默認(rèn)他是“懂的”。

可問(wèn)題是：這是對(duì)的判斷方法，定適用于機(jī)器。

蘇格拉底：類(lèi)有個(gè)生的弱點(diǎn)：我們把語(yǔ)言能力，誤當(dāng)思維能力。

你想想：孩什么候被認(rèn)為“聰明”？

學(xué)生什么候被認(rèn)為“了”？

面試什么候被認(rèn)為“過(guò)了”？

答案往往只有個(gè)：他說(shuō)得像那么回事。

知客：你是說(shuō)，我們被語(yǔ)言騙了？

蘇格拉底：是被騙，是太習(xí)慣了。

類(lèi)社，“說(shuō)話”幾乎遠(yuǎn)和“想事”綁定起。

所以當(dāng)個(gè)機(jī)器突然也能說(shuō)得這么像，我們本能地把整判斷起搬了過(guò)來(lái)。

可我們從來(lái)沒(méi)認(rèn)問(wèn)過(guò)句：“如個(gè)西能說(shuō)，但想，它是什么樣？”

知客：等等。

你是是暗示：模型可能根本沒(méi)有想，只是回答？

蘇格拉底：我暗示，我只問(wèn)。

你回答我：你和模型對(duì)話，它有沒(méi)有哪怕秒鐘停來(lái)，說(shuō)：“我先想想。”

知客：……沒(méi)有。

蘇格拉底：它有沒(méi)有猶豫？

有沒(méi)有因?yàn)椤澳脺?zhǔn)”而拒絕回答？

知客：多數(shù)候沒(méi)有，它很信。

蘇格拉底：那你有沒(méi)有想過(guò)種可能：它從來(lái)是“想了再說(shuō)”，而是“須說(shuō)”。

蘇格拉底：我們來(lái)到本章重要的問(wèn)題。

我希望你先別急著回答。

如個(gè)系統(tǒng)的務(wù)只是：何況，都給出個(gè)“起來(lái)合理的回答”，它需要思考嗎？

知客：……像定。

蘇格拉底：對(duì)。

也許，它只需要件事：知道什么樣的回答“像是個(gè)回答”。

注意這句話。

它需要知道“對(duì)對(duì)”，需要知道“是什么意思”，甚至需要知道“己說(shuō)什么”。

它只需要知道：這種問(wèn)題后面，常接著出這樣的話。

知客：那你能能首接告訴我：它到底思考？

蘇格拉底：能。

因?yàn)榈┪医o你結(jié)論，你后面都“動(dòng)站隊(duì)”。

這是要你相信個(gè)答案，而是要你步步發(fā)：你原來(lái)的判斷依據(jù)，靠住。

所以我們先只保留個(gè)問(wèn)題，帶著它往走：如個(gè)西能完地“模擬思考的結(jié)”，那它和“正思考”之間，還差什么？