Wednesday, January 21, 2026

AI帶來「認知債務」

最近,MIT學者寫了一篇論文,有關利用寫作與大腦思維的關係。( 相關連結 ) 他們提出了一個新的名詞,叫認知債務 ( cognitive debt)。

-----------------------------------------------------------------

MIT的研究人員用腦波掃描發現,當我們只靠自己去完成寫作,我們的大腦皮層高度活躍,負責創造、整合、監控等多種高級功能的區域都在協同工作。一旦我們開始用AI輔助,這些區域的活動量就顯著下降,大腦進入了一種低投入的狀態。

研究者請三組不同人去做一個實驗: 第一組用AI寫作;第二組用搜尋引擎幫助;第三組只靠自己寫作。寫完後,讓他們複述自己文章裡的內容

結果顯示:用AI的那組,百分之八十的人連一句完整的話都複述不出來,百分之百的人無法完美複述。而只靠自己的那組,只有百分之十一的人有困難。

----------------------------------------------------------------------------

寫作這個過程毫不簡單,需要人腦多功能的協調才能完成這類任務,特別是一篇長文,所需的大腦功能更多。寫作要求的能力如:組織文章結構、建構文章組織的邏輯順序、或腦內找尋詞語和造句等等,這些能力協調必須日積月累,從小持續的訓練。完全依賴AI的話,長期下去,我們把本該由自己完成的思考過程讓給AI。

持續依賴人工智能而不是自己去寫作,我們大腦中負責深度思考的能力,沒有得到足夠的練習。長久下去,無論如何大腦的功能都會受到影響,這是我個人的看法。

很多人對現在坊間流行的LLM底層邏輯完全不了解,它所謂的思考,其實是利用統計學去了解大數據,從而去造出預測。粗略去說,AI本質上是一個機率機器,它永遠會給你最常見、最平均、最安全的答案。長期依賴AI,思想和表達會變得格式化,向最平凡,最普遍的方向走,失去了一丁點的人性化。

如多用人工智能,便發現其擅長的長文分析,表面上全面而且很有理性與邏輯,但其實沒有一點點人性化的東西。未來AI普及後,肯定是更有人性化空間的東西或工作變得更稀缺,也更有價值,不涉及人性的東西或工種,會全給AI搞定。

在這個Blog,所有Blog文都是自己寫作,數年前已說過,寫作這過程可給我空間去訓練大腦與中文寫作能力,另外,也把這Blog當成多年來在生活與投資上的個人記錄。直至現在,從未有用過AI去修改任何文章

用AI的話,沒錯,可減少文法上的錯誤,避免錯別字,或直接提高寫文的效率,但這Blog沒商業性質,效率這二字對我而言沒什麼意義。如我真的想多人看這Blog,或宣傳什麼,其實完全沒必要定期(過去數年基本上是一個月兩篇或三篇,從不間斷)寫長文,現在這年代沒人會多花時間在長文,只會花時間在短文 / 短留言 / 短視頻等地方。

我沒說過所有人都應避免AI,事實上在不少行業中,大語言模型已見其效用,特別是需要寫code的人,相信已離不開AI的幫助,效率提升太大了。我自己比較常用AI的地方主要把它當成強化版search engine,工作上一些繁瑣的機械化程序 (如做powerpoint開會),也交給AI去提高效率。最近也多用AI去分析或了解不同股票,但當然,最後投資決定完全掌握在我的腦中。

善用AI提升工作或生活上的效率 ; 同時間,避免對AI產生必要的依賴,也同時堅守我個人的價值:強調大腦不停訓練與深度個人思考的重要性。這兩者需要一個很微妙的平衡。

1 comment:

  1. //很多人對現在坊間流行的LLM底層邏輯完全不了解,它所謂的「思考」,其實是利用統計學去了解大數據,從而去造出預測。粗略去說,AI本質上是一個機率機器,它永遠會給你最常見、最平均、最安全的答案

    AI都可以算「思考」,這個機率機器也可以靠set閾值(例如temperature、top_p、top_k)來決定是否一定要輸出最高機率的答案;而一個純純LLM更與「思考」沾不上邊,它只是一個基於「注意力(Attention)機制」的「聊天機器」,基於以往的訓練數據再用之前對答的内容不停產生下一個字(或懶專業,叫「token」)將對答延續落去... 中間的邏輯分析部分只是在LLM以上加了其他AI分析模型而已。

    所以LLM是一定會有幻覺的--因爲其原理本身就是爲了「延續conversation」。

    另外社會絕大部分工程技術人以外講的AI的原理都是9up,財經分析員稍好一點,去到講時事甚至生活/哲學絕大部分是張口就來。小弟擝車邊都是從事AI技術,「入行」前後都讀過啲online courses,發覺其背後原理就是高中的矩陣綫性數學,如此而已。

    ReplyDelete