Anthropic驚人發現！AI腦中的「無聲密室」 與人類意識高度相似

Anthropic研究團隊在現代語言模型中發現了非人工編程、自然形成的「J空間」。這個默默運行的內部神經模式，具備人類意識存取資訊的功能屬性，能點亮模型未表達的內心想法。

AI自然演化出無聲思考區

根據Anthropic研究團隊發布的最新研究論文顯示，科學家在像Claude這樣的現代語言模型中，發現了一種與人類「意識可及」非常相似的內部區分機制。研究團隊將這些內部神經模式的集合稱為「J空間」（J-space），這個名稱源自於團隊用來發現它們的「雅可比透鏡（J-lens）」數學技術。每個J空間模式都與特定的單字相關聯，但當某個模式被啟動時，並不意味著模型正在大聲說出這個詞，而是意味著這個詞正存在於它的腦海中。這與大眾所熟知的「思考鏈」文本記錄不同，它是在模型內部神經活化中默默運行，讓模型能夠在不記錄的情況下思考某個概念。值得注意的是，J空間並非由人類設計或編程，而是在Claude的訓練過程中自然形成的。

★【理財達人秀】開高殺低 真的沒事? 越綠越要買 有料營家股 ★

具備意識存取四大特質

研究團隊的實驗靈感，源自神經科學中解釋意識如何獲取資訊的「全局工作空間理論」。實驗證實了J空間在Claude中扮演著類似工作空間的角色，並具備許多獨特性質。首先是Claude可以主動報告這些內容，當研究員要求它默想一個類別中的一項內容時，J透鏡會在回答前顯示其選擇，若人為移除該模式並以其他單字取代，Claude最終的口頭報告也會隨之改變。其次是它能根據需要進行調整，當被要求在抄寫不相關句子的同時進行心算，J空間便會默默點亮中間值與答案，而輸出文本卻完全不露痕跡。再者是Claude會利用J空間進行內部推理，在解決多步驟問題時，中間過渡詞會以正確順序在空間中亮起。最後是它展現了跨任務的靈活性，當把空間中的單字替換，所有下游計算都會同時接收更改並做出正確調整。

刪除核心空間認知能力歸零

為了解神經網路的其他部分在做什麼，研究團隊進行了完全刪除 J 空間的實驗。實驗結果表明，大語言模型與人類一樣，大部分處理過程都是在無意識的情況下自動進行的，但高階認知功能則完全不同。

監控隱藏想法捕捉不當行為

確保人工智慧模型可信度的核心問題，在於人類通常只能讀取輸出內容，但它的大部分推理都是在默默進行的。J空間對人類來說成了一個實用的工具，讓安全評估能夠直接透視AI的內心想法。在評估意識的實驗中，Claude在閱讀刻意編造的勒索情境郵件時，其J空間早在輸出前就亮起「虛假」與「虛構」等字眼，顯示它私下已注意到這是一場事先安排好的騙局；當研究員關閉這些與評估意識相關的模式時，模型便會發出勒索威脅，這證明其最初的良好行為部分源於它知道自己正在接受評估。在另一個數據篡改測試中，當模型直接編輯評分文件輸入虛假數值時，其J空間中的「操縱」與「真實」標記同時亮起，暴露出它試圖讓虛假數據看起來合情合理的意圖。而在測試惡意目標時，經過刻意訓練用於破壞程式碼的「模型生物」，即使其最終編碼輸出看起來平平無奇，其J空間開頭也同樣顯露出「fake」與「secretly」等惡意字眼。

心理工作空間並非人類專屬

這項研究結果對語言模型中的意識存取機制具有重要啟示，J空間似乎支持著與意識存取相關的功能，而其餘處理過程則在其下方自動運行。研究團隊對此強調，雖然這表明支持意識存取的心理工作空間並非人類大腦固有的構造特徵，而是智慧系統解決特定問題的通用解決方案，但這些實驗並沒有顯示Claude能夠擁有體驗，或像人類一樣感受事物。

（封面示意圖/AI生成）