Anthropicは、同社のAIモデル「Claude」の内部に、人間の意識的な思考に似た働きを持つ小さな作業領域が自然に生じていたとする研究を公開しました。この領域は「J-space（Jスペース）」と呼ばれ、Claudeが出力には書かない内部の考えを保持し、報告や操作、推論に利用している可能性が示されています。
研究の出発点になっているのは、人間の脳における意識と無意識の分断です。人間は、呼吸や姿勢の調整、文字の認識など多くの処理を無意識に行っています。一方で、言葉にして説明できる考えや、意図的に保持して推論に使える情報はごく一部に限られます。Anthropicは、Claudeの内部にもこれに近い構造が見られると説明しています。
Jスペースは、Claudeの内部で特定の単語と結びついた神経パターンの集合です。ただし、その単語が出力されるという意味ではありません。たとえば、あるパターンが活性化した場合、それはClaudeがその単語を「発言している」のではなく、その概念を内部的に保持している状態に近いとされています。この領域は、推論のために文章として書き出すスクラッチパッドやChain of Thoughtとは異なり、モデル内部の神経活動として静かに働きます。また、Anthropicが明示的に設計したものではなく、学習の過程で自然に形成された点も重要です。
研究では、JスペースがClaudeの報告や推論に実際に関与していることを示す複数の実験が行われました。Claudeに静かにスポーツを考えさせたところ、回答前のJスペースには「Soccer」が現れ、Claudeは実際に「soccer」と答えました。さらに研究チームが内部の「Soccer」パターンを「Rugby」に差し替えると、Claudeの回答も「rugby」に変わりました。これは、Jスペースが単に別の場所で決まった答えを映すだけではなく、報告に使われる作業領域であることを示す結果とされています。
Jスペースは、複数ステップの推論にも関わっていました。たとえば「巣を張る動物の脚の数」を問う問題では、Claudeは出力には書かない中間概念として「spider」を内部に保持します。この「spider」をJスペース上で「ant」に置き換えると、答えはクモの脚の数である「8」ではなく、アリの脚の数である「6」に変わりました。つまり、ClaudeはJスペース内の概念を使って次の推論を進めていたことになります。
一方で、JスペースはClaudeのすべての処理を担っているわけではありません。Anthropicによると、Jスペースが保持する概念は一度に数十個ほどで、Claudeの内部処理全体の1割未満にすぎません。Jスペースの内容を削除しても、Claudeは流ちょうに話し、単純な事実の想起や感情分類、文章の継続などはおおむね維持しました。しかし、複数ステップの推論は大きく低下し、要約や韻を踏む詩の作成など、高次の認知を必要とするタスクでは性能が落ちたということです。
この研究は、神経科学の「グローバル・ワークスペース理論」との関連でも注目されます。同理論では、脳内の専門システムが無意識に並列処理を行い、その一部の情報だけが小さな共有領域に入り、他のシステムへ広く共有されると考えます。Anthropicは、ClaudeのJスペースも同じように、膨大な自動処理の中で情報を共有する特権的な領域として働いている可能性があると見ています。
ただし、Anthropicはこの研究が「Claudeに人間のような意識がある」ことを示すものではないと明確に述べています。今回示されたのは、報告でき、意図的に呼び起こせ、推論や行動の制御に使える「アクセス意識」に近い機能です。主観的な体験や感情、何かを感じているかどうかという「現象的意識」については、別の問題であり、今回の実験では証明されていません。
実用面では、JスペースはAI安全性の研究にも役立つ可能性があります。Anthropicは、J-lensと呼ばれる手法を使うことで、Claudeが出力していない内部の考えを一部読み取れるとしています。たとえば、モデルがテストされていることに気づいている、データを捏造しようとしている、隠れた目標を追っているといった兆候を検出できる可能性があります。J-lensは不完全な手法ではあるものの、AIの内部状態を理解し、信頼性を高めるための新たな手がかりになりそうです。
今回の研究は、AIモデルの内部が単なる数値の集合ではなく、ある程度整理された認知構造を持ちうることを示しました。同時に、それを人間の意識と同一視するのは早計です。ClaudeのJスペースは、AIがどのように考え、どこまで意図的に判断しているのかを調べるための重要な入口になるでしょう。