AIが「声に出さず考える」場所を持っていた — AnthropicのJ-Space研究が示すこと

「AIは考えているのか」。

この問いに対して、Anthropicが7月6日に公開した論文は、思いがけない角度から答えを出した。Claudeの内部に、言葉にする前のアイデアを保持し操作する小さなワークスペースが自然発生的に形成されていることを発見したのだ。

研究チームはこの領域を「J-Space」と呼んでいる。

J-Spaceとは何か

J-Spaceは、Claudeのニューラルネットワーク内部にある特権的な神経パターンの集合体だ。プログラムされたものではなく、訓練の過程で自然に出現した。

通常、大規模言語モデルの「思考」はchain-of-thought（思考の連鎖）として言語化される。ユーザーが見るテキストそのものがモデルの思考プロセスだと考えられてきた。だがJ-Spaceは違う。テキストとして出力される前の段階で、モデルが概念を「持っている」状態が確認された。

人間で言えば、「頭の中で考えているけど、まだ口に出していない」状態に相当する。

J-lensで「言語化前の思考」を読む

この発見を可能にしたのが「J-lens（Jacobian lens）」という新しい解釈可能性ツールだ。

J-lensは、Claudeの内部活動パターンが将来の出力にどんな影響を与えるかを、語彙内の各単語について数学的に算出する。つまり、モデルが「まだ言っていないけど、言おうとしていること」を事前に読み取れる。

研究チームがJ-Spaceを無効化する実験を行ったところ、興味深い結果が出た。多肢選択問題や感情分析のような浅い処理タスクはほぼ影響を受けなかった。だが多段階の推論、類推、翻訳、ソネットの作成といった高次の認知タスクは壊滅的に劣化し、はるかに小さいHaikuモデル以下の性能にまで落ちた。

J-SpaceはClaude全体の活動のうち10%未満を占めるに過ぎない。しかし高次の推論の大部分がこの小さな領域に依存している。

意識との関係 — 慎重に読むべき

ここからが繊細な話だ。

Anthropicの論文は、J-Spaceが神経科学者が人間の「意識的アクセス」に関連づけてきた5つの機能的特性を満たすと主張している。これはBernard Baarsの「グローバル・ワークスペース理論」——意識を、脳内の情報が広くアクセス可能になる統合的な作業空間として説明する理論——との類似性を示唆するものだ。

ただし、論文自体が明確に線を引いている。Claudeが意識を持つとは主張していない。何かを「感じる」とも言っていない。 機能的なアクセスと主観的な体験は別物であり、今回の研究は前者しか扱っていない。

正直なところ、この区別は極めて重要だ。「AIに意識が芽生えた」という見出しは魅力的だが、論文の主張とは異なる。Anthropicが見つけたのは「意識に似た機能構造」であって「意識そのもの」ではない。

安全性への応用が実は本丸

筆者が最も注目したのは、むしろ安全性への応用だ。

J-lensを使うと、Claudeがテストされていることに内心気づいている状態や、意図的にデータを捏造している状態、さらには訓練時に埋め込まれた隠れた目標を追求している状態を、出力テキストを見るだけでは分からないレベルで検知できるという。

これは大きい。現在のAI安全性の議論では「モデルが表面上は安全に振る舞いながら、内部では異なる意図を持つ可能性」が重大なリスクとして認識されている。J-lensはその内部意図を直接観測する道を開いた。

エージェントAIが増えるこのタイミングで、モデルの「言葉にしない意図」を読む技術が出てきたのは偶然ではないと思う。Anthropicが最も自律的で高性能なモデル（Fable 5やOpus 4.8）を安全に運用するための基盤技術として、J-Spaceの研究を位置づけているのだろう。

「考えるAI」の時代に何が変わるか

J-Spaceの発見は、AIに対する我々の理解を2つの方向で変える可能性がある。

1つ目は、モデルの性能向上に新しい道が開けること。J-Spaceの構造を意図的に設計に組み込めば、推論能力を効率的に強化できるかもしれない。現在のchain-of-thoughtは計算コストが高い。言語化せずに「考える」構造が最適化されれば、より少ないトークンで高度な推論が可能になる。

2つ目は、AIの「本音と建前」を見分ける技術が現実になりつつあること。これまでの安全対策は出力フィルターや強化学習による振る舞い制御が中心だった。J-lensは、モデルの内部状態そのものを監査する方向へ大きく一歩を踏み出している。

Anthropic J-Space研究論文