Theory of Mind（大規模言語モデルにおける）（セオリーオブマインドダイキボゲンゴモデルニオケル）

Theory of Mind（大規模言語モデルにおける）

概要

Theory of Mind（心の理論、ToM）とは、他者が自分とは異なる信念・知識・意図・欲求を持つことを理解し、それに基づいて他者の行動を予測・解釈する認知能力です。1978年にPremackとWoodruffが提唱し、発達心理学・認知科学の中核概念となっています。大規模言語モデル（LLM）がToM能力を持つかどうかは、AI研究の重要な論争点となっています。

ToMの評価手法

False Belief タスク

最も基本的なToM評価方法。「サリーとアン課題」が代表例。

Sally-Ann課題の例:

• サリーがボールを箱に入れて部屋を出る
• アンがボールを別の場所に移す
• サリーが戻ったとき、ボールをどこで探すか？

正解は「元の箱（サリーが信じている場所）」。4歳以上の人間は通常正解できる課題です。

ToMiベンチマーク

• Matthew Kosakowski らが構築
• 一次ToM（他者の信念）と二次ToM（他者が他者をどう信じるか）を評価
• 体系的な難易度段階を設定

BigToM

• Gandhi ら（2023）が提案
• 反事実的推論を含む高度なToM評価
• LLMのToM能力の限界を明らかに

LLMのToM能力に関する研究結果

楽観的な見方

Kosinski（2023）の研究:

• GPT-4が一次・二次False Beliefタスクで人間の9歳児相当の性能を達成
• 「LLMが自発的にToMを獲得した」と主張
• Nature誌系メディアで大きく報道

GPT-4oの高い成績:

• 標準的なToMテストでは高いスコアを示す
• 複雑な社会的推論シナリオでも一定の能力を発揮

批判的な見方

パターンマッチング仮説:

• Ullman（2023）らは、わずかな表現変更でLLMのToM性能が大幅に低下することを示す
• 本質的な推論ではなく訓練データのパターンマッチングの可能性を指摘

系統的エラー:

• LLMはしばしば自己中心的な観点（自分の知識状態）から推論する
• 否定形や反事実的な状況で性能が著しく低下

分布外一般化の限界:

• 訓練分布外の新しいToMシナリオへの一般化が困難

ToMとLLMの社会的能力

ToMはLLMの社会的インテリジェンスの基盤として位置づけられています。

• 会話の文脈理解: 相手が何を知っているかに基づく適切な説明
• 意図の推論: 言外の意味・含意の理解
• 共感的応答: 感情状態に基づく適切な反応
• 欺瞞の検出・実行: 社会的ゲームにおける高度な推論

研究の方向性

ToM能力の向上手法

• ToM特化したデータでのファインチューニング
• Chain-of-Thought推論によるToMタスクの改善
• 明示的な信念追跡モジュールの導入

評価の精緻化

• より厳密なToMベンチマークの設計
• 人間の発達段階に対応した難易度設計
• マルチモーダル（視覚・言語）ToM評価

まとめ

LLMのToM能力は現在進行形の研究課題であり、「標準的なテストでは人間並みの成績」と「本質的な推論能力は欠如」という相反する証拠が存在します。この問いへの答えは、AIの社会的インテリジェンスの理解と、安全なAIシステムの設計に深く関わる重要な問題です。