9月7日、Md. Rejaul Korim Sadiらが「From Architecture to Output: Structural Origins of Hallucination in Large Language Models and the Amplifying Role of Data」と題した論文を公開した。LLMのハルシネーション（幻覚）をモデルアーキテクチャの構成要素レベルに帰属させるための分類・検証フレームワークを提案しており、「データを綺麗にすればハルシネーションは解決する」という通念に対して実証的な留保を突きつける内容だ。

「なぜ嘘をつくか」ではなく「どの部品が嘘をつくか」

LLMが流暢かつ自信満々に事実誤認を出力する問題は広く知られている。これまでの研究は出力の種類でハルシネーションを分類してきた。「内因性 vs 外因性」「忠実性 vs 事実性」といった分類だ。しかしこれらの分類は、どの計算コンポーネントがそのハルシネーションを生み出したかについては何も語らない。

本論文はその問いに正面から向き合う。Decoder-onlyアーキテクチャのどの部品に、個別のハルシネーションを帰属させられるか、という問いだ。

3つの「失敗候補コンポーネント」

論文が候補として取り上げる構成要素は3つだ。

• 自己注意機構（Self-Attention）の連想的検索：トークン間の関連を拾う仕組み。関連が薄い・誤った情報を引っ張ることで誤出力が生じる。
• 最大尤度事前学習目的関数（MLE Pretraining Objective）：「次のトークンを予測する」学習。訓練データの誤りや偏りをそのまま内面化する。
• 自己回帰的コミットメントとExposure Bias：生成中に誤ったトークンを選んでしまうと、後続の出力がそれに引きずられる連鎖構造。Exposure Biasとは、訓練時には正解トークンを入力に使い、推論時には自身の出力を入力に使うという「訓練と推論の乖離」に起因する問題で、誤りの自己強化を引き起こす。

3つを「仮定として分離可能」と置くのではなく、分離可能であることを論文内で正当化している点が本論文の立場を明確にしている。

検証に必要なのはサンプリングアクセスのみ

帰属手続きとして論文が提案する方法は、モデルの内部状態にアクセスすることを要求しない。必要なのはサンプリングアクセス（=出力を生成させる能力）だけだ。

具体的には、プレフィックス・コンテキスト・頻度競合の3つへの順序付き介入（prefix intervention）を行う。プレフィックス介入とは、生成途中の特定の分岐点でモデルが選んだトークン列を意図的に差し替え、その後の出力がどう変化するかを観察することで、どのコンポーネントが誤りの原因であるかを推定する手続きだ。この介入を、独立アノテーションとclassifier baselineに基づく検証設計と組み合わせる。

論文は5つの反証可能な予測（Falsifiable Predictions）を明示しており、各予測が競合する仮説のどれを棄却できるかも特定している。これはエンジニアリングの仮説検証に近い構造だ。

実験結果：46.7ポイントの削減、しかし「部分的な結果」

論文はP3（自己回帰的コミットメント予測）について、3つのモデルファミリー横断の事前登録済みテストを実施している。

結果は以下だ：

• 分岐点で正しいトークン列を代入すると、下流の誤り主張がbaselineに対して46.7パーセントポイント減少（p < 10⁻⁹）
• しかし誤った事実を代入した場合も、統計的に区別できない割合でエラーが減少した
• 代入が成功したアイテムのうち、モデルが単独で正解するのはわずか2.2%

論文はこれを「確認」ではなく「真の部分的結果（genuine partial result）」と正直に記述している。代入による誤り削減がなぜ起きるのかの解釈には、まだ曖昧さが残るということだ。

データの病理は「増幅器」であって「起点」ではない

本論文のもう一つの主張が、データとコンポーネントの非対称的依存関係だ。

データセットの病理（偏り・誤情報・重複等）は各コンポーネントの失敗を増幅するが、独立してハルシネーションを引き起こすわけではない。

言い換えると：

• コンポーネントはデータ起因の失敗に対して必要な中間因子である
• データの欠陥は、コンポーネント起因の失敗には必要ない

この非対称性は、「データを綺麗にすればハルシネーションがなくなる」という単純な期待に対して、実証的な留保を提示するものだ。

Instruction Tuning・RLHF・RAGへの含意

論文はInstruction Tuning、RLHF、DPO、Retrieval Augmentation（RAG）、スケール、キャリブレーションが、この3コンポーネント論とどう関係するかも分析している。

具体的には、各手法が「ハルシネーションを減らす」とされる場合に、それが3つのコンポーネントのどれに作用しているのかを問い直す視座を提供している。たとえば、RAGはコンテキスト情報を補強することでSelf-Attentionの連想的検索の失敗を部分的に補いうるが、MLE目的関数や自己回帰的コミットメントに起因する失敗には直接作用しない、という分析の枠組みが示される。RLHFやDPOについても同様に、どのコンポーネントの失敗様式に対してどの程度の干渉力があるかが、帰属フレームワークを通じて整理されている。

これにより、個々のアライメント手法の限界を構造的に把握できる可能性が示唆されている。

詳細はFrom Architecture to Output: Structural Origins of Hallucination in Large Language Models and the Amplifying Role of Dataを参照していただきたい。