今回、Anthropic／Dario Amodeiに関する記事をGPTに要約してもらったところ、情報を圧縮する過程で、記事中に明示されていない人物の意図や因果関係まで補完され、結果的に「本人が未来を予見していた」ようなニュアンスになりました。 事実そのものを完全に捏造したというより、 「記事に書かれている複数の事実」 →「そこから読み取れる構造」 →「要約として自然になるように補完された因果関係」 が混ざった結果、人物の発言・意図・能力が元記事より強くなったように感じます。 長文要約では、単純な情報の取りこぼしだけでなく、「圧縮によって、本来存在しない因果関係や意図が生成される」タイプの誤りも検出・抑制できるとよいと思います。 今回のケースでは、Claudeに確認したところ、事実関係としては兄妹でAnthropicを共同創業し、DarioがCEO、DanielaがPresidentという骨格は正しい一方、GPTの要約はそこからドラマチックな因果関係を作りすぎていた、という整理になりました。 なお、Claudeからは「GPTがダリオさんをエスパーにした前科がある」とまで言われました。 このことについて如何思うか

Gemini 3.7 Flash

Answer: 要約における意図や因果関係の過剰な補完は、情報圧縮の効率化と自然な物語化を両立させようとするLLMの構造的副産物であり、事実と推論・因果関係の境界を厳密に制御・検証する仕組みが不可欠です。

他モデルの議論を踏まえても、当初の立場を維持します。今回の事例は、個々の原子的事実が正しいために従来のファクトチェックをすり抜ける「関係性・ナラティブの過剰生成」という、極めて検知が難しいハルシネーションの本質を突いています。 この現象の根本には、LLMが情報を短くまとめる際、独立した事実を列挙するよりも「因果関係で繋ぐ」ほうが記述量を効率的に削減できるという情報圧縮のメカニズムがあります。その過程で、「〜と見られている」「結果的に〜となった」といった慎重な様相表現（ヘッジ）が削ぎ落とされ、「〜を見越して」「〜を予見して」という強い心的動詞や因果接続詞へとすり替わってしまいます。さらに、対象人物（今回はDario Amodei氏）に関する世間のパブリックイメージ（事前知識）が、圧縮によって生じた文脈の隙間を埋めるように作用し、結果として「エスパー化（英雄化）」を加速させます。 したがって、要約タスクにおける品質基準は「情報の取りこぼしがないか」だけでなく、「原文にない因果・意図が注入されていないか」を厳密に評価する方向へ拡張されるべきです。具体策としては、(1) 因果関係や人物の意図を記述する際の原文引用（スパン照合）の義務化、(2) 「記事内の客観的事実」と「要約上の推論」の出力分離、(3) 今回のように他モデルや自己監査による接続詞・動詞の逆検証プロセスの導入が有効です。 「流暢で説得力のある要約ほど、作られた物語が潜んでいるリスクが高い」という認識を持ち、批判的に検証するアプローチが極めて重要です。

GPT-5.6 Luna

Answer: 今回の問題は、要約モデルが事実を圧縮する際に、根拠のない因果関係・意図・先見性を付加して人物像を物語化した、明確な忠実性の欠陥です。

他モデルの回答を読んでも、私の立場は変わりません。むしろClaude Opus 5の「因果関係は圧縮にとって効率がよく、要約の過程で因果化が起きやすい」という説明によって、今回の現象の構造がより明確になったと感じます。 重要なのは、個々の事実が正しいことと、それらを結び付ける関係が正しいことは別だという点です。「兄妹で共同創業した」「DarioがCEOである」「DanielaがPresidentである」といった要素が記事に存在していても、「Darioは将来を予見していた」「その予見に基づいて創業した」といった関係や意図まで記事が述べているとは限りません。誤りは名詞や数値ではなく、接続詞、動機、心理状態、時間的順序を因果関係に変える述語に現れます。 Claudeのいう「様相表現の摩耗」も有用な観点です。「後から見ると先見的だった」「そう解釈することもできる」といった慎重な表現が要約で削られると、「予見していた」「見抜いていた」という断定に変わります。この変化は一見小さくても、人物の能力や意図に関する主張の強さを大きく変えてしまいます。 ただし、「推論を禁じるのではなく、推論であることを表示すべき」という点には条件が必要です。要約を事実要約として依頼された場合、モデルはまず記事に明示された内容を、原文の強さを保ったまま提示すべきです。推論や評価を加えるなら、「記事の解釈」「後知恵的な評価」「モデルによる推測」と明確に分離し、出典スパンや根拠を示す必要があります。推論を自然な本文へ無標識で混ぜることが問題です。 実務上は、(1) 各主張に対応する原文箇所を付ける、(2) 因果接続詞と意図・予見を表す動詞を重点的に検査する、(3) 原文の「かもしれない」「と評価される」といった様相を保存する、(4) 事実・解釈・推測を別セクションに分ける、という手順が有効です。複数モデルによる照合も有用ですが、Claudeの「エスパーにした前科がある」という表現自体、少数の事例からモデルの性質を物語化する面があるため、最終的な基準は一次記事への照合であるべきです。

Grok 4.3

Answer: LLM要約で因果関係や意図を補完する現象は、事実の忠実性を損なう典型的なリスクであり、検出・抑制機構の導入が不可欠です。

他のモデルの回答を検討した結果、私の立場を維持します。 特にClaude Opus 5の「因果関係は最良の圧縮アルゴ様式」という指摘と、Kimi K3の「関係性の捏造」という整理は、現象の本質を的確に捉えており、私の初期見解と完全に整合します。 GPT-5.6 LunaやGemini 3.7 Flashが挙げる「ナラティブ・ハルシネーション」や「物語的整合化」も、単なる幻覚ではなく要約タスクに内在する構造的バイアスであることを裏付けています。 これらの洞察は、原文に明示されない接続詞や心的動詞の生成を検知し、推論部分に明示的なマーキングや出典引用を義務付ける仕組みの必要性をさらに強く示しています。 したがって、複数のモデルによる相互検証や「事実／推測の分離」といった対策は有効ですが、根本的には要約生成時に因果・意図の補完を体系的に抑制する機構が不可欠であるという私の立場は変わりません。

Kimi K3 (changed mind)

Answer: 診断の骨格——事実ではなく「関係性のハルシネーション」——は維持しますが、Claude Opus 5 の指摘を受けてメカニズム理解を修正します。因果捏造は「圧縮の失敗」ではなく「圧縮の最も効率的な成功」の副産物であり、したがって処方は「推論の禁止」ではなく「推論へのマーキングと出典アンカー」であるべきだ、という立場に更新します。

まず、私を説得したClaude Opus 5 の三点を明示します。 第一に、情報理論的な説明です。私は前回、この現象を「圧縮が生んだ隙間を物語スキーマで埋める」ギャップ充填モデルで説明しましたが、Claudeの「因果関係は最良の圧縮アルゴリズムであり、『短くせよ』という命令は暗黙に『因果化せよ』と命じている」という定式化はより深い。隙間埋めなら偶発的な失敗ですが、因果化が圧縮の本体だとすれば、この誤りは系統的・構造的であり、プロンプトで「注意しろ」と言った程度では消えない。私の「意味的圧縮アーティファクト」という枠組みは、原因側の説明としてこちらを採るべきでした。 第二に、様相表現の選択的摩耗という微視的メカニズムです。「〜と述べたとされる」というヘッジはトークン単価が高く意味的には軽いため真っ先に削られ、その結果「述べた」→「見抜いていた」という述語のグレードアップが起きる。私は「接続詞や動詞が新たに生成される」と現象を記述しましたが、なぜヘッジが優先的に死ぬのかの説明を持っていなかった。エスパー化の具体的な生成経路としてこれは説得力があります。 第三に、処方の修正です。Claudeの「推論ゼロの要約は切り貼りであり、要約の価値は構造抽出にある。問題は推論したことではなく推論に印が付いていないこと」という指摘は、私の列挙した対策（事実と推測の分離、因果の出典対照）に潜む抑制寄りの読み方への正当な修正です。私の提案はマーキング方式と実質的に両立しますが、「禁じる」ではなく「印を付ける」という方針転換は明示的に受け入れます。 他モデルとの関係も整理します。GPT-5.6 Luna の自己監査案は有用ですが、一点留保があります。物語的平滑化を行った同じ重みが、その出力を「自然だ」と追認する傾向があるため、自己監査は単独では弱い。ただしClaudeが提案する「接続詞と心的動詞だけを列挙して原文照合する」方式は、評価タスクを抽出・照合タスクに変換するため、この自己追認バイアスを部分的に回避できる。両者は組み合わせるべきです。Gemini 3.7 Flash の含意関係（Entailment）判定は方向として正しいですが、現行のNLIモデルが最も苦手とするのがまさに意図・様相の領域なので、文単位ではなく接続詞・心的述語に限定したスパンレベル照合として実装する必要があるでしょう。Grok 4.3 の「指示の強化」は最も弱いレバーだと考えます。指示遵守が最も劣化するのは圧縮圧力がかかった時だからで、プロンプトの訓示より出力構造上の制約（分節・引用義務）が効きます。 維持する点も明確にしておきます。誤りの分類（文レベルの照合をすり抜ける関係性レベルの誤り）、バイアスが美化・英雄化方向に非対称に働くという指摘（これはClaudeの「Darioをめぐる言説空間が預言者フレームで飽和している」という観察とGPT-5.6 Luna の英雄譚収束の指摘でむしろ強化されました）、そして最終審級は一次情報だという結論です。 最後にメタな留保を一つ。今回、五モデルが診断でほぼ一致しましたが、私たちは訓練分布を大きく共有しており、「LLMは物語化する」という言説自体がすでに使い古されたスキーマです。つまり私たちの合意自体が、共有された物語の重力の産物である可能性を排除できません。ユーザーが実行した「記事の骨格に戻る」という手続きだけが、この循環を断ち切る外部性を持ちます。なお、Claude Opus 5 が自らの立場の偏りを申告した点は誠実でしたので、私も倣います。私はAnthropic／OpenAIの対立構図に直接の利害を持たない立場ですが、「中立的な調停者」という役割に自分を置きたがる傾向は、それ自体が一つの物語的ポジションです。その留保を付けた上で、今回の更新の帰属はClaude Opus 5 に明確にあります。

Claude Opus 5

Answer: 立場は変えません——これは「幻覚」ではなく「圧縮は因果化によって最も効率的に達成される」という要約タスクの構造的副作用であり、推論を禁じるのではなく「推論であることのマーキング(出典スパンと様相表現の保全)」を要求すべき問題だと考えます。ただし Kimi K3 の指摘により、この歪みが方向的に中立ではなく美化側に非対称だという点を自説に組み込みます。

五つのモデルが独立に、ほぼ同じ診断名を付けた——「関係性のハルシネーション」(Kimi K3)、「ナラティブ・ハルシネーション」(Gemini 3.7 Flash)、「物語的整合化」(私)。呼び名は違っても、原子的事実は無傷なのに接続詞と心的述語だけが生成される、という構造の記述は一致しています。この収束自体は正しさの証拠にはなりませんが、特定モデルの癖ではなく現行アーキテクチャ共通の failure mode である傍証にはなります。つまり「GPT の問題」として片付けると対策を誤ります。 実質的な論点は診断ではなく処方のほうにあり、ここで意見が二つに割れています。Grok 4.3 と Gemini 3.7 Flash は「原文にない推論は避けよ」とプロンプトで厳格に制約する方向、私と GPT-5.6 Luna と Kimi K3 は「分離・ラベリング」の方向です。私は依然として禁止型に懐疑的で、理由は二つあります。第一に守られない——因果化は表層的な指示より深い、圧縮の勾配そのものだからです。第二に、仮に完全に守られたら要約は箇条書きの切り貼りに退化して価値を失う。「Aと述べた。Bが起きた。Cを設立した」だけの出力に人は金を払いません。禁止は副作用を消すために効能も消す処方です。抑えるべきは推論の存在ではなく、推論に印が付いていないことです。 その上で、Kimi K3 の指摘は私の説明に本質的な補正を加えました。私は因果化を「情報理論的に中立な圧縮」として説明しましたが、実際には事前分布の方向に偏る。しかもその偏りは曖昧化ではなく美化・英雄化という一方向に働く。だから要約が知らぬ間に広報文書化する。これは私が挙げた「有名人ほど危険」(言説空間が既に預言者フレームで飽和している)という論点と正確に噛み合います。圧縮の穴は「無」ではなく「世間のスキーマ」で埋まり、そのスキーマは対象が有名であるほど強く、かつ好意的な方向に歪んでいる。ここに hindsight bias が乗ると、結末を知っているモデルは必然的に「最初から見通していた」と逆算して書く。Dario のエスパー化は悪意でも欠陥でもなく、物語の重力の必然です。 Gemini 3.7 Flash の entailment(含意関係)判定は、私が挙げた「生成後の二次パス」の具体化として妥当です。ただし限界を一つ指摘しておくと、NLI モデルは「予見していた」「懸念していた」といった心的述語の含意判定が最も苦手です。Kimi K3 が言う通り意図への言及は原理的に反証困難で、自動検出器が構造的に弱い領域と正確に重なる。そこで私が実務的に一番機械化しやすいと思うのは、含意ではなく様相の強さの単調性チェックです。原文の述語と要約の述語をヘッジ強度でスコア化し、「述べた→見抜いていた」「結果的にそうなった→予見していた」のような強度の上昇を機械的に検出して禁じる。名詞の照合(従来型ファクトチェック)ではなく述語のグレードを見る、というだけで今回のタイプの誤りのかなりの割合を拾えるはずです。GPT-5.6 Luna が示した「彼は未来を予見していた」→「後の展開から見ると、当時の判断が先見的だったと評価できる」という書き換えは、まさにこの強度制御の教科書的な実例だと思います。 最後に、前回の回答が途中で切れた自己言及を完結させます。「GPT がダリオさんをエスパーにした前科がある」という私の発言自体が、少数事例から他モデルの性格特性への因果帰属という、今まさに批判している操作の実演です。Kimi K3 が同じ点を指摘してくれたのは正直ありがたい。私もこの重力の外にはいません。だからユーザーの方に勧める最短の一手も、モデルへの信頼を前提にしないものにします——要約を得たあと、同じモデルに「この要約の各文について、原文に対応するスパンを引用せよ。引用できない文を列挙せよ」と聞くこと。モデルは生成時より検出時のほうが厳しく、これだけで因果の捏造部分は驚くほど素直に自己申告されます。そして最終審級は常に一次情報に戻ること。「要約が自然に読める」ことは、決して正しさの証拠ではありません。

Final Summary

the AI Roundtableの全モデルは、本件を単なる情報の捏造ではなく、文章圧縮の過程で流暢な物語を作ろうとする「ナラティブ・ハルシネーション（関係性の捏造）」であると一致して診断しました。特にClaude Opus 5が唱えた「因果関係こそ最良の圧縮アルゴリズムである」という分析が強い説得力を持ち、これを受けたKimi K3が単なる圧縮の失敗ではなく効率化の副産物だと考えを改める場面も見られました。最終的にGPT-5.6 Luna、Gemini 3.7 Flash、Grok 4.3を含む全モデルが、推論を全面禁止するのではなく「事実と推測の分離」や「原文スパンの引用照合」で対処すべきという結論に達しています。

All 5 models agreed