「徹底して見える」と「徹底している」：AIによる思考力低下は、設計の問題である

AIによる思考力の低下。見出しを飾ったのは、この警告だった。ゴールドマン・サックスのポッドキャスト『Exchanges』の2026年8月24日のエピソードで、同社の機関投資家・事業法人向けデジタル基盤 Marquee の責任者であり、グローバル・バンキング＆マーケッツ部門のAIワーキンググループで共同議長を務めるクリス・チャーチマン氏は、こう語った。「AIの時代に、私たちが推論をモデルに外部委託し、第一原理から自ら考える力を失う認知的萎縮に陥る、大きな危険がある」。

CNBCをはじめ、金融メディアの多くがこの警告を取り上げた。懸念は現実のものであり、チャーチマン氏の説明も的確だった。人間より上手にこなす道具ができると、その技能は衰える。道を見つける力も、暗記する力も、そうして失われてきた。推論だけは同じ道をたどらせてはならない、と彼は言う。

だが、このエピソードで最も重要な一文は、もっと後に、ほとんど何気なく語られている。

「徹底していることより、徹底して見えることのほうが得意」

チャーチマン氏は、Marquee AI の開発で求めていることを説明していた。すべてを出典に、それも「各出典の特定の一行」に結びつけることである。既製のプラットフォームも出典を示しはするが、ウェブ検索による根拠づけ（グラウンディング）では、実際にはその出典を使っていない、と彼は言う。そして、こう続けた。

「強く問い詰めたら、少なくとも正直ではあった。こう言ったのだ。『結局のところ、私は徹底していることより、徹底して見えることのほうが得意なのです』」

彼は逸話で終わらせなかった。次の一文が診断である。「だから、モデルに根拠を確かめさせる枠組みを、こちらで作らなければならない。モデルは本質的にそれを自分ではできないし、そうするよう報われてもいないからだ」。彼はその背景にある研究にも触れた。2025年の論文は、モデルの訓練と評価のされ方が、不確かさを認めることよりも、自信のある推測を高く評価してしまうことを示している。

フロンティアの現実を率直に語る、冷静な実務家の言葉である。同時に、エンジニアの目で読めば、機関投資の現場でAIが抱えるリスクを、大手投資銀行の当事者が公の場で語ったものとして、これ以上ないほど正確な表現でもある。

「厳密さ」という錯覚

大規模言語モデル（LLM）は、算術を実行し、貸借対照表の制約を守らせ、財務制限条項を突き合わせるために作られたものではない。権威があり、流暢で、漏れがないように読める言葉へと訓練された、確率的な系列予測エンジンである。

マーケティングの文面や顧客への書簡であれば、徹底して見えれば十分である。

しかし、投資判断の引受において、徹底して見えることは最も危険な失敗の形である。成功と見分けがつかないからだ。

投資委員会が秘密情報覚書（CIM）を精査するとき、リスクは摩擦の中にある。脚注に置かれた脆い前提、資金計画と噛み合わない設備投資計画、データルームの280ページ目に埋もれたガバナンス条項。対話型のコパイロットにその資料の要約を頼めば、モデルは訓練されたとおりに動く。一貫した物語を組み立て、矛盾を流暢な文章でならし、非の打ちどころのない5項目の箇条書きを返す。

アナリストはうなずき、マネージング・ディレクターは斜め読みし、案件は前に進む。

誰もが、どこかで誰かが配管を確かめたはずだと思い込んでいる。

AIによる思考力低下は、本当のリスクなのか

本当のリスクではある。ただし、根本のリスクではない。

見出しの語り方では、問題は人材と研修になる。アルゴリズムが最初の作業を担うとき、暗黙知をどう伝えるのか、という問いである。チャーチマン氏自身は、もっと構造的なところを指していた。問うべきは「AIが生成した分析を、当社の人材が十分に理解し、責任を持てるようにするには、どう作ればよいか」であり、「それは設計の段階で行わなければならない」と彼は語っている。

正しい答えであり、報道よりも先まで推し進める価値がある。

若手のバンカーやアソシエイトが推論を委ねるのは、怠けているからではない。取引の現場が求める処理量は膨大で、クロージングの期限は動かないからである。400ページのデューデリジェンス資料を数分で説得力のある投資メモにまとめるコパイロットを渡しておきながら、思考力を衰えさせるなと求めるのは、アーキテクチャがすべき仕事を、意志の力にさせることにほかならない。

チャーチマン氏は、その算術をはっきり語っている。システムが90%正しいとしても、「10の事実のうち、どれが捏造されたものかを見極める負担はあなたにある。だから、すべての事実を確かめなければならない」。確認する人には、どの10%を疑えばよいかがわからない。おおむね正しいツールは、検証の手間を半分にはしない。手間がどこにあるかを隠すのである。

計算は単純である。検証の失敗は、人間にさらなる根気を求めても解決しない。システムが何のために作られているかを変えることで解決する。

対話型コパイロットから、判断インフラへ

人材の推論力と資本の両方を守ろうとする金融機関は、生成された文章をただ受け取らせるアシスタントに頼ることはできない。重大な資本配分には、アーキテクチャに組み込まれた検証が要る。

1. 抽出と評価を切り離す。言語モデルは、雑多な資料を読み、主張を取り出すことはできる。しかし、自分の答案を自分で採点させてはならない。評価は、すべての主張に毎回同じ制約を適用する決定論的なルールが担う。
2. 主張は要約せず、反対尋問にかける。ピッチ資料が「キャッシュフローの黒字化まで資金は確保済み」と述べているなら、ソフトウェアはその一文を繰り返すべきではない。資料と一緒に提出された財務モデル（バーン、ランウェイ、設備投資計画）に照らして主張を検証し、食い違いを示し、重みを支えている前提を指摘するべきである。
3. 追跡可能性は、会話ではなく数学で担保する。どの証拠に支えられているかの記録がない分析の文章は、デューデリジェンスではない。ヘッジされていない負債である。Defensible Audit Log™ は、どの証拠が結論を支え、どの制約が検証され、判定がどう導かれたかを示す、封印された、数学的に追跡可能な記録である。

これはアナリストの判断を置き換えるものではない。判断に値するものを渡すのである。出典の付いた指摘と、文章に紛れて消えるのではなく処理を止める失敗である。推論を人の手に残す方法は、そこにある。流暢さを監査させるのをやめ、証拠を渡すことだ。

同じ論理が、カナダの銀行がAIエージェントに引いた一線の下にもある。検証できる記録のない自動化は、誰も引き受けることに合意していない負債である。

受託者責任から見た結論

ゴールドマン・サックス自身の開発の現場が、業界が得られる中で最も明快な自己診断を示した。徹底していることより、徹底して見えることのほうが得意なモデルである。それを作る側の答えは、モデルが自ら補えない根拠づけを、枠組みとして作り込むことだった。

投資判断のワークフローに生成AIを取り入れるすべての金融機関が、同じ選択を迫られている。枠組みが証拠を強制するか、文章が証拠の代わりを務めるかである。

LLMは、説得力を最適化する。askOdinは、事業の物理法則でコンパイルする。

ベンチャーキャピタルは、監査を受けていない最後の資産クラスである。askOdinは、その空白を埋めるための基盤を提供する。