テクノロジーにおける「説明のロックイン現象」

――なぜ最初に広まった技術理解は、技術そのものが変化しても残り続けるのか

新しいテクノロジーが登場すると、それを社会が理解するためには簡潔な説明が必要になる。自己組織化マップ（SOM）であれば「入力データに最も近いノードとその近傍を少しずつ更新する学習法」、RAGであれば「外部文書を検索してLLMに与える仕組み」、LLMであれば「次のtokenを予測するモデル」といった説明である。これらは、いずれも完全な誤りではない。むしろ技術の特徴を短時間で伝えるためには非常に有効であり、そのため広く普及する。しかし問題は、技術そのものが発展し、利用目的や実装方法が変化した後も、最初に普及した説明だけが技術の本質であるかのように残り続けることである。

本稿では、この現象を便宜的に「説明のロックイン（Explanatory Lock-in）」と呼ぶ。これは確立された単一の心理学用語ではないが、心理学における初頭効果や継続的影響効果、社会科学における情報カスケード、技術経済学における経路依存などを組み合わせると、その仕組みをかなりよく説明できる。さらに、学校教育や教科書、ソフトウェア実装、検索エンジン、近年ではLLMによる情報再生産まで考慮すると、説明のロックインは個人の認知バイアスを超えた「知識の社会的自己増殖現象」として捉える必要がある。

最初に形成された理解はなぜ修正されにくいのか

心理学で知られる初頭効果（Primacy Effect）は、最初に提示された情報が、その後の判断や印象形成に強い影響を与える現象である。人間は情報を完全に独立した断片として保存するのではなく、最初に得た情報から対象についての概念モデルを作り、その後の情報をそのモデルに沿って解釈する傾向がある。そのため、最初の説明は単なる一つ目の情報ではなく、その後の理解を組織化する枠組みとして作用する。

これに似た現象として、継続的影響効果（Continued Influence Effect）がある。これは、いったん受け入れた誤情報が後から訂正されたとしても、その後の推論や判断に影響を残し続ける現象である。重要なのは、人間が単に古い情報を忘れないということではなく、その情報をもとにすでに因果関係や物語を構築してしまっている点にある。古い説明を捨てるためには、その説明だけを削除するのではなく、それに代わる新しい説明体系を再構築しなければならない。

テクノロジーの場合はさらに複雑である。なぜなら、最初の説明が誤っているとは限らないからである。むしろ、技術が登場した当時には妥当であった説明が、その後の改良によって不完全になったにもかかわらず、技術の定義として残り続けるケースが多い。したがって問題は「誤情報を正しい情報へ修正すること」ではなく、「正しいが限定的な理解を、より広い概念モデルへ更新すること」にある。これは単純な誤り訂正より難しい。

説明は人の頭の中だけでなく、社会システムに固定される

説明のロックインを心理学だけで説明することはできない。テクノロジーについての説明は、教科書、講義資料、技術ブログ、サンプルコード、OSSライブラリ、API、製品マニュアル、検索結果などに埋め込まれるからである。一度ある説明が標準的なものとして定着すると、それを前提に教育が行われ、ソフトウェアが実装され、その実装を使った人がさらに同じ説明を再生産する。

技術経済学では、初期の選択が後続の選択を制約する「経路依存」が知られている。ある技術がいったん普及すると、利用者の増加、関連製品の増加、技能の蓄積、標準化などによって、その技術を使い続ける方が合理的になり、結果として別の選択肢へ移行しにくくなる。同様の現象は、技術そのものだけでなく、技術についての説明にも起きる。最初に分かりやすい説明が広まり、それを教科書が採用し、その教科書を読んだ人がソフトウェアを作り、そのソフトウェアを使った人が同じ説明を学ぶ。すると、その説明は単なる一つの理解ではなく、技術コミュニティの共通前提になる。

さらに、情報カスケードの問題もある。多数の人が同じ説明をしていると、それが正しいように見える。しかし、その100人が100個の独立した証拠に基づいて判断したとは限らない。同じ教科書、同じ原論文、同じチュートリアルから説明を受け継いでいるだけかもしれない。多数派であることと、独立した検証を経ていることは別である。

このように考えると、説明のロックインは、初頭効果、継続的影響効果、情報カスケード、経路依存が複合した現象として理解できる。

SOMに見る説明のロックイン

自己組織化マップ（Self-Organizing Map, SOM）は、この問題を考える上で分かりやすい事例である。SOMは1980年代初頭に、データを一件ずつ提示し、その都度もっとも近いノードとその近傍を更新する逐次学習アルゴリズムとして広く知られるようになった。この仕組みは非常に説明しやすい。入力刺激が与えられ、最も近いニューロンが勝者となり、その周囲も一緒に入力方向へ移動し、それを繰り返すことで地図が形成される。脳の自己組織化というイメージとも親和性が高く、SOMという技術を象徴する説明になった。

しかし、その後SOMにはバッチ学習型のアルゴリズムが導入された。統計的データ解析として使う場合には、データ提示順序や学習率の設定に依存しにくいバッチ型の方が適切な場合が多い。にもかかわらず、「SOMとはデータを一件ずつ提示して近傍を少しずつ動かすものだ」という説明は長期間残り続けた。研究者だけでなく、ソフトウェア開発者や利用者の間では、逐次学習アルゴリズムそのものがSOMの定義であるかのように理解されることも多かった。

ここで重要なのは、最初の説明が間違っていたわけではないことである。それはSOMの一つの実装方法として正しい。しかし「SOMが何を実現しようとしているのか」という上位の目的と、「それをどう計算するか」という具体的なアルゴリズムが混同された。SOMの目的を、データ空間の位相的関係を保ちながら代表ベクトルを配置することだと捉えれば、逐次学習とバッチ学習はそのための異なる手段に過ぎない。しかし、最初に具体的な手順として学習すると、その手段自体が技術の本質に見えてしまう。

これは学校教育でも起こりやすい。教科書では「手順」を説明する必要があるため、技術が生まれた背景や、どの問題を解決するためにその方法が考案されたのかという文脈が削られる。その結果、学ぶ側は「なぜこの技術が存在するのか」ではなく、「どのように手順を実行するか」を覚える。手段と目的が入れ替わるのである。

RAGでは「検索」が目的化している

RAG（Retrieval-Augmented Generation）でも、似た構造を見ることができる。RAGの基本的な発想は、生成モデルが内部に持つ知識だけでは不十分な場合に、外部知識を参照して回答能力を補うことである。しかし実務に普及する過程で、RAGは「文書をチャンク化し、embeddingを計算し、vector databaseに保存し、質問と近いチャンクをtop-kで検索し、それをLLMのプロンプトへ挿入する仕組み」として理解されるようになった。

これは典型的なRAG実装として正しい。しかし、企業でAIを利用するときに必要なのは、必ずしも「質問と意味的に近い文章」ではない。現在有効な規則は何か、顧客との過去の経緯はどうなっているのか、進行中の案件の状態はどうか、どの文書が正式版なのか、一般規則に対して例外が存在するか、といった情報を組み合わせる必要がある。この場合、問題は単純なretrievalではなく、判断時点の状況を再構成するcontext reconstructionに近い。

ところが「RAG＝vector search」という説明にロックインすると、問題が発生したときも、embeddingモデルを変える、chunk sizeを調整する、rerankerを追加する、検索件数を増やすといった方向に改善が集中する。本来は「検索問題として定式化したこと自体が正しいのか」を問い直す必要があるのに、既存の説明が問題設定を固定してしまう。

この点で説明のロックインは、単なる理解上の問題ではなく、技術投資やシステム設計に直接影響する。間違った手段を選んでいるのではなく、古い説明に基づいて問題そのものを間違った形で定義している可能性があるからである。

LLMに対する「次のtokenを予測しているだけ」という説明

LLMについても、同じ問題が生じつつある。現代のLLMを説明するとき、「次のtokenを予測するモデルである」という言い方が非常によく使われる。これは学習方法の重要な特徴を捉えており、誤りではない。しかし、ここでも学習目的と、学習後に形成された内部表現や機能を同一視する危険がある。

「次token予測で学習されている」という事実から、「したがって意味を理解していない」「したがって推論をしていない」「単なる統計的オウムである」と結論づけることは、学習目的からシステム全体の能力を直接推論している。一方で、流暢な応答をするからといって、人間と同じような意味理解や意識を持っていると考えるのも飛躍である。

必要なのは、LLMを一つの説明に閉じ込めることではない。学習アルゴリズムとして見れば自己回帰的言語モデルであり、内部表現の観点から見れば巨大な表現学習システムであり、システム工学的には推論、検索、ツール利用、記憶機構などと組み合わせて使う部品でもある。どの説明も対象の一側面を捉えているが、それだけで全体を定義することはできない。

「LLMとは結局、次のtokenを予測しているだけである」という説明が今後何十年も残るとすれば、SOMにおける逐次学習の説明と同じことが起きる可能性がある。技術の本体は変化しているのに、社会的な理解だけが初期状態に固定されるのである。

教育が説明を「劣化コピー」する可能性

説明のロックインを考える上で、教育の問題は重要である。教科書は、研究者たちが長い時間をかけて発見し、議論し、失敗しながら形成した知識を、限られたページ数に圧縮したものである。この圧縮の過程で、何が当時わからなかったのか、なぜその問題が重要だったのか、どのような仮説が失敗したのか、どの条件では理論が成立しないのか、といった情報が脱落する。

その結果、知識は正確であっても、生成過程を失ったものになる。研究者本人や、その研究に近い人が説明するときには、「そもそも何が不思議だったのか」という問題意識から話すことができる。これに対して、教科書を通じて知識を受け取った人が教える場合、定義、公式、計算手順、例題という形で説明されやすい。

知識の伝達経路は、本来、

現象 → 問題の発見 → 試行錯誤 → 仮説 → 理論 → 教科書

である。しかし教育システムの中では、

教科書 → 講義資料 → 授業 → 試験

という流れになる。ここで内容そのものが間違うとは限らないが、知識を生んだ問題意識や暗黙知が徐々に失われる。

これを「劣化コピー」と呼ぶとすれば、劣化しているのは定義や公式よりも、意味の方である。表面的な正確さは維持されても、「なぜその知識が必要なのか」「どの範囲で有効なのか」「どこに例外があるのか」が消えていく。

この観点から見ると、教育機関による差も単にカリキュラムの差ではない。重要なのは、知識が生まれている現場との距離である。最先端の研究を自分で行っている人が教える場合と、教科書を理解して説明する場合と、さらにその要約を教える場合では、同じ内容を扱っていても知識の解像度は異なる。研究の現場に近いほど、「教科書にはこう書いてあるが、実際にはここが問題だ」という情報が得られる。このような情報は、完成された教科書には残りにくい。

LLMは説明のロックインをさらに強化する可能性がある

これまで、古い説明は教科書や講義を通じて再生産されてきた。しかし現在は、LLMがその再生産速度を大幅に高めている。Web上で多数を占める説明がLLMの学習データに入り、ユーザーが質問すると、その多数派の説明が再生成される。その回答がブログや資料として公開され、再びWeb上の多数派情報になる。

すると、

既存の説明 → LLMの学習 → LLMの回答 → 新しい記事 → 次の学習データ

という循環が生まれる。

このループの問題は、知識が必ずしも更新されるとは限らない点にある。LLMは広く共有されている説明を非常にうまく再構成できるが、「その説明が現在も妥当か」を自動的に検証しているわけではない。多数派の説明がそのまま大量に再生産されれば、説明のロックインは従来以上に強くなる可能性がある。

したがってAI時代には、「検索結果が多い」「LLMがそう答える」「多くの記事が同じことを書いている」という事実だけでは、説明の妥当性を判断できない。重要なのは、その説明がどの時点の技術を前提としているのか、どの一次情報から派生したものなのか、その後にどのような修正が加えられたのかを確認することである。

テクノロジーを有効活用するには、説明のロックインから抜け出す必要がある

この問題は、単なる技術史上の興味ではない。企業が新しいテクノロジーを導入する場合、普通は「一般的にはどう使われているか」「ベストプラクティスは何か」を調べる。これは合理的である。しかし急速に発展する分野では、一般的な方法が「現在もっとも優れた方法」ではなく、「過去に最も普及した方法」である可能性がある。

特に問題になるのは、導入した技術が期待通りに機能しなかったときである。既存の説明にロックインしていると、同じ枠組みの中で改善しようとする。RAGがうまくいかなければ検索精度を上げ、SOMの結果が不安定なら学習率を調整する。しかし、本当に必要なのは「そもそもこの問題を検索問題として扱うべきなのか」「逐次学習という前提そのものが必要なのか」と問い直すことである。

技術を効果的に利用するためには、アルゴリズムを改善するだけでなく、アルゴリズムを選ばせた概念モデルそのものを点検する必要がある。言い換えれば、技術革新に対応するためには「技術を更新する能力」だけでなく、「技術についての説明を更新する能力」が必要になる。

説明のロックインから抜け出すためのヒント

第一に、「技術の定義」と「代表的な実装」を区別する必要がある。RAGという概念とvector databaseによるtop-k検索は同一ではない。SOMと逐次学習アルゴリズムも同一ではない。「これは技術そのものなのか、それとも一つの実装方式なのか」と問うだけでも、理解は大きく変わる。

第二に、技術を発明時点だけでなく、時間軸に沿って見るべきである。原論文を読むことは重要だが、それだけでは不十分である。発明時、普及時、現在という三つの時点を区別し、後年のレビュー、著者自身による再整理、実運用で見つかった問題を確認する必要がある。

第三に、説明の系譜を見る必要がある。同じ説明が100件見つかったとしても、それらが100個の独立した根拠を持つとは限らない。どの論文、どの教科書、どの公式チュートリアルから派生した説明なのかをたどれば、多数派理解がどれほど独立した検証を受けているのかが見えてくる。

第四に、成功事例だけでなく失敗事例を重視すべきである。成功事例は既存の説明を補強するが、失敗事例は説明の限界を示す。なぜ既存手法がうまくいかなかったのかを調べると、技術そのものではなく、その技術についての問題設定が間違っていたことが見つかる場合がある。

第五に、問題を一段上位から定義し直す必要がある。「検索精度を上げるにはどうすればよいか」と考える前に、「AIが適切に判断するためには、どのような情報状態が必要なのか」と問う。「SOMの学習率はいくつがよいか」と考える前に、「安定した構造表現を得るためには、どの学習方式が適切か」と問う。問いを上位概念へ戻すことで、既存の実装方法から自由になれる。

第六に、説明にもバージョンがあると考えるべきである。ソフトウェアにはversion番号があるのに、説明はしばしば不変の定義として扱われる。しかし実際には、「2020年のRAG理解」と「2026年の企業向けAIシステムにおけるRAG理解」は同じである必要はない。技術の説明も更新されるモデルとして扱うべきである。

第七に、複数の説明を同時に保持することが重要である。LLMを確率的言語モデルとして見ることも、表現学習システムとして見ることも、企業システムの言語処理コンポーネントとして見ることもできる。一つの説明を排他的な真理として固定せず、目的に応じて複数の説明レベルを使い分ける方が、技術の実態に近い。

技術革新とは、説明を更新することでもある

テクノロジーについて私たちは「正しい説明」を求めがちである。しかし、変化の速い分野では、永久に正しい説明を得ることよりも、現在もっとも有効な説明を持ち、それを必要に応じて更新できることの方が重要である。

初期の説明は必要である。複雑な技術を理解するためには単純化も避けられない。問題は単純化することではなく、単純化したことを忘れることである。

SOMの逐次学習も、RAGのベクトル検索も、LLMのnext-token predictionも、それぞれ対象の重要な一側面を説明している。しかし、それらが「結局この技術とは何か」という最終回答になった瞬間、理解は技術そのものの進歩から遅れ始める。

技術について広く共有されている説明は、現在の技術そのものを映しているとは限らない。それは、その技術が社会に最初に受容された時点の概念モデルが保存されているだけかもしれない。

したがって、成熟した技術理解に必要なのは、「みんながどう説明しているか」を知ることだけではない。「その説明はいつ成立したのか」「当時は何を解決しようとしていたのか」「その後、技術はどこまで変わったのか」「現在もその説明を使うべきなのか」と問い直すことである。

AIによって技術そのものの変化が加速し、同時にAIが既存知識を大量に再生産する時代には、この能力の重要性はさらに高まる。これから必要なのは、新しい技術を追いかける能力だけではない。古くなった説明を見抜き、それを捨て、必要なら問題そのものを定義し直す能力である。

技術革新とは、装置やアルゴリズムの革新だけではない。それを理解するための説明もまた、絶えず革新されなければならない。