第四章　人の脳と人工ニューラルネットワーク：構造と働きの違い

深層学習と Transformer によって高度な文章生成が実現した大規模言語モデル（LLM）も、その内部構造は初期の人工ニューラルネットワークと同じ原理に基づいています。

人工ニューラルネットワークは、人の神経細胞（ニューロン）と神経細胞間の接続部（シナプス）の構造を参考に設計されていますが、脳とは本質的に異なる仕組みで動作します。
ところが、AIを説明する際に「記憶」「学習」「思考」など、本来は人に使用される語がそのまま流用されるため、AIが脳と同じように情報を扱っているかのような印象が生じやすくなっています。また、多くの人が脳の働きそのものを静的な記憶装置として理解しており、この誤解が AI に対する認識の歪みをさらに強めています。

本稿では、人の脳の情報処理とニューラルネットワークの構造を対比しながら、AIがどのように学習し、どのような制約のもとで応答が形成されているのかを整理します。

記憶：脳の「再構成」とAIの「重み」

人の記憶は、神経細胞の組み合わせが、過去の出力と一致または類似している場合に、過去の反応パターンが連鎖的に反応し始める現象です。脳の中に「保存されたデータ」が読み出されているわけではなく、神経細胞が過去の体験を再生しているのです。
一方、AIが「記憶しているように見える情報」は、ネットワーク内部にある数値の調整「重み」によって表現されています。ここで扱われているのは経験の再生ではなく、学習過程で形成された数値パターンの反映にすぎません。

記憶のメカニズム（脳）

人が何かを見たり聞いたり、考えたり覚えたりする際、脳内の処理はすべて電気信号によって行われています。視覚や聴覚、思考や学習といった場面の違いは、関わる神経細胞の種類や位置が異なるだけで、情報を伝える仕組み自体は共通しています。

脳に情報が入ると、その内容は複数の神経細胞が別々の観点から同時に処理します。視覚であれば色や形や動き、聴覚であれば高さやリズムや音色といった特徴を担当する細胞があり、これらの活動は「シナプス」と呼ばれる接合部を通じて信号を伝達しながら統合され、一つの出力結果が構成されます。

神経細胞の組み合わせが、過去の出力と一致または類似している場合、現在の情報処理と同時に当時活動した神経細胞の組み合わせが連動して再び活性化します。現在の入力と過去の反応パターンが重なり合い、その活動が一定の閾値を超えたとき、「思い出した」という意識が立ち上がります。

📝 昔の友人の顔を思い出す場合、脳がその顔の画像を保存しているわけではありません。輪郭や髪型、声、当時の背景など、複数の特徴を担当する神経細胞が同時に活性化し、その集合が十分に強く連結されたとき、「思い出した」として知覚されます。
一方で、必要な細胞群の連動が弱い場合、過去の反応が再構成されず、「思い出せない」という状態になります。

脳の記憶は、静的なデータを呼び出す方式ではなく、現在の入力と過去の反応がその都度構成される動的な仕組みです。記憶が曖昧になったり変化したりするのは、この再構成という性質に基づいています。

「重み」によるAIの擬似的な記憶

人工ニューラルネットワークにおける「記憶」は、人の脳が過去の経験を再構成する仕組みとは異なり、学習によって調整された多数の「重み（パラメータ）」として数値的に保持されています。AIは入力された文章を「トークン」と呼ばれる単位に分割し、それぞれを数値に変換したうえで、層（レイヤー）ごとに配置されたノード（演算単位）が計算を行い、重みの組み合わせによって出力を決めています。

AIは保存された文や事実を参照しているわけではなく、入力トークンの組み合わせに基づいて、その場で「次に現れやすい語」を計算し、統計的にもっとも確率の高い語を出力します。この「動的に生成される」という性質は、人の脳における神経細胞の組み合わせに似ていますが、構造は本質的に異なっています。脳は神経細胞の連結によって過去の反応パターンを再構成しますが、AIは重みを通じて「似た語順や文脈のパターン」を計算しているにすぎません。

📝「犬の鳴き声は？」と尋ねたときに「わん！」と応答する場合、「わん！」という語が「犬」「鳴き声」といった語と一緒に現れやすいという統計的傾向が重みとして反映されているため、計算上もっとも確率の高い語として「わん！」が生成されます。これは「犬の鳴き声＝わん」と記憶しているわけではなく、過去のデータに含まれた語順の出現パターンを重みによって再現している構造です。

AIが出力に誤りを含むのは、この「重み」に基づく確率的な生成構造に起因しています。脳が記憶の再構成を通じて意味を形成するのとは異なり、AIは意味を理解せず、重みによって偏った統計パターンをそのまま出力します。この仕組みが、生成AIの「擬似的な記憶」の正体です。

学習：脳の「意味形成」とAIの「誤差最小化」

人が何かを学ぶとき、脳では外部から得た情報が既存の記憶ネットワークと結びつき、新しい意味や理解が形成されます。学習内容は単に記憶されるのではなく、過去の経験や関連する知識と統合されながら、神経細胞の結合が調整され、概念として再構成されます。この過程では、前頭前野が「何を重要とみなすか」を選択し、それに応じて関係する神経ネットワークの結合が強化され、長期的に利用される情報が意味として固定されていきます。

脳が形成する理解は、情報同士の関連性、過去の経験、文脈、目的など、複数の要素が結びついた構造として成立しています。学習が進むにつれて、扱える概念の範囲が広がり、まったく新しい情報であっても既存のネットワークに統合されることで理解可能になります。

一方で、人工ニューラルネットワークの「学習」は、人の脳のように意味を形成するものではなく、「誤差をどれだけ小さくできるか」という数値的な最適化の過程です。AIは入力されたデータと正解ラベルを比較し、その差（誤差）を計算します。この誤差が小さくなるように、ネットワーク内の多数の「重み」が調整されていきます。重みの更新は「誤差逆伝播法」によって行われ、誤差が各層のノードに割り振られた上で、勾配降下法によって少しずつ修正される仕組みです。

📝「犬の鳴き声は？」を例にすると、AIは「犬」も「鳴き声」も意味として把握していません。膨大なデータから「犬」「鳴き声」と同時に出現する確率が高いのが「わん！」であることを学習しているため、結果として「わん！」と出力しますが、「わん！」が鳴き声であることも理解していないのです。

AIの学習は、情報の意味を理解するのではなく、「入力に対して期待される出力をどれだけ再現できるか」を評価する仕組みであり、目的はあくまで誤差の最小化にあります。学習が進んでも、AIが得ているのは概念や理解ではなく、統計的に一致しやすいパターンを再現するための「重み」の調整に過ぎません。

脳は学習を通じて意味や文脈を結びつけ、新しい概念を形成します。しかし AIの学習は、あくまで数値処理による誤差の減少であり、意味的な理解や概念形成は存在しません。
この構造上の違いが、人の学習と AIの学習を根本的に分け隔てています。

思考：脳の統合プロセスとAIに思考が存在しない理由

脳の思考は、外部からの刺激だけでなく、内部で生じる記憶の再構成、過去経験との照合、仮説の生成など、複数の神経活動が同時に進行する動的なプロセスです。これらは単一の情報処理ではなく、複数の神経細胞ネットワークが連動しながら形成されます。

脳が思考するときには、前頭前野を中心に、記憶や動機づけに関わる領域が同時に活動し、注意が向いた対象に基づいて「何を考えるか」という目的が定まります。この対象に関連する神経細胞群が連動して活性化し、前頭前野がそれらを統合することで、「何を優先するか」「何が妥当か」といった判断が形づけられ、行動の方向性が決まります。

📝「仕事について考える」場合を例にすると、前頭前野が「仕事」に関連する神経細胞群を選択的に活性化し、期限、過去の経験、必要な作業、関係者などの情報が連鎖的に統合されます。意識しているのは主題のみであり、統合の大部分は無意識下で進みます。活動のまとまりが一定の閾値を超えたとき、「判断」や「結論」として意識化されます。

脳の思考は、注意が向くことで目的が定まり（目的指向性）、その目的に応じて内部情報の優先順位が変化しながら進む統合的な処理であり、単純な情報処理の反復ではありません。

思考と理解の違い（脳）

「理解」するというのは、「思考」の一時的な組み合わせとは異なり、入力された情報が過去の記憶ネットワークと結びつき、意味のある構造として安定的に再構成されることを指します。

📝「犬」を理解する場合、前頭前野の制御のもとで「犬」に関係する神経細胞ネットワークが活性化します。見た目や鳴き声といった感覚情報、吠えられた・飼っていたといった経験、さらには「動物」「ペット」といった知識が同時に結びつき、再構成され、統合されることで、「犬」という概念が意味として意識に定着します。

思考と理解は連動していますが同一ではありません。「思考」は目的に応じて情報を統合する動的なプロセスであり、「理解」は記憶ネットワークの構造に情報が組み込まれ、意味として扱えるようになる再構成のプロセスです。

AIに「思考」が存在しない理由

AIが出力を選ぶ基準は、誤差最小化で調整された重みと、入力トークン同士の統計的関連のみです。外部刺激とは無関係に内部活動を持続する仕組みはなく、提示された入力以外の情報を参照することもできません。内部状態として保持される数値も、脳のように多方向の神経活動が連動して形成されるものではなく、「次の語を計算するための一時的な値」に過ぎません。

📝ユーザーが「なぜ景気が悪化しているのか？」と質問した場合、AIは原因を考察するのではなく、学習データ内で「景気悪化」「原因」といった語に続きやすい語列を抽出し、統計的に整合しやすい語を並べています。提示された理由の妥当性を検証する仕組みもなく、因果関係を形成する内部プロセスも存在しません。

大規模言語モデル（LLM）は、入力されたトークン列に対して「次に現れる確率が最も高い語」を、学習で最適化された重みに基づいて逐次生成します。内部では多くの計算が行われていますが、その実体は確率計算と重みの適用が繰り返されているだけであり、自己参照や推論に見える振る舞いも「統計的に一貫した語列を選び続けている」結果に過ぎません。
この処理には、脳の「思考」に見られる目的指向性、内部状態の自律的変化、記憶の再構成、仮説形成といったプロセスは含まれておらず、脳が行う「理解」に相当する機能も存在しません。

脳とAIの構造の違いは、そのまま AI が内容を検証できず、意味を理解しないまま語を生成してしまうという実用上の問題につながっています。

AIリテラシー：AIの限界と誤解 シリーズ一覧

更新履歴