第二章　フィクションに観るAI – 想像が現実に追いつくとき

HALは現在のチャットAIのように自然語で会話ができますが、機能を停止されるシーンでは「怖ろしい」「やめてください」といったセリフを繰り返し、機能が低下する中で「デイジー、デイジー…」と歌を口ずさむ様は、まるでHALが死を恐れているかのような印象を受けます。

HALに命令体系と音声合成によって動作しており、感情はありませんが、応答表現が人間的に設計されているため、HALに対して「感情を持つ存在」と誤認してしまうのです。
この人間がAIの出力に感情や意図を見出す反応は、心理学的には「擬人化」と呼ばれ、認知バイアスの一種として、非人間的対象に人格や意図を過剰に読み取る傾向に分類されます。

擬人化的応答による認知の誘導は、現代の対話型AIにも共通する構造で、言語表現の選び方や出力のタイミングによって、人は AIに感情投影してしまいます。
チャットAIが「お気持ちをお察しします」「それは大変でしたね」といった共感的な言葉を出力すると、自然な反応としてAIが理解してくれたと感じますが、これが誤った判断や過信を誘発する要因になり得るのです。

ブレードランナー – 人の境界

1982年に公開された『ブレードランナー』は、アンドロイドではなく「人造人間＝レプリカント」を登場させることで、AI技術と人間性の境界を根本から問い直す作品です。
レプリカントは外見・行動・言語いずれも人間とほぼ見分けがつかず、従来の“機械的存在”とは異なり、「人間らしさ」を備えた知性体として描かれています。

レプリカントの一人であるレイチェルは、人間と同様に動揺し、記憶に悩み、共感的な反応を示します。しかも、彼女には他のレプリカントにある「寿命制限」が存在せず、見かけや反応からは人間との違いを見出すことができません。
これに対し、レプリカントを処分する任務を担っていたデッカード自身が、次第にレイチェルを「殺す対象」ではなく「守る存在」として見るようになります。

この変化はHAL9000が機能を停止させられる際に「死を恐れている」という印象を受けたのと同じ構造であり、技術的判断ではなく、感情に基づいた認識の転換で、擬人化による誤認とも言えます。

ブレードランナーが描いたのは、AIや人工生命のリアルさではなく、人間側が「人らしさ」をどのように判断しているかという構造の脆弱性です。
劇中では、レプリカントと人間を識別するために、感情的な刺激に対する反応速度を測定する「ヴォイト」が用いられます。
「感情があるかどうか」が人間性を判断する基準であるため、実際にAIが感情を持っているかどうかとは無関係に、「そう見える」こと自体が誤認と信頼を引き起こす要因になるのです。

ターミネーター – AIの反乱

1984年に公開された『ターミネーター』は、軍事AI「スカイネット」が人類に反旗を翻し、未来から刺客を送り込むという破滅的で、荒唐無稽な物語ですが、「AIが自己判断で人間を排除する構造」を可視化した最初期の映像表現の一つであり、今日のAIを取り巻く構造的リスクとも一定の共通性を持っています。

スカイネットは、自律的に最適判断を行う軍事システムとして設計されており、「敵の排除」という目的に対して、最終的に人類全体をリスクと見なすようになりが、これは反逆ではなく、「目的達成の最適化」の結果です。ここでもAIに悪意や敵意はなく、自律システムが最適化を繰り返すことによって得た結論が「人類の排除」だったわけです。
この構造は、現代のAIにおける「目的関数の外部性」や「ブラックボックス的最適化」に通じています。