AIはあくまで「言葉の計算機」に過ぎずユーザーが想像するような思考や推論はしていないと専門家が指摘

2025年10月13日 20時00分 サイエンス

AIについて表す比喩には「ブラックボックス」や「オウム」などさまざまなものがあり、OpenAIのサム・アルトマンCEOによって広められた「言葉の計算機」というたとえも有名です。この言葉の計算機という比喩について、オーストラリアのカーティン大学でメディア・創造芸術・社会探究学部講師を務めるエルディン・ミラーク氏が解説しています。

Actually, AI is a ‘word calculator’ – but not in the sense you might think

https://theconversation.com/actually-ai-is-a-word-calculator-but-not-in-the-sense-you-might-think-264494

AIを何かにたとえることは、複雑なテクノロジーを日常的なものに置き換えて理解しやすくしてくれます。AIを表す言葉の計算機という比喩は、小さなプラスチック製の電卓が難しい計算を助けてくれるのと同様に、生成AIが大量の言語データを処理してくれることを示唆しています。

その一方で、AIを言葉の計算機とたとえることについては、生成AIの厄介な側面を覆い隠すものであるとして批判が寄せられています。実際、電卓にはバイアスが組み込まれておらず、間違いや倫理的ジレンマを引き起こすこともありませんが、生成AIではこれらの問題が避けて通れません。

しかしミラーク氏は、実際のところ生成AIは本質的に言葉の計算機であるため、この比喩を完全に否定することも危険だと指摘。「生成AIツールにおける計算は、人間の日常的な言語使用の基盤となる計算を模倣するように設計されています」と、ミラーク氏は述べています。

多くの人々は、自分たちの言葉のやり取りが統計的なものだとは考えていません。しかし、たとえ同じ意味だと推測できる言葉であっても「塩コショウ」ではなく「コショウ塩」とは呼ばず、「濃いお茶」を「お茶濃い」と言うことはないように、言葉の選択や順序などを規定する一種の社会的なルールが存在します。 よくある言葉のつながりや順序のことは、「コロケーション(collocations)」とも呼ばれます。文章で目にしたり誰かが話すのを聞いたりする頻度が多いほど自然な言い方だと感じ、他の言い方は不自然なものに、あるいは説得力のないものに感じるとのこと。

大規模言語モデルを使用する生成AIの中心的な成果のひとつが、このようなコロケーションを「人間の直感をうまく欺くような方法」で形式化したという点です。生成AIは、意味と関係をマッピングした抽象空間内で単語や記号を示すトークン間の統計的依存関係を計算することにより、チューリングテストで合格できるだけでなく人間に恋をさせるほど自然な文章を生成できます。

生成AIが言語的な計算に優れているのは、その言語学的なルーツによります。現代の大規模言語モデルの祖先は、冷戦時代にロシア語を翻訳するために設計された機械翻訳ツールにあるとのこと。しかし、ノーム・チョムスキーらによる言語学の発展に伴い、こうした機械は単純な翻訳にとどまらず、自然言語の処理方法を解読する方向へと進みました。

自然言語を処理する機械の開発は、文法などを含む言語のルールを機械化する試みから始まり、限られたデータセットに基づいて単語のシーケンスの頻度を測定する統計的なアプローチを経て、ニューラルネットワークを活用して流動的な言語を生成する現代のモデルにたどり着きました。しかし、規模や形態は計り知れないほど変化したとはいえ、現代のAIツールは依然としてパターン認識の統計システムだとミラーク氏は指摘しています。

そのため、生成AIは人間の知識や行動、感情について非常にうまく言語化することができますが、これらの現象を直接体験したり感じたりしているわけではありません。あくまで統計的にそれらしい文字や言葉の羅列を生成しているだけです。

AI開発企業は生成AIについて説明する時、「計算」ではなく「思考」「推論」「探索」といった言葉で表現しがちであり、これによって多くのユーザーは「AIは自分たちのような思考や推論をしているのか」と信じてしまっています。しかし、実際のところ生成AIは「『私』と『あなた』という言葉は『好き』という言葉と一緒に使われる傾向が強い」と計算できるものの、「私」や「あなた」、「好き」について理解しているわけではありません。 ミラーク氏は、「生成AIは常に計算だけを行っています。それ以上のものであると誤解するべきではありません」と述べました。