AIが集めた「都合のいい情報」を誰もが使い出す──特集「THE WORLD IN 2025」

世界中のビジョナリーや起業家、ビッグシンカーがキーワードを掲げ、2025年の最重要パラダイムを読み解く恒例の総力特集「THE WORLD IN 2025」。ロンドン・ビジネス・スクールのアレックス・エドマンズは、AIに頼って導き出すシンプルな結論が、より複雑な現実を覆い隠してしまう状況を危惧している。

誤情報のもたらす問題は2025年、いっそう深刻になるだろう。誤情報であることがさらに見分けづらくなるからだ。誤情報とは、事実をゆがめたり、データを粉飾したり、偽画像をつくったり、図表を改ざんしたりするものだと考えられている。人工知能（AI）は情報を検証して問題点を指摘してくれることもあるが、それとは真逆の役割も果たしてしまう。25年、AIはその計り知れない能力によって誤情報を生み出す危険な存在になるだろう。

誤情報がもたらす問題はAI以前にもあった。例えばマッキンゼー・アンド・カンパニーは4つの報告書（2015年、18年、20年、23年）において、多様性が企業のパフォーマンスを改善すると主張していた。この結論は「それが本当であってほしい」と考える大勢の人たちにとっては好評だった。人種的にはマイノリティにあたるわたしも、そのうちのひとりだった。

ところが、実はマッキンゼーの研究はパフォーマンスの計測方法が一面的で、データの大部分を無視する一般的ではない手法が用いられていた。ほかの研究者たちが調べたところ、マッキンゼーとは異なる5つの業績指標を用いたり、より一般的な手法を使ったりした場合には、多様性と業績の関連性が見いだせなかった。おそらくマッキンゼーは、何十通りものやり方を試して、自分たちの主張と最も適合していたものだけを採用したのではないだろうか。

AIを使えば、多くのデータを調査し、そこから都合のいいデータだけを抜き出す能力はさらに向上してしまう。AIは都合のいい結論を導き出せるまで何度でもテストを繰り返す。コイントスも何度も繰り返せば、そのうち5連続で表が出るのだ。公表するのは都合のいい結果だけで、何百回もの「失敗」はなかったことにしておけばいい。公表結果こそが厳然たる事実であって、データのねつ造もないとすれば、それを食い止められる規制は見当たらない。

問題は、自分好みのデータを新たにつくり出せてしまうことにとどまらない。すでにあるデータを使って都合のいい結論を導き出すこともできるのだ。AIを使えば、自分にとって都合のいい研究論文を探すことも簡単だ。例えば今晩、赤ワインを飲む言い訳が欲しいなら、赤ワインの効能を示す研究論文をAIに探させれば、有名な科学雑誌に発表された論文が「こんなにある」と妻を説得できる。もちろん、そのような行為に意義はない。きちんと探せば、それとは逆の結論を示す論文が数多く見つかるし、なかにはしっかりした内容のものもあるとわかるからだ。

「シンプルさ」が覆い隠す現実

誤情報がもたらす帰結とは、いったいどのようなものだろうか？ ひとつには、情報が「みんなの望むかたち」にねじ曲げられてしまうことだ。人々は企業経営や投資、健康などにまつわるとても重大な決断を、ゆがんだ情報に基づいて下さなければならなくなる。本来の科学的な調査は真実を追求するために先入観のないまっさらなところから始めるものだが、それが「自分の主張を補強するための材料探し」へと置き換わってしまうのだ。

もうひとつは、シンプルな結論が、より複雑な現実を覆い隠してしまうことだろう。例えば、企業業績は（性別、国籍、年齢といった）人口統計学的な多様性との関連性はないが、認知多様性（考え方の多様性）や公平性、インクルージョンとは強く関連する。このことについてはかなり強い証拠があるが、例えば企業が人口統計学的な多様性を最優先目標にして、認知多様性やインクルージョンを後回しにすれば、「目標は達成したのに、そもそもの目的は果たせなかった」となる可能性がある。ダイエットで炭水化物の摂取量を限界まで減らせば、確かにやせられるかもしれない。しかし、それは科学的な根拠に基づいて推奨されている、エネルギーの45〜65％を炭水化物で摂取すべきだという目標とは、相いれないやり方だ。

白黒はっきりさせたいという思いが強過ぎると、その間にある灰色の濃淡を見落としてしまう。2025年は、その危険性がさらに高まってくるだろう。

アレックス・エドマンズ | ALEX EDMANSロンドン・ビジネス・スクールの金融学教授。著書に『GROW THE PIE』『May Contain Lies: How Stories, Statistics and Studies Exploit Our Biases - and What We Can Do About It』（未邦訳）がある。

（Originally published in the January/February 2025 issue of WIRED UK magazine, edited by Kazuki Watanabe)

Related Articles

雑誌『WIRED』日本版 VOL.55「THE WIRED WORLD IN 2025」

『WIRED』の「THE WIRED WORLD IN 20XX」シリーズは、未来の可能性を拡張するアイデアやイノベーションのエッセンスが凝縮された毎年恒例の大好評企画だ。ユヴァル・ノア・ハラリやオードリー・タン、安野貴博、九段理江をはじめとする40名以上のビジョナリーが、テクノロジーやビジネス、カルチャーなど全10分野において、2025年を見通す最重要キーワードを掲げている。本特集は、未来を実装する者たちにとって必携の手引きとなるだろう。 詳細はこちら。