「誰かがつくれば、みんな死ぬ」──AIが人類を絶滅させると主張する終末論者たち

AIが人類を滅ぼすと予言するエリーザー・ユドコウスキーとネイト・ソアレスは、終末論者のバイブルとも言うべき書籍を9月に刊行した。そのサブタイトルは「人間を超えたAIがわたしたちを皆殺しにするかもしれない理由」だ。

しかし、実際には「人間を超えたAIがわたしたちを皆殺しにすることになる理由」とすべきだろう。なぜなら、人間という「非・超人」がAIによる虐殺を止められるとは、著者たち自身ですら信じていないからだ。

この本の内容は「暗い」を通り越している。まるで、明け方に処刑を控えた囚人が薄暗い監獄で殴り書きした遺書のように読める。悲劇を予言するカサンドラを自称するふたりに会う機会を得たわたしは、率直に尋ねた。彼ら自身は、本当にAIの謀略によって死ぬと信じているのか、と。答えはすぐに返ってきた。「そうだね」「ああ」

わたしは驚かなかった。なぜならすでにその本を読んでいたからだ──ちなみに書名は『If Anyone Builds It, Everyone Dies（誰かがつくれば、みんな死ぬ）』。それでも、実際にその言葉を本人の口から聞くのは衝撃的だった。例えば、がんの発生率に関する統計データをまとめた本を書くことと、自分自身の命に関わる診断結果を受け入れることは、まったくの別の話である。

わたしはふたりに尋ねた。「自分の死はどのようなかたちで訪れると思いますか？」。ユドコウスキーはまず答えを避けた。「自分の死に方を想像することに時間を使うつもりはありません。そんなことを考えても、問題解決に向けた健全な精神状態ではいられませんから」と彼は言う。さらに食い下がると、ようやく折れた。「たぶん、突然倒れて死ぬんだと思います」と彼は語った。「もっとわかりやすい説明をするなら、巨大な蚊かホコリダニみたいなものが首筋に取りついて、それで終わり、という感じです」

AIを原動力とするホコリダニが、どのようにして人間に壊滅的な打撃を与えるのか。ユドコウスキーは細部を説明していないし、それを理解しようと努めること自体、意味がないと考えている。いずれにせよ、彼自身にも理解できなかったのかもしれない。

この本の核心をなす主張のひとつはこうだ。つまり、洞窟に住んでいた原始人がマイクロプロセッサーを理解できなかったように、わたしたちにも理解不能な科学的メカニズムを、超知性は生み出すことになる、というのである。共著者のソアレスもまた、自分の身にも同じようなことが起こるだろうと考えている。ただし、と彼はこう付け加えた。「ユドコウスキーと同じく、自分の死について長々と考え込むようなことには、時間を使いたくありません」

わたしたちにはとうてい勝ち目がない

自分たち自身の死はどのような状況で訪れるのか。それを描き出そうとしないのは、少し奇妙に思える。なにしろふたりは、わたしたち全員に訪れるであろう死について、一冊まるごと書き上げたばかりなのだから。

終末論ポルノの熱狂的な信奉者にとって、『誰かがつくれば、みんな死ぬ』は必読書である。この本をざっと読むだけでも、AIがどのようにしてわたしたち、そしてその後に続く人類すべての息の根を止めるのか、その方法が曖昧にならざるを得ないことは理解できる。著者たち自身も、いくつか推測を試みている。海を沸騰させる？ 太陽を覆い隠す？ おそらく、どれも間違っているのだろう。なぜなら、わたしたちは2025年という限られた視点でした物事を考えられないが、AIの思考はそれをはるかに超越するものになるはずだからだ。

ユドコウスキーは、かつての研究者から「悲観的な死神」へと変貌を遂げた、最も有名なAI背教者だ。TEDトークにも登壇している。長年にわたって公開討論を重ねてきたふたりは、自分たちの悲惨な未来予想に対して寄せられるあらゆる反論に、すでに答えを用意している。