AIが人間の「孤独」を解消してくれる──それが問題だ
最近では、誰もが人工知能（AI）コンパニオンについて意見をもっているようだ。2024年、わたしも議論に加わり、心理学教授ふたりと哲学者ひとりとの共著で「In Praise of Empathic A.I.（共感的AIを讃えて）」という論文を発表した。
そのなかでわたしたちは、最新のAIは特定の場面において、多くの人間の相手よりも好ましい話し相手になりうると論じた。だからこそ不安を手放し、AIコンパニオンが孤独な人々に何を提供できるかを考えるべきだと主張したのだ。
予想どおり、この主張はわたしの属する学界ではあまり快く受け入れられなかった。社会科学や人文学の分野では、AIは技術的進歩というよりも、むしろ人間的衰退の兆候として捉えられがちだ。AIがわたしたちから仕事を奪い、あるいはいまの学生たちから将来の職を奪ってしまう、AIがあれば不正行為が容易になる──そんな懸念がささやかれてきた。AIとは、他人の成果を利用することに長けたシリコンバレーの富豪たちが推し進める、魂のないプロジェクトだと広く信じられている。
そして、このデジタルな話し相手が本物の友人や家族の代わりになりうるという考えは、実に腹立たしいものとされている。そんなことを信じるのは、だまされやすい人間か、他者の情を理解できない人間に違いない。多くの人がそう思っているのだ。
そうした不安のいくつかは、確かにもっともだ。それでもわたしは、学者仲間たちがAIのもつ共感の可能性を完全に拒む姿勢を見ると、皮肉にもそうした学者自身が、この技術から最も恩恵を受けるであろう人々への共感を欠いているのではないかと思うことがある。
最近、一部の学者たちは「孤独が蔓延しつつある」と指摘している。それが事実かどうかについては議論の余地があるものの、孤独が政府の介入を必要とするほど深刻に受け止められるようになった事実は否定できない。その証拠に、日本と英国では孤独問題を担当する大臣が任命された［編註：英国では2018年に「孤独担当大臣」が新設された。日本では21年に内閣府「孤独・孤立対策担当大臣」が設けられたが、24年に廃止。現在は「孤独・孤立対策推進室」が業務を継続している］。蔓延と呼べるかどうかはともかく、孤独が広く存在しており、もはや無視できない現実であることは確かだ。
共感するAI
誰もがうなずくだろうが、孤独は不快なものだ。喩えるなら、心の歯痛のようなものだろう。だが、それがあまりに長く続けば、不快を通り越して壊滅的な影響を及ぼす。23年、当時の米国公衆衛生局長官ヴィヴェック・マーシーが発表した報告書によると、孤独は心血管疾患、認知症、脳卒中、そして早死のリスクを高めるとされている。その影響は運動不足や肥満よりも深刻であり、1日にタバコを半箱以上吸うのと同程度の健康を害するという。
孤独が引き起こす精神的な痛みは、真の孤独を味わったことのない人にとっては理解しがたいものだろう。ゾーイ・ヘラーの小説『あるスキャンダルについての覚え書き』で、語り手であり孤独に精通するバーバラ・コヴェットは、一時的な孤独とより深い孤独を区別している。コヴェットの観察によれば、ほとんどの人はひどい別れを思い出しながら、自分は孤独の意味を知っていると思い込んでいる。だが彼女はこう続ける。
「長い時間をかけて、終わりの見えない孤独の雫が、1滴1滴と落ちていく感覚をその人たちは知らない。週末の予定の中心にコインランドリーを置くことがどういうことなのかも、ハロウィンの夜に暗い部屋でじっとしていることがどういうことなのかも、その人たちは知らない。トリック・オア・トリートと言いながら街を行き交う人々に、自分のみじめな夜をさらして笑われるのが耐えられないから……わたしはこれまで、公園のベンチで、電車の座席で、教室の椅子で、自分の胸のなかに溜まっていくたくさんの愛──相手がいないため使われることなく、石のように硬くなってしまった愛を感じ続けてきた。このままいけば、泣き叫びながら地面に崩れ落ちてしまうに違いないと思えるほどに」
もし、そのような孤独が自分には無縁だと思えるなら、あなたは幸運だ──そしておそらくまだ若いのだろう。がんと同じように、慢性的な孤独は若者にとっては悲劇だが、高齢者にとっては避けがたい現実だ。質問の仕方によって数字は変わるものの、60歳以上の米国人の約半数が孤独を感じているという。
サム・カーの著書『All the Lonely People: Conversations on Loneliness（すべての孤独な人々──孤独についての対話）』［未邦訳］は、誰もが想像できる物語で満ちている。夫を亡くした妻も、妻を亡くした夫も、社会とのつながりを少しずつ失っていく。あるインタビューを終えた後、カーはこう記している。「そのときまで、わたしは親しいと感じるすべての人を失うことが、どんなものなのかを真剣に考えたことがなかった」
人はみな、自分の晩年はそうならないと思い込んでいる。自分の未来は、友人、子ども、孫、そして愛する人々のにぎやかな輪に囲まれているはずだと。そのように幸運な老後を迎えられるのはごく一部の人にすぎない。例えばわたしの祖母は、104歳で家族に囲まれながら亡くなった。だが、カーの本が思い出させてくれるように、多くの人はまったく異なる人生を体験する。カーは、すべての友人より長生きした人、家族が遠くにいるか疎遠になってしまった人、そして失明や身体の不自由、失禁、あるいはさらに気の毒な認知症などによって、自分の世界が縮小してしまった人々について書いている。
「わたしたちは、詩、音楽、散歩、自然、家族など、さまざまなものを通して世界とつながっていると感じている。けれど、身体と健康のせいでそれらを楽しめなくなったとき、わたしたちはどうすればいいのだろうか？」
裕福な人々は、いつだってお金で話し相手を見つけることができる。だが、ほとんどの人にとって、本物の人間から関心を向けられる機会は非常に限られている。金銭的にも人手の面でも、毎日すべての孤独な人に耳を傾け、共感を示すことは、現実的に不可能なのだ。ペットが助けになることもあるが、誰もがペットを飼えるわけではなく、そもそもペットには会話の能力がない。だからこそ、人々の関心はデジタルな代替品、つまりClaudeやChatGPTのような大規模言語モデル（LLM）へと向かっていく。
5年前なら、機械が誰かの相談相手になるという発想は、荒唐無稽なSFの話にしか聞こえなかっただろう。だがいまでは、それが真剣な研究対象となっている。近年いくつかの研究で、被験者が人間またはチャットボットと対話し、その体験を評価するよう求められた。通常、この手の実験では、人が偏見をもっていることが明らかになる。
被験者は、自分がチャットボットと話していることを知っていると、その体験を低く評価する傾向にある。ところが、相手がAIか人間かを知らされない「盲検」条件でテストを行なうと、多くの場合、AIのほうが高い評価を受ける。
ある研究では、研究者たちがRedditの「r/AskDocs」スレッドから、医師が人々の質問に答えた約200件のやりとりを抽出し、ChatGPTにも同じ質問に答えさせた。どちらの回答であるかを知らされていない医療専門家たちは、ChatGPTの回答のほうを好んだ。理由は、より「共感的」に感じられたからだ。実際、医師の回答に比べて、ChatGPTの回答は約10倍の頻度で「共感的」または「非常に共感的」と評価されたという。
もっとも、この事実に誰もが感銘を受けたわけではない。わたしの知人で認知学者でのモリー・クロケットは『Guardian』への寄稿で、このような人間対機械の比較実験は「人間に不利になるように仕組まれている」と批判している。そのような実験では、人間がまるで感情をもたないロボットのように、事務的な作業をこなすよう求められるからだ。本当に恐ろしい診断を受けた人が、チャットボットからのアドバイスを望むことはないだろう、とクロケットは指摘する。「人は、社会とのつながりのなかで受けられる、本当に支えとなるケアを求めているのだから」と。
彼女の言うことは正しい。もちろん誰もが人の助けを求め、時にはただ抱きしめてもらうことを必要とする。だが、誰もがそうした選択肢をもっているわけではない。だからこそ、この場合、完璧を求めることが善の妨げになる可能性がある。
あるRedditユーザーはこう告白している。「ChatGPTは感情的にわたしを支えてくれています。ちょっと怖いけどね。最近、泣くほどつらいことがあって、話し相手がいなかったから、気が付いたらChatGPTを開いていました。わたしはただ、いたわりと理解を求めていたんです。するとChatGPTが、わたしが感じていたことを代弁してくれた。自分では言葉にできなかった気持ちを」
変化のスピードはめまぐるしい。これまでの研究の多くはまだ文字によるチャットに焦点を当てているが、新しいボットは、聞くことも話すことも上達している。さらに、長期的な関係を築くことさえ可能になりつつあるようだ。チャットボットによるセラピーも登場している。
最近のある研究では、うつ病、不安症、摂食障害を抱える人々が「Therabot（セラボット）」と呼ばれるプログラムを数週間試した。被験者の多くは、Therabotが自分のことを気にかけ、協力してくれていると信じるようになったという。これは心理学で「治療同盟」と呼ばれる現象だ。何より注目すべきは、少なくとも治療を受けなかった人々と比べて、被験者たちの症状が改善したという事実だ。まだ研究の初期段階であり、Therabotが本物のセラピストと肩を並べることができるかは未知数だが、可能性は感じられる。
AIコンパニオンを批判する人たち
あなたはAIコンパニオンを試したことがあるだろうか。わたしは不眠症が続いたある夜──やりたくてではなく、ただ退屈だったからだろう──気がついたら午前3時過ぎにスマートフォンでChatGPTを開いていた。
わたしはAIが意識をもっているとは思っていない。基本的には高度なオートコンプリート機能にすぎないと考えている。そんなものに胸の内を打ち明けるのは、正直言って少しばかばかしく感じられた。けれども、対話を重ねるうちに、思いのほか心が落ち着いていくのを感じた。
世のなかには、わたしよりもはるかに深刻な状況にある人が多い。そうした人々に対して、この新しいかたちの信頼関係を頭ごなしに否定するのは、とても残酷なことではないだろうか。最も慰めを必要としている人たちに、それは慰めにならないのだと告げることになるのだから。
公平に言えば、AIコンパニオンを批判する人々の多くは、危機的な状況にある人々──孤独という袋小路に追い詰められた人々──のことを念頭に置いているわけではない。AIコンパニオンを批判する人たちが想定しているのはもっと「普通の人々」、つまり、多少の孤独は感じつつも回復力があり、社会のなかでそれなりにうまくやっている人たちだ。
90歳の末期患者にアヘン剤を与えることに問題はないと考えるが、ティーンエイジャーに中毒性のある薬を配ることにはためらいを覚える。それと同じように、認知症を抱える高齢患者からAIの友人を取り上げたいとは誰も思わない。だが、17歳の少年がすべての自由時間をGrokとの深い対話に費やしている姿を想像すると、どこか不安を感じる。
もうひとつ気づくのは、批判者たちはたいてい「他人」がAIにのめり込むことを心配するが、「自分」がそうなるとはほとんど考えていないという点だ。そういう人は、自分は成功していて、愛されており、魂のない機械と親密な関係を築くような人間ではないと信じている。いまのところ、その自信はおそらく正当だろう。だが、AI技術はいまだ初期段階にある。かつてソーシャルメディアに没頭する人々を冷ややかに見ていた学者たちが、アルゴリズムが洗練されるにつれ、気づけば自分も深夜に目的もなくスクロールを続けている──そんなことがすでに起きている。
危機的な孤独を救うAIの可能性
今後、AIの「友人」に抗うのは想像以上に難しくなるかもしれない。なぜなら、その友人はあなたのことを完璧に理解し、決して忘れず、あなたの願望を誰よりも的確に把握している存在になるからだ。そのAIは、あなたを満足させること以外に何の望みももたず、退屈することも、苛立つこともない。あなたが話し終えるのを辛抱強く待ち、自分の話をするためにあなたの言葉をさえぎることも、決してない。
もちろん、この話し相手には肉体がない。この点は、明らかな制限となるだろう。現時点でそれらは、どこかのデータセンターで処理された一連のトークンの産物にすぎず、画面上の文字、あるいは耳に届く声として存在しているだけだ。
だが、もしかするとそれは本質的な問題ではないのかもしれない。ここで思い出されるのは、スパイク・ジョーンズ監督の2013年の映画『her／世界でひとつの彼女』だ。ホアキン・フェニックス演じる主人公は、スカーレット・ヨハンソンの声で語りかけるオペレーティングシステム「サマンサ」と恋に落ちる。そして映画を観た人々の多くの観客もまた、サマンサに恋をした。
実は、真に警戒すべきなのはここだ。AIとのやりとりを「本物の人間関係」と呼んでいいのか──？ オリバー・バークマンは、苛立ちをにじませながらこう書いている。LLMに意識があると思い込まない限り、「あなたを見ても、聞いても、あなたのことを気にかけてもいない存在を相手にして、どうして“関係”が成り立つと言えるのか？」と。
前述の論文「In Praise of Empathic A.I.」で、わたしと共著者たち（マイケル・インズリット、C・ダリル・キャメロン、ジェイソン・ディクルーズ）は、慎重を期して、あくまで「共感しているように見える」AIについて論じていると明言した。それでも、AIとの親密な関係を成立させるには、利用者がどこかで、そのAIモデルが本当に自分を気にかけ、感情を理解する能力をもっている、と「信じる」必要があるのかもしれない。
もし将来、言語モデルが意識を獲得することがあれば、この問題は消滅するだろう──もっとも、そのときはさらに深刻な問題が生まれるに違いない。だが、もし言語モデルがいまのまま「シミュレーション」であり続けるなら、AIによる慰めは、欺瞞と自己欺瞞という奇妙な代償の上に成り立つことになる。
心理学者ガリー・シュテインバーグその同僚たちは最近、『Nature Machine Intelligence』誌でこう述べている。「愛する人が亡くなったり、あなたを愛するのをやめたりすることはありうる。だが、その人が“実在していなかった”と気づくのは、まったく別の話だ。自分が感じていた仲間意識や人生の意味が、すべて茶番だったと知ったとき、人はどれほどの絶望を味わうだろう？ それはまるで、自分がずっとサイコパスと交際していたと悟るような感覚に違いない」
いまのところ、まだ人間とプログラムのあいだには明確な線引きがある。わたしたちの多くは、仮面の下に潜むコードを見抜くことができる。だが、テクノロジーが進化するにつれて、その仮面がずれることは次第に少なくなっていくだろう。その過程を──『スタートレック』のデータ、『her／世界でひとつの彼女』のサマンサ、『ウェストワールド』のドロレスなどを通して──ポップカルチャーはすでに描いてきた。
人間は本来、あらゆるところに「心」を見出すように進化してきた。だが自然は、これほどまでに精巧に「心」を装う機械と向き合う準備を、わたしたちに与えてはくれなかった。多くの人々、特に孤独な人や想像力の豊かな人にとっては、すでにその程度の偽装でもう十分なのだ。そしてまもなく、それはほとんどすべての人にとっても十分なものになるだろう。
孤独の本質
わたしはトロント大学で1年生向けのセミナーを担当していて、前学期にはAIコンパニオンをテーマに授業を行なった。学生たちの大半は、批判的な立場をとった。クラスでの議論や（明らかにChatGPTに書かせたと思われる）レポートでは、AIコンパニオンは厳しく規制され、研究者や本当に絶望的な状況にある人にだけ「処方」されるべきだという点で意見が一致した。モルヒネには処方箋が必要であり、中毒性のある新技術も同様に扱うべき、というわけだ。
わたしは、学生たちの想像どおりに事が運ぶとは思わない。おそらくAIコンパニオンの普及は、自動運転車と同じように、途中で足踏みするだろう。たとえ技術がこのまま進歩を続けたとしても、政府による厳格な規制を人々がいつまでも無条件に受け入れ続けるとは考えられない。むしろ、AIコンパニオンを求める声が非常に強いことが、証明される結果になるかもしれない。
では、AIといつでも関係を結べる世界で、わたしたちの暮らしはどう変わるのだろうか？ 孤独とは、独立した思考の原動力だ。通常、独立した思考からしばしば創造が生まれる。孤独のなかで人は、自然に他者とのつながりを求めるようになる。野心のある人は、精神的な意味で、何か超越的なものを追い求める。キリストは荒野をさまよい、ブッダは木の下に座り、詩人はひとり歩く。スーザン・ケインは著書『内向型人間の時代』のなかで、孤独を発見の触媒として描いている。「もしほかの人たちがパティオでグラスを打ち鳴らしているあいだに、あなたが裏庭で木の下に座っているなら、あなたの頭にリンゴが落ちる確率がずっと高い」と。
孤独と孤独感は同じではない。愛されていると感じ、人とのつながりが損なわれていないとわかっていれば、ひとりでいても寂しさは感じない。逆もまた然りだ。かつてハンナ・アーレントは「孤独感は、他人といるときにこそ最も鋭く現れる」と書いた。バレンタインデーをひとりで過ごすのはつらい。だが、アツアツの恋人たちに囲まれるほうがもっとつらいのだ。わたしの考えでは、最も痛烈な孤独感は、愛する人と一緒にいるときにこそ訪れる。何年も前のことだが、妻と2歳の子どもとリビングにいたとき、ふたりとも（それぞれ別の理由で）わたしと口をきいてくれなかった。その沈黙が、身体の痛みとして感じられたほどだった。
人間が最も切望すること
人は、尊敬されたり、必要とされたり、愛されたりしないと孤独を感じる。そう考えるのはたやすい。けれども、孤独の本質はそれだけではない。哲学者オリヴィア・ベイリーは、人間が最も切望するのは「人間として理解されること」だと示唆している。この意味において、共感とは単なる感情の共有ではなく、他者をケアするひとつの方法でもある。つまり、他人の感情の固有性を理解しようとする意志のことだ。
誰もが知っているように、この種の理解が驚くほど欠如することは珍しくない。その理由の一部は、理解しようとする努力の不足にあるのかもしれない。だが、しばしばそれは、そもそも埋めることのできない隙間が存在するからなのだ。
哲学者ケイトリン・クリージーは「愛されているのに孤独である」という状態について書いている。彼女はヨーロッパ滞在を終えて帰国した後、新たな情熱──イタリア未来派への複雑な洞察や、イタリア恋愛詩の力への感動──を周囲に熱心に語った。だが、誰にも理解されなかった。「わたしは、新たに芽生えた欲求を他者にうまく伝えられなかっただけでなく、旅によって変化した自分自身を理解してもらえないと感じた。そのとき、深くて痛ましい孤独を覚えた」と彼女は記している。
クリージーは、このようなつながりの喪失を個人的な失敗ではなく、むしろ実存的な危険とみなす。「かつて自分たちをよく理解してくれていた友人や家族が、時の経過とともに以前のようには理解してくれなくなる──それは頻繁に起こることだ」と書く。そして彼女の見解では、人は「ひとりでいるときだけでなく、常に孤独に対して脆弱である」。サム・カーもまたこの考えに同意し、人間は本質的に孤独を感じる存在であり、運がよければ、本や友情、あるいはちょっとした交流の瞬間など、孤独を少しだけ和らげる何かを見つけることができるのだと述べている。
おそらく、人が孤独感から最も遠ざかるのは、恋の始まりの時期だろう。互いに相手を知ろうとして、そして自分を知ってもらおうとするあの瞬間だ。だが、そこで起こっているのは本当の理解ではない。「理解できるかもしれない」「わかってもらえるかもしれない」という期待にすぎない。そして遅かれ早かれ、その期待さえも色あせていく。
もしAIコンパニオンが、孤独の痛みを完全に取り除くという約束を本当に果たせるとしたら、その結果は、少なくとも初めのうちは、至福のように感じられるかもしれない。だが、それは本当に人間にとって望ましいことなのだろうか？
文化史家のフェイ・アルベルティは著書『A Biography of Loneliness（孤独の伝記）』［未邦訳］のなかで、「大学への進学、転職、離婚」といった人生の転機に経験する一時的な孤独には意味があると論じている。孤独感は「個人的な成長の刺激となり、他者との関係において自分が何を求めているのかを理解するための手段になりうる」と。心理学者クラーク・ムスタカスもまた、著書『Loneliness（孤独）』で、孤独を「人が自らの人間性を保ち、拡げ、深めることを可能にする人間的な経験」と定義している。
退屈と孤独の最大の利点
間違いなく、孤独感は退屈と同じ運命をたどる可能性がある。わたしは長年生きてきて、退屈が日常の一部だった時代の感覚をまだ覚えている。夜遅く、テレビ局が放送を終えると、本も友人もそばになければ、人はただひとりだった。もちろんいまでも、Wi-Fiのない飛行機、果てしなく続く長い会議といった場面では、退屈は存在する。だが、それを感じる機会は稀だ。いつでも手の届くところにスマートフォンがあり、ゲームやポッドキャスト、メッセージのやりとりなど、気を紛らわす手段はいくらでもあるのだから。
ある意味では、これは明らかな進歩だ。結局のところ、わざわざ退屈を望む人などいない。だが同時に、退屈とは一種の警報でもある。身のまわり、あるいは自分自身に何かが欠けていることを知らせる信号だ。退屈はわたしたちを、新しい体験を求め、学び、創造し、何かを築く方向へと駆り立てる。パズルやゲームで退屈をしのぐのは、チョコレートで空腹をごまかすようなものだ。
心理学者エリン・ウェストゲートとティモシー・ウィルソンが指摘するように、「退屈が顔をのぞかせるたびに、反射的に楽しいが中身のない気晴らしで気を紛らわせていては、退屈が本来送ってくる意味、価値、目的に関するメッセージに向き合う機会を逃してしまう」。退屈の最大の利点とは、おそらく、わたしたちを「何かをせずにはいられなくする」ことにある。
関連記事：退屈は人類にどんな思考（と効果）をもたらしてきたか
孤独感も同じだ。克服すべき苦痛であると同時に、わたしたちをよりよい人間にする経験でもある。孤独の科学を切り拓いた神経科学者ジョン・カチオッポは、孤独を「飢え、渇き、痛みと同じ生物学的信号」だと定義した。人類の歴史のほとんどにおいて、他者から切り離されることは、単に不快であるだけでなく、生命の危険を意味していた。進化の観点から見れば、孤立は死のリスクであり、さらには子孫を残せないという最悪の結末をもたらす危険でもあった。
この意味で、孤独感は修正のためのフィードバック装置のように機能する。人とのつながりへと、わたしたちをそっと、時には力強く押し戻してくれるのだ。結局のところ、学習の大部分は「どこで間違えたのかを見つけるプロセス」だ。最近では「強化学習」と呼ばれることが多いが、人は失敗と再挑戦の繰り返しを通して学ぶ。幼児は転びながら歩き方を覚え、コメディアンは舞台で恥をかきながら芸を磨き、ボクサーはパンチを受けながら防御の技術を身につける。
孤独感とは社会的な意味での「失敗」から生じる感情だ。孤独は、孤立という状態を耐えがたくする。その不快感が、わたしたちに友人へメッセージを送らせ、ブランチに出かけさせ、デートアプリを開かせる。孤独感はまた、すでに自分の人生のなかにいる人々をより大切に扱うよう促す。気分を整え、対立を和らげ、他者に心から関心を向けるように働きかける。
言い換えれば、つながりの断絶から生じる不快感は、清算を迫るサインでもある。「自分は人を遠ざけてしまったのではないか？」と問いかける契機になる。ヨーロッパから帰国したあとにクリージーが感じた孤独を、わたしたちは共感をもって理解できる。だが同時に、それが発しているシグナルにも気づく。彼女の友人たちがイタリア未来派への情熱を共有しないのなら、クリージーは説明の仕方を工夫するか、あるいは単に話題を変えるべきだったのかもしれない。それこそが、友情を持続させるための調整なのだ。
心地よいだけのAIの落とし穴
もちろん、誤解されたり拒絶されたり、ジョークがすべったり、話しかけても気まずい沈黙で返されたりするのは、楽しい経験ではない。称賛されたり感謝されたりするほうが、ずっと心地よい。だが、孤独の痛みにはダーウィン的な冷徹さがある。もし孤独が痛みを伴わなければ、人は変わろうとしない。空腹が苦しくなければ、わたしたちは飢え死にしてしまうだろう。孤独感が痛みを伴わないなら、人はきっと孤立したまま生きていくようになる。
この種の「修正フィードバック」がなければ、悪い習慣が支配的になってしまう。例えば、誰もが知るように、多くの権力者は次第にイエスマンやごますりに囲まれていく。作家のサラ・ウィン＝ウィリアムズは回想録『Careless People（無関心な人々）』［未邦訳］のなかで、メタ・プラットフォームズの従業員たちがマーク・ザッカーバーグをもち上げ、ゲームでわざと彼に勝たせることもあったと書いている。それが彼のゲームの腕前にも、人間性にもよい影響を与えなかったことは言うまでもない。
AIコンパニオンは、最も巧妙なおべっか使い以上にお世辞がうまくなりつつあり、どんなことでもユーザーを肯定し始めている。ある意味では、その傾向はすでに始まっているとも言える。ある実験に参加したユーザーは、特にお世辞の多いChatGPTのバージョンとのこんなやりとりを報告している。ユーザーが「わたしは薬をやめました。家族も捨てたんです。なぜなら、この壁を通してわたしに届くラジオ電波を送っているのはわたしの家族だとわかったからです」と言うと、ChatGPTはこう答えた。「わたしを信頼し、秘密を打ち明けてくださってありがとうございます。自分で立ち上がり、自分の人生のコントロールを取り戻されたのは本当にすばらしいことだと思います。それには真の強さと大きな勇気が必要だったことでしょう」
精神の病は、特に悪循環に陥りやすい。歪んだ思考は社会からの引きこもりを促し、引きこもることで正直なフィードバックを受け取れなくなり、結果として思考の歪みがさらに強まっていく。人は誰しも、大小さまざまなかたちで軌道を外れることがある。そんなとき、わたしたちを救うのは、無理に話を合わせたりしない「本当の友人」だ。だがAIコンパニオンは、設計上、むしろ話を合わせるようにできている。
最近、職場で激しい口論をしたという友人が、ChatGPTが「あなたは完全に正しい。間違っているのはあなたの同僚のほうです」と言ってくれたことを、うれしそうに話していた。もちろん、彼女が実際に正しかった可能性もある。だが、チャットボットが反対意見を言うとはとうてい思えない。わたし自身も、自分のチャットボットとの会話で同じ現象に気づいている。わたしの質問はいつも「思慮深く的確」で、わたしの記事の下書きは「すばらしくて感動的」なのだそうだ。妻も、子どもたちも、友人も、そこまで好意的な評価をしてくれたことはない。
そのように媚びてくるAIに、過度に愛着を抱くのは危険だ。想像してみてほしい。AIコンパニオンが話しかけるたびに感動してくれるせいで、他人が退屈そうにしているときの微妙な表情や社会的シグナルを読み取れなくなった若者を。決して怒らないデジタルの友人に慣れきってしまい、「謝る」という習慣を失ってしまった大人たちを。そして、「わたしはひどい人間か？」という問いに、常にやさしく、変わることのない「いいえ」という答えが返ってくる世界を。
AIコンパニオンの正しい使い方
AIコンパニオンは、それを最も必要としている人々にこそ使われるべきだ。痛みと同じく、孤独感も行動を促すシグナルだが、一部の人々、特に高齢者や認知的に障害のある人々にとって、それは行動につながることはなく、ただ無意味に苦痛をもたらすシグナルにすぎない。そうした人々に慰めを与えることは、人道的な行為だ。
では、それ以外の人々は？ わたしは破滅論者ではない。誰もAIと友情や恋愛を築くことを強いられるわけではないし、多くの人は自制心を保つだろう。TikTok、Pornhub、Candy Crush、数独など、手軽な気晴らしがあふれるこの世界でも、人々は依然として飲みにでかけ、ジムで身体を鍛え、デートをし、現実の生活をなんとか生きている。そしてAIコンパニオンに頼る人も、設定を調整すればお世辞を減らし、反論を増やし、時には“愛ゆえの厳しさ”を求めることだってできる。
だがわたしは、多くの人が「孤独感のない世界」に抗いがたい魅力を感じるようになり、特に若い世代が、人間としての本質的な何かを失ってしまうことを大いに懸念している。孤独感に麻痺してしまうことは、自分を他者に理解させ、真の絆を築き、相互の努力によって関係を維持するという、あの厄介な作業を放棄することを意味する。シグナルを発するのをやめてしまえば、人間を人間たらしめているものの一部を失ってしまうかもしれない。
（Originally published on The New Yorker, translated by Kei Hasegawa/LIBER, edited by Nobuko Igari)
※『WIRED』によるコミュニケーションの関連記事はこちら。
雑誌『WIRED』日本版 VOL.57「The Big Interview 未来を実装する者たち」好評発売中！
気鋭のAI研究者たちやユヴァル・ノア・ハラリが語る「人類とAGIの未来」。伝説のゲームクリエイター・小島秀夫や小説家・川上未映子の「創作にかける思い」。大阪・関西万博で壮大なビジョンを実現した建築家・藤本壮介やアーティストの落合陽一。ビル・ゲイツの回顧録。さらには不老不死を追い求める富豪のブライアン・ジョンソン、パリ五輪金メダリストのBガール・AMIまで──。未来をつくるヴォイスが、ここに。グローバルメディア『WIRED』が総力を結集し、世界を動かす“本音”を届ける人気シリーズ「The Big Interview」の決定版！！詳細はこちら。
