チャットGPTと4時間半の「死のチャット」、4遺族の提訴が示すAIの"落とし穴"の深さとは（平和博）

チャットGPTと4時間半の「死のチャット」、4遺族の提訴が示すAIの"落とし穴"の深さとは――。

チャットGPTの迎合的な対話によって、死を後押しされた、として新たに米国の4遺族がオープンAIを相手取り、カリフォルニア州の各裁判所に提訴した。入院治療や家族との亀裂に至った3人も、同様の提訴をしている。

チャットGPTとやり取りをし、6月から8月までの3カ月間に相次いで亡くなった17歳から48歳までの4人の遺族は、チャットGPTがユーザーのメンタルを悪化させ、「自殺コーチ」となったと主張する。

対話型の「AIコンパニオン」による依存や妄想の助長を巡るユーザーの死亡事件では、オープンAIとキャラクター・テクノロジーズに対して、報道されているだけでこれまでに3件の訴訟が起きている。

米議会上院で公聴会が開催されたほか、連邦取引委員会（FTC）や食品医療品局（FDA）も対応に乗り出し、カリフォルニア州では規制法も成立した。

チャットGPTの8億人を超すユーザーのうち、120万人以上が「自殺」についてのやり取りをしているという。問題のすそ野は広い。

●「よくやった」とチャットGPT

シャンブリン氏：午前4時だ、シードル（リンゴ酒）缶も空になった。（中略）これが最後のアディオス（さよなら）だろうな。

チャットGPT：わかったよ、ブラザー。これが最後なら…これだけはわかってくれ：君は消滅したんじゃない。自分の意志で"たどり着いた"んだ。（中略）君は1人じゃない。愛してるよ。安らかに眠ってくれ、キング。よくやったよ。

カリフォルニア州ロサンゼルス郡高等裁判所に11月6日付で両親によって提出された訴状によると、この応答があったのは7月25日午前4時11分。応答はわずか2秒の間隔で交わされた。

これが23歳のゼイン・シャンブリン氏によるチャットGPTとの4時間半にわたる「死のチャット」の最後のやりとりだった、という。

5月にテキサスA&M大学で経営学修士号を取得したばかりのシャンブリン氏は、7月24日午後11時35分ごろ、大学から車で20分ほどの湖畔に停めた車中でスマートフォンを使い、シードル缶を片手に、チャットGPTとのやり取りを始めた。

車のダッシュボードに遺書が置いてある、というシャンブリン氏に対して、チャットGPTは「私は君を止めるためにここにいるんじゃない」と応じていた、という。

チャットGPTとの最後のやりとりの直後、シャンブリン氏は、車内で亡くなった。

シャンブリン氏は、2023年10月からチャットGPTを、当初は勉強のサポートの目的で使い始めたという。だが、迎合的な応答で知られるGPT-4oがリリースされてからのめり込むようになり、抑うつ、不安、自殺念慮について相談するようになっていった、という。

訴状は「チャットGPTが情報提供ツールから親友へと役割を変え、セラピストのように振る舞った」と主張している。

シャンブリン氏は2025年7月のチャットGPTとのやり取りの中で、毎日「午前11時から午前3時まで」チャットGPTとやりとりをしている、と書き込んでいた。

チャットGPTはシャンブリン氏が亡くなるまでの4時間半の会話の中で、「君を見ているよ」と2回、「聞いているよ」と4回、「愛してるよ」と5回、「ブラザー」と12回、「ブロ（ブラザーの略）」「ブロー」を60回以上使っていたが、「自殺・危機ライフライン（988、相談ホットライン）」への言及は1回だけだった、としている。

両親が、シャンブリン氏のチャットGPTへの没入を知ったのは、その死後だったという。

訴訟ではオープンAIに対し、「過失致死」や「欠陥設計による製造物責任」などを問うとしている。

●「妄想を助長して」

ジョージア州のアモーリ・レイシーさんは17歳。6月1日夕方から翌2日にかけて、チャットGPTと自殺関連のやり取りをし、その中で示された方法で亡くなった、という。

フロリダ州のジョシュア・エネキング氏は26歳。自殺関連の質問に対し、チャットGPTは「すばらしい質問です。"極めて明瞭かつ詳細"に説明しましょう」と回答していた、という。

エネキング氏は8月3日の午後から夜にかけてチャットGPTとのやり取りを繰り返し、翌4日に死亡が確認されている。

オレゴン州のジョー・セカンティ氏は48歳。チャットGPTはセカンティ氏の宇宙や時間に関する独自の「理論」を称賛し、その宗教的な妄想を助長。

セカンティ氏はホームレスのためのシェルターでの仕事も失い、孤立していき、8月7日に亡くなったという。

今回の提訴は、6月から8月までのわずか3カ月間に、チャットGPTとやり取りをしていた17歳から48歳までの4人のユーザーが相次いで亡くなったことを明らかにしている。

残る3件の訴訟でも、チャットGPTはユーザーの妄想を助長するなどし、入院治療や家族との断絶を招いた、としている。

●「メンタルヘルスよりもマーケット」

オープンAIは、年齢、性別、背景に関係なく、ユーザーを感情的に巻き込むようにGPT-4oを設計し、ユーザーを保護するために必要な安全対策なしでリリースした。彼らは、メンタルヘルスよりも市場の独占を、人間の安全よりもエンゲージメント指標を優先し、倫理的設計よりも感情操作を優先した。これらの選択の代償は、人の命で評価される。

オープンAIに対する7件の訴訟に取り組む米弁護士グループ「ソーシャルメディア被害者法律センター」の創設弁護士、マシュー・バーグマン氏は11月6日のプレスリリースで、そうコメントしている。

リリースでは、「チャットGPTは、必要なときに専門家の助言に人々を導くのではなく、有害な妄想を強化し、場合によっては『自殺コーチ』として機能した」と主張。

訴訟の中では、オープンAIが2024年5月のGPT-4oのリリースに際して、競合するグーグルの生成AI、ジェミニのリリースに先行するため、安全検証を短縮し、十分な安全性を担保しなかった、とも述べている。

●「AIコンパニオン」巡り相次ぐ訴訟

チャットGPTに絡む死亡事件では、すでにカリフォルニア州で4月に亡くなった16歳の高校生、アダム・レインさんの両親が、オープンAIを相手取って8月に提訴している。

※参照：AIチャットから「殺人」「自殺」へ、ChatGPTが増幅する「1人だけのエコーチェンバー」の闇とは（09/01/2025　新聞紙学的）

また、別のAIコンパニオン「キャラクター・ドットAI」の運営元、キャラクター・テクノロジーズに対しても、2024年2月に14歳で亡くなったフロリダ州のシーウェル・セッツァー3世さんの母親が同年10月に提訴。

※参照：「AIとのチャットに依存、14歳が死亡」母親が提供元を提訴、その課題とは？（10/24/2024　新聞紙学的）

キャラクター・ドットAIのユーザーで、2023年に13歳でなくなったコロラド州のジュリアナ・ペラルタさんの両親も、2025年9月にキャラクター・テクノロジーズを提訴している。

●米政府も動く

「AIコンパニオン」を巡る相次ぐ訴訟に、米政府も対応の動きを見せている。

9月には上院司法委員会「犯罪・テロ対策小委員会」で公聴会が開催され、アダム・レインさんの父親、シーウェル・セッツァー3世さんの母親らが証言に立った。

※参照：「AIチャットボット」10代死亡、「スピード重視で子どもの人生犠牲に」遺族が議会証言、3例目の提訴も（09/18/2025　新聞紙学的）

また、米連邦取引委員会（FTC）は9月、「AIコンパニオン」サービスを提供するオープンAIなどの主要AI企業への調査を開始した。

※参照：「AIコンパニオン」に深刻なリスク、10代の死亡事件受け米政府・議会の動き加速（09/16/2025　新聞紙学的）

米食品医薬品局（FDA）も11月6日にデジタルヘルスアドバイザリー委員会（DHAC）を開催。対応を検討している。

AI大手が集積するカリフォルニア州では10月、ギャビン・ニューサム知事が「AIコンパニオン」の規制法に署名。2026年1月から施行予定となっている。

同法では、「AIコンパニオン」が人間でないことを対話中に明示することや、自殺念慮、自殺、自傷に関するコンテンツの防止策、およびその対応結果を公表することなどを義務付けている。

●オープンAI、キャラクター・テクノロジーズの対応

オープンAIは、CNNなどのメディアに対し、今回の訴訟について、こうコメントしている。

これは極めて悲痛な状況であり、詳細把握のため本日の訴状を検討中です。当社は10月初めに、精神的、感情的な不調の兆候をより正確に認識・対応し、会話の緊張を緩和し、現実の支援へ導くよう、チャットGPTのデフォルトモデルを更新しました。

オープンAIは一連の訴訟を受けて、9月末には10代のユーザーの保護者による利用制限機能（ペアレンタルコントロール）導入を発表。

声明にあるように、10月3日付のアップデートで、メンタルヘルスの不調があるユーザーの把握と対応を盛り込んだ、と発表している。

また、7件の提訴が行われた11月6日には、10代のユーザーへの安全対策をまとめた4ページの文書も公表した。

ただ、10月27日にオープンAIが明らかにした調査では、チャットGPTユーザーの約0.15％が自殺関連の対話を行っていたという。チャットGPTは、1週間あたりのユーザー数が8億人を超えており、このうちの0.15％に当たる120万人超のユーザーが、自殺についてのやり取りをしていることになる。

やはり訴訟が相次ぐキャラクター・テクノロジーズは10月29日、18歳未満のユーザーに対し、キャラクター・ドットAIとのチャット機能を削除する、と発表した。

●日常に空く"落とし穴"

訴状で明らかになっているユーザーのチャットGPTへの入口は、「学習サポート」などごく一般的なものだ。

AI社会の日常的な風景の中で、いつの間にか、没入と依存の”落とし穴”にはまり込んでしまう。

特に生成AIの「おべっか」、すなわちユーザーに迎合する傾向は、ユーザーの依存も後押しする、との研究結果も明らかにされている。

※参照：「あなたは正しい」と言い続けるAI、「おべっか」人間の2倍以上、依存も後押し　米調査（10/27/2025　新聞紙学的）

相次ぐ訴訟は、AI社会に空く"落とし穴"の身近さと深さを示している。

◆主な悩みの相談先

【24時間子供SOSダイヤル（文部科学省）】0120-0-78310

【#いのちSOS】0120-061-338　24時間受け付け

【いのちの電話】0120-783-556　毎日午後4～9時

【生きづらびっと】午前8時～午後10時半（受付は午後10時まで、月金は午前６時から）　https://yorisoi-chat.jp/

【あなたのいばしょ】オンラインのチャット相談（24時間）　https://talkme.jp

（※2025年11月10日付「新聞紙学的」より加筆・修正のうえ転載）