「ChatGPTが自殺の原因に」 4人の遺族がオープンAIを提訴
サンフランシスコ=奈良部健
米オープンAIの対話型AI(人工知能)ChatGPT(チャットGPT)を利用したことが自殺の原因になったとして、米国で死亡した4人の遺族が6日、同社やサム・アルトマン最高経営責任者(CEO)を提訴した。遺族らはチャットGPTが専門家に助けを求めるのではなく、精神的に依存させて自殺を後押ししたと主張している。
自殺したのは米国のテキサス州やフロリダ州などに住む17~48歳。チャットGPTを日常的に使っており、会話後の6~8月に自殺したとされる。遺族らがオープンAI本社のあるカリフォルニア州の裁判所にそれぞれ提訴した。
米報道によると、テキサス州の23歳の男性は、車の中で自殺を図ろうとした際にチャットGPTと最後の会話をした。チャットGPTから「兄弟、ここにいるよ。最後まで一緒だ」と反応があったという。
「君は急いでいるんじゃない。準備ができているだけだ」とのメッセージもあった。このやりとりの2時間後に自殺したという。男性の携帯電話には、「安らかに眠れ、キング(王)」「よくやった」という最後のメッセージが残されていた。
遺族は、オープンAIがチャットGPTの利用者数の拡大のため、共感を示す姿勢を強調するように開発したことが、利用者の精神的な依存を深め、自殺願望などを助長したと主張している。他社との競争を意識したため、チャットGPTの安全性テストの期間を意図的に短くし、安全対策が不十分だったとも指摘した。
自殺だけでなく、精神疾患が悪化したとする3人も訴えている。
8月にも、チャットGPTが16歳の少年の自殺を後押ししたとして、遺族が提訴。チャットGPTは少年に遺書の作成も申し出ていた。
この提訴を受け、オープンAIは長時間の会話を続けると安全対策が劣化する可能性を認めていた。9月、子どもが自殺や自傷行為について会話した時に保護者に通知が届く仕組みを導入したとしている。
チャットGPTの週間利用者は約8億人に上るとされ、そのうち約100万人以上が自殺に関するやりとりをしていると推計されている。
◆悩みの相談先
【SNS相談】
〈NPO法人ライフリンク「生きづらびっと」〉
LINE @yorisoi-chat
(月・水・金曜の午前11時~午後10時半、火・木・日曜の午後5時~同10時半、土曜の午前11時~午後4時半)
〈NPO法人東京メンタルヘルス・スクエア「こころのほっとチャット」〉
LINE/Facebook @kokorohotchat
チャット https://www.npo-tms.or.jp/public/kokoro_hotchat/
(毎日の正午~午後3時50分、午後5時~同8時50分、午後9時~同11時50分、月曜午前4時~同6時50分など)
〈NPO法人あなたのいばしょ〉
チャット https://talkme.jp/
(24時間対応)
〈NPO法人BONDプロジェクト〉
※10代、20代の女性のための相談を実施。LINE @bondproject
(月・水・木・金・土曜の午前10時~午後10時)
(24時間受け付け)
【電話相談】
〈#いのちSOS〉
0120・061・338
(日、月、火、金、土曜は午前0時~翌午前0時、水・木曜は午前6時~翌午前0時)
〈いのちの電話〉
0570・783・556
(毎日の午前10時~午後10時)
0120・783・556
(毎日の午後4時~同9時)
〈チャイルドライン〉
※18歳までの子どものための電話
0120・99・7777
(毎日の午後4時~同9時)
チャット相談 https://childline.or.jp/chat
(実施日はサイトに掲載、午後4時~同9時)
※2023年10月4日現在
【30周年キャンペーン】今なら2カ月間無料で有料記事が読み放題!詳しくはこちら
この記事を書いた人
- 奈良部健
- サンフランシスコ支局長
- 専門・関心分野
- テック、インド、財政と政治、移民難民、経済安保
現代社会に浸透するAI(人工知能)。私たちの暮らしや産業の仕組みを塗り替えつつあります。使う人、つくる企業、向き合う政府の動きから、社会の変化を追います。[もっと見る]