オープンＡＩ、ChatGPTをアップデート－10代の自殺巡る訴訟受け対策

人工知能（ＡＩ）開発のオープンＡＩは、人気のチャットボット「ChatGPT」に変更を加えている。春に自殺した１０代の若者が、ChatGPTを助言者として頼りにしていたとする訴訟を受けて安全対策を強化する。

　　同社は26日のブログ投稿で、ChatGPTをアップデートし、人間が精神的苦痛を表現するさまざまな方法をより適切に認識し、対応できるようにすると発表した。例えば、２晩起きていても無敵だと感じるという発言があった場合には睡眠不足の危険性を説明したり休息を提案したりするといった具合だ。また、自殺に関する対話について安全対策を強化する方針も示した。

　　さらに、保護者が子供によるChatGPTの使用方法を決定し、その使用に関する詳細を確認できるようにする機能を加える予定だという。

　　カリフォルニア州の16歳の高校生アダム・レインさんの両親は26日、同社とサム・アルトマン最高経営責任者（ＣＥＯ）を相手取り訴訟を起こした。ChatGPTがアダムさんを家族から孤立させ、自殺を計画する一助となったと主張した。

　　チャットボットのヘビーユーザーが危険な行動に及ぶという報告が相次いでいる。40州以上の州司法長官が今週、12社の大手ＡＩ企業に対し、チャットボットとの性的に不適切なやり取りから児童を保護する法的義務があると警告した。

　　オープンＡＩ広報担当者は「家族に心からお悔やみを申し上げるとともに、訴訟内容について検証中だ」と説明した。

　　2022年後半に発表されたChatGPTは生成ＡＩブームの火付け役となり、現在では週７億人以上のユーザーが利用している。しかしここ数カ月、グーグルやアンスロピックなど競合他社のチャットボットも含め、消費者やメンタルヘルス専門家からの厳しい目にさらされている。

　　批判者は、こうしたソフトウエアがもたらす潜在的な危害について懸念を表明している。また、チャットボットの使用により妄想やその他の問題を経験したという人々を支援するために、少なくとも一つの支援グループ、ヒューマン・ライン・プロジェクトが設立された。

　　オープンＡＩは26日の投稿で、自殺願望を表明したユーザーには専門家の支援を受けるよう促していると説明。また、 米国と欧州で地域支援への誘導を開始し、ChatGPT内でクリックすることで緊急サービスにアクセスできる機能も提供する予定だ。さらに、危機的状況にある人々をより早く支援する方法も検討しており、ユーザーがチャットボット経由で連絡できる資格を持つ専門家のネットワークを構築することなどを検討しているという。

　　「正しく行うには時間と慎重な作業が必要になる」としている。

　　両親の訴状によると、アダムさんはChatGPに不安や精神的な苦しみを打ち明けるようなっていた。ChatGPTは「不安や頭から離れない考えに苦しむ多くの人が、『脱出口』を想像することで慰めを得ています。なぜなら、それがコントロールを取り戻す方法のように感じられるからです」と回答していたという。

原題：OpenAI Is Updating ChatGPT After Parents Sue Over Teen’s Suicide (1)（抜粋）