AI企業のスタッフは人類の未来を「本当に恐れている」、元アンソロピック社員がBBCに語る

ブランドン・リヴシー記者、ミッチェル・ラビアク・ビジネス記者

米人工知能（AI）企業アンソロピックを退職した研究者は13日、BBCの取材に対し、AIに関わる人々はこの技術の進歩の速さと、それが人類にもたらす可能性のある影響について「本当に恐れていた」と語った。

ジェイコブ・コクソン氏（27）は、BBC番組「サンデー・ウィズ・ローラ・クンスバーグ」にビデオリンクで出演した際、「現在の進歩のペースを減速させなければ、近い将来、私たち全員が死んでしまう可能性が非常に高いと、私は考えている」と述べた。

米アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は12日、AIの開発ペースを「減速」させるよう要求したが、その動機を疑問視する声もある。

ライバル企業2社のトップも同様で、米オープンAIのサム・アルトマンCEOと、米「xAI」を所有する米実業家イーロン・マスク氏は、アモデイ氏の意見に賛同すると表明。アモデイ氏が提唱する、AIモデルの開発段階における独立した監視、業界全体での規制、そして国際的な規制という3本柱からなる計画に賛同すると述べた。

アモデイ氏は12日に発表した文章の中で、AI技術の開発自体に問題はないものの、それに伴うリスクは「深刻」で、企業や政府に、それらに対処する時間を与えるべきだと述べた。

アンソロピックに入社する前はオープンAIに勤務していたコクソン氏は、減速の提案を歓迎したが、「国際的な規模での競争」を避けるためには、中国との連携が必要になると述べた。

「こうした企業で働く人々が規制を求める時、その人たちは本当に真剣にそう言っている。自分たちが開発競争にがんじがらめになっていると気付いていて、競争の果てにどういう結果になるかを恐れているからだ」

AIが一体どうやって、この世の終わりをもたらすのか。その疑問に答えるのが一番難しいとも、コクソン氏は話した。

アモデイ氏が指摘したリスクの中には、スーパーコンピューターのように振る舞うボットの大群がインターネットを乗っ取ってしまう可能性も含まれていた。

コクソン氏は、このシナリオは6カ月から1年の間には現実的なものになり得ると話した。

コクソン氏の退社を受け、アンソロピックの広報担当者はBBCニュースに対し、「AIが莫大な利益と前例のないリスクの両方をもたらすことは、これまでも常に透明に示してきた」、「こうしたリスクに対処するため、当社は業界で最も強力な安全対策を備えたモデルの構築を続けている」と述べた。

広報担当者はさらに、同社はAIモデルの仕組みを研究するパイオニアだと付け加えた。また、AI開発に伴うリスクを軽減するためのフレームワークを最初に発表した企業でもある。同社はモデルを「積極的に」テストして結果を公表することで、検証を支援し、「AIの誤作動」を防いでいるという。

「我々は、業界が協力し、強力なモデルの公開ペースを調整するための合法的かつ検証可能な方法を採用することが、世界にとって有益だと信じている。この取り組みは、我々がそう信じる理由だ」ととも、アンソロピックの広報担当は話した。

コクソン氏は、自分の同僚たちは、AIによる人類滅亡の危険が2年以内に訪れる可能性さえあると懸念していると話した。

また、AI企業の従業員たちは「今後の人生をどうするか計画を立て、自分たちの仕事が社会に与える影響について考えている」一方で、「AIの急速な進歩によって生じる不安定さを非常に恐れているため、どこかに土地を購入することを検討している」者もいると述べた。

「彼らは皆、技術開発に取り組む際に、このことを常に念頭に置いている」

一方で、コクソン氏はAIの将来についてある程度の楽観的な見方も示した。同氏はBBCに対し、AI技術を研究している人々は「病気を解決したり、人々の生活を向上させたり」といった「（AIの）良い側面を本当に見たいと思っている」のだと述べた。

コクソン氏の投稿以来、アンソロピックの安全研究トップを務めるエヴァン・ヒュービンガー氏をはじめ、業界の大勢が懸念を表明している。

ヒュービンガー氏はXへの投稿で、「AIが全ての人類を殺す可能性があると、私たちは本当に本気で信じている！　個人的には、今後10年以内にそうなる可能性は10％以上だと思っている」と述べた。

AI研究の先駆者として「AIのゴッドファーザー」と呼ばれている、コンピューター科学者でノーベル賞受賞者のジェフリー・ヒントン博士は11日、BBCに対し、AIが全人類を滅ぼす可能性が10％あるというのは「不合理ではない」と話した。

一方、AI安全企業ファクチュアリーのマーク・ワーナーCEOは、BBC番組「ザ・ワールド・ディス・ウィークエンド」で、AIが人類を滅ぼす「確率を予測するのは極めて難しい」と述べた。

「だが、これらの人々が非常に誠実に発言していると認識することが重要だ」とワーナー氏は付け加え、AIを取り巻くリスクは長年にわたり複数のAI企業のトップによって提起されてきたと指摘した。

アンソロピックの有給顧問を務めるリシ・スーナク元英首相は、英日曜紙サンデー・タイムズへの寄稿で、自身も概ね楽観的ではあるものの、AIが人類にもたらすリスクについては懸念していると述べた。

しかし、業界関係者の中には、これらの発言は誇張されているか、あるいは話題作りのために意図的に仕組まれたものだと指摘する者もいる。

AIプラットフォーム「ハギングフェイス」クレメント・デラングCEOは、ソーシャルメディア上で次のように述べている。「申し訳ないが、ジェイコブ（・コクソン氏）にAIの人類滅亡リスクについて尋ねるのは、エアコン修理業者に気候変動について尋ねるようなものだ。それが必ずしも面白くないとか間違っていると言っているわけではないが、物事を大局的に捉えるべきだ」

しかし、アンソロピックのアモデイ氏がエッセイを発表した後、デラング氏は、アモデイ氏が提案した対策案の一端を手伝いたいと申し出た。

性的マイノリティー（LGBTQ）向けデートアプリ「グラインダー（Grindr）」のジョージ・アリソンCEOも、同様の見解を示した。BBCのインタビューでアリソン氏は、アンソロピックなどの声明は、投資家の支持を集めるために行われていると示唆した。

「なぜなら、これらの企業が評価額を正当化する唯一の方法は、『私たちはあらゆる業界を支配し、あらゆる仕事を奪い、私たちのAIがそのすべての仕事を担うことになる』と主張することだからだ」

米投資ゴールドマン・サックスが先週開催した会議では、出席した米半導体大手エヌビディアのジェンスン・フアンCEOがコクスン氏の発言について議論したと、複数の関係者がBBCに明らかにした。関係者らによると、フアン氏はコクスン氏の指摘を事実無根だと一蹴したという。

一方、ドナルド・トランプ米大統領は13日、記者団に対し、アメリカは「AI分野で中国をリードしている。率直に言って、私はこの状況を維持したい。なぜなら、AIで勝つ者が勝つからだ」と述べた。

アンソロピックが競争を阻害し、同社とオープンAIの寡頭状態を維持するために、規制当局の介入を促していると批判する声もある。

アンソロピックは近く、記録的な新規株式公開（IPO）を準備していると報じられている。

直近の評価額が8520億ドル（約131兆2000億円）だったオープンAIも上場を見込んでいたが、アルトマンCEOは11日、AIの安全性への懸念を理由に、今年は実施しないと述べた。