AnthropicのCEO｢人類は高度なAIを扱うほど成熟していない｣

高度AIの危険性を熱く語り、AIを作り続けるCEO…。

Claudeを開発したAnthropicの創業者ダリオ・アモデイCEOが実に約38ページにも及ぶエッセイを公開。熱い思いを語ったそのエッセイのタイトルは、｢The Adolescence of Technology（テクノロジーの思春期）｣というもの。超知能の開発に到達することは、世界にとって非常に大きな危険をもたらし得るとの見方を語っています（ちなみにですが、と言いつつも同社は今後もAIの開発を続けるそうです）。

アモデイ氏の警告とは？

実は、こういうエッセイをたまに発表してきているアモデイ氏。今回は以下のように記しています。

私たちは、混乱を伴いながらも避けられない通過儀礼の中に入ろうとしているところで、それは人類という種としての私たちが何者なのかを試すものになると私は信じています。人類は、想像もできないほどの力を手にしようとしていて、それを扱うだけの成熟さを、私たちの社会制度、政治制度、技術システムが備えているのかは、まったくはっきりしていません。AIによって可能になる権威主義体制には恐怖を感じます。

余談ですが、Anthropicはトランプ政権の連邦政府に対し、Claudeを年間1ドルで提供しています。

アモデイ氏は、エッセイの中で1995年のオウム真理教による地下鉄でサリン事件にも言及。｢誰もが天才をポケットに入れて持ち歩く｣状態になると、こうした攻撃を実行するための障壁が取り払われ、さらに致命的な行為さえ可能になってしまうと記しています。

人を殺したいという歪んだ願望を持ちながらも、それを実行する規律や技術を持たない孤独な人物が、今後は博士号を持つウイルス学者と同じ能力レベルに引き上げられることになるかもしれません。そして歪んだ願望を持つ人間が相当数存在するのではないかと私は懸念しています。もし彼らが、何百万人もの人を簡単に殺せる手段にアクセスできるようになれば、遅かれ早かれ、そのうちの誰かが実行してしまうでしょう。

アモデイ氏は、近年のAIの進歩の速さには感銘を受けている一方で、このペースが続くと、超知能の開発はそう遠くないと警告しています。かつては人工汎用知能と呼ばれていたのですが、最近その言い方が避けられている傾向があります。｢この指数関数的な進歩が今後も続くか、確実とは言えないものの、過去10年にわたって実際に続いてきた実績があります。そうだとすると、AIがほぼあらゆる分野で人間より優れるようになるまで、あと数年もかからないはずです｣とも書いています。

天才の国が生まれたら？

それってどういう状況なんだろう？と思っている方。アモデイ氏はたとえ話を使ってわかりやすく説明してくれています。

仮に2027年ごろに、文字どおり｢天才の国｣が世界のどこかに出現したとします。人口は5000万人で、その全員がノーベル賞受賞者や政治家、技術者よりもはるかに有能だと想像してください。あなたが、ある国の国家安全保障担当顧問で、その状況を評価し対応する立場にあるとします。そして加えて想像してみてください。AIシステムは人間より何百倍も速く動作できるため、｢天才の国｣は他のすべての国に対して時間的に優位なんです。私たちが1つの思考行動を取る間に、天才の国は10の行動を取れてしまうんです。

この考え方を前提にして、アモデイ氏は私たちが何を一番懸念すべきかを考える価値があると述べています。アモデイ氏は、｢自律性に関するリスク｣｢破壊目的での悪用｣｢権力掌握のための悪用｣などを挙げていて、最終的に、国家安全保障担当顧問のあなたは、｢この100年で最も深刻な国家安全保障上の脅威、場合によっては史上最悪のもの｣と評価するだろうと結論づけています。 念のため付け加えると、そのたとえ話に出てくる天才の国を作っているのがAnthropicなんですけどね。

警告しながら開発

Anthropicは他のAI企業と比べても、AI開発に伴うリスクを特定し、規制強化や消費者保護を訴える点では積極的です。それが本心からなのか、規制を利用した戦略なのかは見る人次第ですが…。ただし同時に、差し迫った破滅を引き起こしかねないと警告しているそのAIを、作り続けてもいます。そもそも、そのような破滅をもたらすAIを作らなければよいのでは、とも思ってしまいますけど。そして、AIの危険性を強く警告しているにもかかわらず、それを作り続けている姿勢を見ると、その警告をどこまで本気で受け止めるべきなのか、疑問に感じてしまいます。

Source: Dario Amodei, CNBC