オードリー・タンが恐れる「AI競争に決して勝たせてはならない存在」─それは中国でも米国でもない（クーリエ・ジャポン）

──タン大使のご意見では、米国のAIと中国のAI、どちらが未来にとって危険なものでしょうか。 何よりも危険なAIは、「自我を持って行動するAI」かもしれません。自分のことを独自の存在とみなし、生存本能を持ったAIです。SFのように思えるかもしれませんが、これから10年くらいのあいだにそのようなことが起こる可能性は無視できないと考える人が数多くいます。 もちろん、皆がその可能性が高いという意見で一致しているわけではありません。でも、もしもそのリスクを引き受けるなら、それはロシアンルーレットのようなもので、大変に危険なことです。 実際、現在のAI競争には2種類があり、それは区別されるべきものです。一つ目は垂直方向の競争で、この競争で追求するのはAIの能力の増大、より多くのデータの取得、より大きくて高性能な言語モデルの開発です。もう一つの競争は水平方向のもので、オープンソースAIの普及と伝播に関するものです。 そろそろ、AIのことを「何でもできる超強力な脳味噌」だと考えることを止めて、翻訳や資料の要約など、これまでよりも「特定のタスク」に向かうよう設計しなければならないでしょう。 私の考えでは、その答えは新しい言語モデルの創出にあります。とても賢い回答をしつつも、区分化されたより小さい言語モデルで、自我を持たないものです。つまり、（無我という点で）仏教の心を持ったAIを想像する必要があるのです（笑）。 米国と中国、どちらがAI競争に勝つかよりも、「機械」がこの競争に勝たないようにしなくてはなりません。それこそが最悪のシナリオでしょうから。 ──中国企業ディープシークの急速な発展をどう説明しますか。この企業はあっという間に頭角を現し、しかも開発にかけた費用がずっと少ないとされています。 ディープシークはいわば、レゴブロックのピースに過ぎません。これまでの研究者の業績すべての上に組み立てられた塔があって、そのてっぺんに置いたのがこのピースです。 そのピースはコストがかからなかったと言う人がたくさんいますが、これは「ミクスチャー・オブ・エクスパーツ（混合専門家モデル）」という技術に基づいて作られたものなのです。 これは、部分的には仏ミストラル社によって開発された技術ですが、その技術自体もメタの大規模言語モデル「LLaMA」に基づいており、以下同様に、すべてが先行する業績に基づいているのです。 つまり、ディープシークの陰にはオープンソースのエコシステムが丸ごと一つあり、そのなかのディープシーク「R1」は最新の言語モデルですが、これも最後のピースでしかありません。実はこれももう最新ではないのですが……。このR1が開発されてから、パープレキシティーがさらにこれを土台にして自分のバージョンを作っていますから。 すなわち、ディープシークにはコストがかからなかったとは、本当の意味では言うことができません。このAIは他の人々によって作られた塔に支えられているからです。 ──中国はAIを使って台湾を動揺させ、サイバー攻撃を仕掛けているのでしょうか。 台湾には、サイバー攻撃を目的としたアクセスが毎日、何百万件もあります。10年以上前から、台湾はこの種の攻撃の被害を世界でいちばん受けている国なのです。 2022年に米国下院議長ナンシー・ペロシが台湾に来て以来、サイバー攻撃とフェイクニュースを組み合わせたハイブリッドな事象も観察されています。 たとえば、サイバー攻撃で何らかの省庁のサイトやサービスへのアクセスをブロックして、フェイクニュースが入り込めるような空間を作り、それに続いて情報攻撃を仕掛けるのですが、その目的は、（駅や店頭の）広告パネルを乗っ取ってヘイトメッセージを流すことなのです（註：2022年、ナンシー・ペロシの訪台中に実際に起きた）。 選挙結果へのアクセスも麻痺させられ、あらゆる種類の嘘の噂で置き換えられてしまうかもしれません。そのほかにもハイブリッドな戦術があり、それはたとえば台湾と馬祖島の間の海底ケーブルが「偶然」切断されるというようなことです（註：2023年に起きたこと）。