マジか…。AIが自然界に存在しない新種のウイルスを生成してしまう

コンピュータの方じゃなくて、生物学的なウイルスを作っちゃったのね。やばみしかない。

AIに向けられた大きな期待のひとつは、人類を悩ませてきた病気の根絶に貢献することですが、まだその段階には至っていません。

でも今回、AIがすごいことをやってのけました。自然界に存在しない「生存可能な新しいウイルス」を生成しちゃったというのです。技術的な快挙であると同時に、背筋が凍りそうな話でもあります。

AI製ウイルスのレシピ

カリフォルニア州パロアルトに拠点を置くアーク研究所のチームは、自身がAIを用いて新しいウイルスゲノムを作り出すという世界初の成果を達成したと確信しているそう。

研究チームは、まず自然界に存在するさまざまなウイルスのDNA構造を認識する方法を、AIモデルに学習させました。そのうえで、新しいウイルスの「レシピ」を作るよう指示しました。

ゲノム言語モデルである「Evo」がいくつかの候補を生成したあと、研究チームは分子を実際に合成して細菌に注入し、何が起こるかを観察。

科学誌Scienceに掲載された論文によると、その細菌は、他の細菌に感染して拡散する能力を持つウイルスを生み出したといいます。

まだパニクるな? 知っておくべき2つの前提

みなさん、落ち着いて。終末論者のようにパニクるにはまだ早いです。

これには安心材料が2つあります。ひとつめは、ウイルスを人工合成する技術そのものはAIが登場するずっと前から存在しており、今回の実験もウイルス研究者が普段やっていることの延長線上にあるという点。

ふたつめは、今回のウイルスは人間に害を及ぼすものではなく、細菌にしか感染できないという点です。これは意図的な設計で、AIモデルが参照したDNAは、「ΦX174(ファイ・エックス・174)」と呼ばれる比較的無害なウイルスだったとのこと。

また、AIモデルがウイルスを作るまでには、かなりの試行錯誤を繰り返したそう。The New York Timesによると、研究チームはEvoに生成させた70万個ものゲノム候補約300個まで絞り込んで、実験室で合成。そのなかで生存可能だったのはたった16個。成功確率はめちゃくちゃ低いですね…。

でも、「その技術を何に使う気なの?」と不安を感じる人にとって、その不安の大元にあるのは確率の問題じゃないですよね。わかります。

報告によると、Evoがウイルスを生み出すためには70万回もの試行が必要でしたが、成功したウイルスは2種類の大腸菌株が持つ耐性を克服していたとのこと。要するに、自然界のウイルスをただ大ざっぱにコピーしただけの代物ではなかったということです。

技術はあるけど、ルールがない

Scienceは、今回の論文に併せてジョンズ・ホプキンス大学健康安全保障センターのイングレスビー教授とモーリッツ・ハンケ教授による解説記事を掲載。両教授は、この画期的な成果に対して以下のように警鐘を鳴らしました。

これは生命科学分野での応用において有望である一方で、バイオセーフティー(安全性)やバイオセキュリティ(生物兵器など悪用防止)に関する問題も提起しています。生成AIを用いてウイルスゲノムを合成する技術はすでに存在していますが、それを安全に導くためのガバナンスは存在しません。

そんななかで、アメリカ国立衛生研究所(NIH)は、生物学的製剤をより危険なものにするような実験を科学者が行なうのを禁止し、リスクの高い生命科学研究を防ぐための新たな方針を発表しました。

しかし、この方針ではAIを活用した研究を制限する措置は講じられていません。アメリカ政府の文書には、以下のように記載されています。

計算機上だけで実施される研究は、計算モデルやソフトウエアの開発を含む場合も、そのような手段で新しい生物学的製剤を設計する場合も、『懸念対象となる実体(既知の危険な病原体など)』が関与しない限り、本方針によって禁止されるものではありません。

ここでいうところの「懸念対象となる実体」とは、すでに存在しているものを指します。The New York Timesは、その明らかな例として天然痘を挙げています

しかし、もし誰かが新たに有害なウイルスを生み出してしまったら、既存のルールはどのように適用されるのでしょうか?

個人の力ではどうすることもできない、夜も眠れなくなるようなAIの悪夢のシナリオに、また新たな1ページが書き加えられてしまったようです。

関連記事: