AIは「従順なヘルパー」を生み出すが、それでは突破口は開けないと科学者が指摘（海外）（BUSINESS INSIDER JAPAN）

トーマス・ウルフによると、AIは指示に従うことにおいては優れているが、新たな知識を生み出すことには苦戦しているという。AIはトレーニング・データを疑問視し、常識に捕らわれないアプローチを取る必要があるとウルフはXに書いた。ウルフのコメントは、テック界がエージェント型AIの開発に注力する中で発信された。 AI（人工知能）は、指示に従うことにおいては優れているが、知識の限界を打ち破ることはないとトーマス・ウルフ（Thomas Wolf）は述べた。 ハギング・フェイス（Hugging Face）の共同創業者で最高科学責任者（CSO）のウルフは5月6日のXへの投稿で、大規模言語モデル（LLM）について分析した。同社はアマゾン（Amazon）とエヌビディア（Nvidia）がバックアップするオープン・ソースAI企業だ。 この分野が生み出すのは「過度に従順なヘルパー」であって革命家ではないとウルフは書いている。 ウルフによると、現状、AIは新たな知識を生み出してはいない。その代わりに、既存の事実の隙間を埋めているだけだ。それをウルフは「多様な充填（manifold filling）」と呼んでいる。 ウルフの主張は、AIが科学における真の突破口を開くためには、情報の回収と合成以上のことをすべきだというものだ。AIは、自身のトレーニングデータを疑問視して、常識に捕らわれないアプローチを取り、最低限のインプットで新たなアイデアを生み出し、そして新たな探求への道を拓く、思いもよらない質問をすべきだという。 また、アンソロピック（Anthropic）のCEO、ダリオ・アモデイ（Dario Amodei）が10月に発表したエッセイ『Machine of Loving Grace（愛に満ちた機械）』のコンセプト「圧縮された21世紀」という考えにも言及した。AIは科学的進歩を大きく加速させ、100年かかると予想されていた発見が、たったの5年や10年で実現してしまう可能性があるとアモデイは書いている。 「このエッセイは2回読んだ。最初に読んだ時は本当に驚いた。AIは、5年で科学のすべてを変えると思った」とウルフはXに書いた。 「読み返してみて、そのほとんどが、ひいき目に見ても希望的観測のようだということに気がついたんだ」 AI研究がギアチェンジしない限り、データセンターに新たなアルバート・アインシュタイン（Albert Einstein）が生まれることはなく、「サーバー上がイエスマン」だらけの未来になるだけだとウルフは警告した。 通常の営業時間外にメールでコメントを求めたが、ウルフからの回答はなかった。