OpenAIをクビになった若き天才。「予言」が話題に（ギズモード・ジャパン）

Xで『Situational Awareness』（状況認識）という文章がちょっと話題になっています。 書き手はレオポルド・アッシェンブレナー。19歳で米コロンビア大学を卒業し、OpenAIのスーパーアラインメント（安全対策）チームに在籍。その後、情報漏洩の疑いで解雇され、AI分野特化のヘッジファンドを設立して今に至ります。 『Situational Awareness』は彼が自サイトで公開している長文エッセイです。実は1年以上前に公開されていて、界隈では相応に話題になっていました。それが「彼の投資会社が好成績を収めた」と8月上旬に報じられたことをきっかけに再注目されたようです。

原文が165ページもあって全部しっかりは読めていないのですが、主な主張は「これまでコンピュータの性能やAIの仕組みは一貫して時間に比例して進歩してきた。今後も同じペースで加速的に進化すると予測され、2027年にはAGIが現れる。超知能も登場し、AIは国家規模の安全保障プロジェクトとして扱われるようになる」。専門的な知識とデータを豊富に盛り込み、タイムラインも明確に示されているのが特徴です。 メッセージ性が強いのも特徴で、要約すると「AGIと超知能の出現は目前で、世界の存亡を左右する。現状を直視せよ。数少ない“状況を理解する人”となり、責任を自覚し行動せよ」みたいになります。 論文と紹介されることもありますが、書き手は「個人的見解をまとめた文章」としています。これは「論文っぽいけれど、専門家のチェックを経ていないので、そこまで信頼できる文章ではない」ということです。実際、AGI到達を2040年代と見立てる専門家も多いので、アッシェンブレナー氏の主張は急進的な部類と言えます。内容も賛否両論です。 Source: Situational Awareness, X, Wikipedia, AI Policy Bulletin, The Deep View, ArXiv, Scott Aaronson, Effective Altruism Forum