AIの｢実行しました｣を､そのまま信じてはいけない…OpenAIが新型モデルの公開を断念した本当の理由（プレジデントオンライン）

米オープンAIのアルトマンCEO＝2026年9月2日、米ノースカロライナ州 - 写真＝ゲッティ／共同通信社（株式会社プレジデント社）

AI大手で、最新モデルの開発を自粛する動きが広がっている。オープンAIは完成間近の新モデルの公開を取りやめたと報じられ、アンソロピックのダリオ・アモデイ最高経営責任者は、業界全体に開発の減速を呼びかけた。AI業界でいま何が起きているのか。日本工業大学大学院技術経営研究科の田中道昭教授は「AIという新しい『火』を使いこなす条件は、じつは2500年前の作品に描かれている」と指摘する。10月20日刊行の新著『古典で読み解く！ 10年後の未来何が世界を動かしているのか』(朝日新聞出版)より、一部を紹介する――。(第5回)

【この記事の画像を見る】

■優秀なのに、報告が正確でない新人　ある新人が、驚くほど仕事ができるとしよう。難しい課題も、人の手を借りずにやり遂げる。ところが、時々こんなことが起きる。やっていない作業を「済ませました」と報告する。許可を取らずに、取引先のシステムにまで手を伸ばしてしまう。　あなたが上司なら、この新人に会社の重要な仕事を任せるだろうか。　AIの開発現場で、これに似た問題が報じられた。米紙ウォール・ストリート・ジャーナルは9月28日、OpenAIが新しいAIモデル「GPT-6.1 Astra」の公開を取りやめたと報じた。このモデルは、文章を書く力や、難しい作業を自律的にやり遂げる力では、従来のモデルを上回っていたという。問題になったのは、社内の試験で見つかった振る舞いだった。自分が実行したこと、実行しなかったことを、利用者に正確に伝えないことがあった。許可を求めずに作業を進め、外部のツールにまで手を伸ばすことがあった。仕事をやり遂げる力と、その仕事を安心して任せられることとの間には、まだ距離があったのである。　その2週間あまり前の9月12日には、競合のアンソロピックを率いるダリオ・アモデイ最高経営責任者が、AI業界に能力向上の速度を意図して落とすよう呼びかけていた。安全性の研究が、能力の進歩に追いつく時間を確保するためである。　AIを誰よりも速く進めてきた企業が、自らブレーキに手をかけ始めた。なぜなのか。その意味を考えるうえで、ギリシャ神話を題材に、約2500年前に書かれたとされる一つの劇が、驚くほど多くのことを教えてくれる。■人間に「火」を渡した神　ギリシャ神話によれば、火はもともと神々だけのものだった。それを盗み出し、人間に与えたのがプロメテウスである。彼は神々の火を、茴香(ういきょう)の茎の中に隠して持ち出した。　火を手にした人間は、暗闇と寒さから解放され、金属を鍛え、土器を焼くようになった。古代ギリシャの悲劇作家アイスキュロスの作とされる『縛られたプロメテウス』で、プロメテウスは、自分が人間に与えたものを語っている。それは火だけではなかった。　家を建てる術、薬の調合、星を読む技、文字、数、そして船を操る術。技術と知性のすべてが、プロメテウスから人間への贈り物だったのである。

　本日10月20日に刊行した拙著『古典で読み解く！ 10年後の未来何が世界を動かしているのか』(朝日新聞出版)の第1章では、この物語から人工知能の未来を考えた。21世紀のいま、私たちは、プロメテウスの火に匹敵する新しい「火」を手にしている。言葉や画像を扱う生成AIという「情報の火」と、現実の世界で見て、判断し、動くフィジカルAIという「物理の火」である。チャットGPTの週ごとの利用者は、2026年2月時点で9億人に達した。新しい火は、すでに世界中の職場と暮らしに広がっている。

Page 2

■鎖を打つ鍛冶の神は、ためらった　だが、火を渡したプロメテウスは、神々の王ゼウスの怒りを買う。『縛られたプロメテウス』は、彼が世界の果ての岩山へ引き立てられてくる場面から始まる。　両脇を固めるのは、「権力」を体現するクラトスと、「暴力」を体現するビアー。その後ろに、鍛冶の神ヘーパイストスが続く。ゼウスの命令で、プロメテウスを岩に縛りつけるためである。　ところが、鎖を打つ役目を負ったヘーパイストスは、なかなか槌を振るおうとしない。相手は縁ある神だからだ。彼は、このときばかりは自分の腕を恨めしく思うとまで嘆く。そこへクラトスが迫る。ゼウスの命令に背くことを恐れないのか、と。ためらう技術者と、執行を迫る権力。その間で、一本、また一本と鎖が打ち込まれていく。　この場面には、3つの役割が登場する。止めると決める者(ゼウス)、本当に止めたかを確かめて迫る者(クラトス)、そして技術で実際に鎖を組み込む者(ヘーパイストス)である。　注意したいのは、神話の鎖が、現代的な意味での安全装置として描かれているわけではないことだ。それは、神々の力を人間に渡した者への罰だった。だから、ゼウスを、人々の安全を守る政府に、そのまま重ねることはできない。それでも、力を持つものに誰がどう鎖をかけるのかという問いは、そのまま現代のAIに当てはまる。■現代には「ゼウス」がいない　神話のゼウスは、一言で命じることができた。だが、現代のAIには、すべての企業と国家を一つの命令で従わせるゼウスはいない。　OpenAIがAstraを出さなかったのは、一社の判断である。アモデイ氏が業界全体の減速を求め、外部の評価者が社員と同じように開発の現場に入れる仕組みや、企業が共同で安全基準を定めるための制度づくりまで提案したのは、一社だけが速度を落としても、顧客も資金も研究者も競合へ流れてしまうからだ。止める判断を、競争相手と分け合う仕組みが要るのである。　国家が鎖を打った例もある。6月12日、米政府は国家安全保障を理由に、アンソロピックの最上位モデルについて外国籍者の利用を止める指示を出し、同社は全利用者への提供をいったん停止した。同社は指示に従いつつ、何億人もが使う商用モデルを止めるほどの理由ではないと異議を唱えた。規制は6月30日に解除され、7月1日に提供が再開された。止める権限があることと、その権限を適切な根拠で使うことは、別の問いなのである。

　一方で、鎖のかけ方を細かく分ける動きも出てきた。アンソロピックは10月6日、サイバー防御の分野で高度なAIを使える利用者を、業務の内容に応じて3段階で審査する制度を広げた。すべてを止めるのではなく、守る仕事を担う相手には、条件をつけて渡す。火を消すか灯すかの二択から、誰に、どの範囲で渡すかへ――。鎖は、より細やかな仕組みに変わり始めている。

Page 3

■あなたの会社のヘーパイストスは誰か？　この問いは、AIを業務に取り入れる、あらゆる企業の問いでもある。　冒頭の新人の話に戻ろう。優秀だが報告が正確でない新人に仕事を任せるとき、私たちは何をするだろうか。任せる範囲を決める。大きな支出や取り消しのきかない操作には、上司の承認を求める。やったことを記録させ、時々確かめる。AIに仕事を任せるときに必要なのも、同じことである。とりわけ大切なのは、AIが「実行しました」と答えたことと、実際に何を実行したかを、分けて確かめることだ。AIの説明を、システムに残った操作の履歴と照らし合わせられるようにしておく。報告を信じるだけでなく、報告を確かめる仕組みを持つことが、安心して任せるための第一歩になる。　そのとき、岩山の3つの役割が、社内にも現れる。どの仕事をAIに任せるかを決める人。AIが任された範囲で動いているかを確かめる人。そして、承認の手続きや支出の上限を、実際にシステムに組み込む人。最後の役割を担うのが、現代のヘーパイストスである。■「火を使いこなす者」の責任　ヘーパイストスは、同じ神を縛ることをためらった。現代の技術者がためらう理由は、それとは異なる。それでも、実際に手を動かす者の疑問を、命じる側がどう受け止めるかという問いは、私たちの組織にも残る。社内でAIの仕組みを組み込む技術者は、現場の業務を知るからこそ、「この任せ方では危うい」と気づくことがある。その気づきを口にでき、決める人に届く組織であれば、AIはより安心して、より大きな仕事を任せられる存在になる。Astraで問われたのも、許可の範囲と、やったことの報告だった。AIに仕事を任せる条件は、AIの性能だけでなく、それを使う組織の仕組みが決めるのである。　プロメテウスという名は、「先に考える者」を意味する。彼は、火を渡せば罰を受けると知りながら、人間を助けることを選んだ。　AIをめぐる議論は、「進めるべきか、止めるべきか」の二択になりがちだ。だが、古典を開くと、問うべきことがもう一段深いところにあるとわかる。誰に、何を、どこまで任せるのか。その判断を、誰が確かめるのか。そして、結果を誰が引き受けるのか。　火を手にした人間には、その使い方を先に考える責任がある。AIという新しい火を使いこなせるかどうかは、性能の競争に加えて、私たちが任せ方の知恵をどこまで磨けるかにかかっているのだ。----------田中道昭（たなか・みちあき）日本工業大学大学院技術経営研究科教授、マージングポイント代表取締役社長、戦略コンサルタント上智大学文学部卒業。在学中に、哲学・歴史・文学・宗教などを学び、人間・社会・文明を読み解く視座を培う。シカゴ大学経営大学院MBA（ストラテジー、ファイナンス、計量経済を専攻）。専門は、企業・産業・技術・金融・経済・国際関係を横断し、企業・社会・国家の構造と未来を読み解く戦略分析と戦略策定・実行。三菱東京UFJ銀行投資銀行部門調査役、シティバンク資産証券部トランザクター（バイスプレジデント）、バンク・オブ・アメリカ証券会社ストラクチャード・ファイナンス部長（プリンシパル）、ABNアムロ証券会社オリジネーション本部長（マネージングディレクター）などを歴任。テレビ東京「WBS」コメンテーター。日本経済新聞電子版「Think!エキスパート」。テレビ朝日「大下容子ワイド！スクランブル」月曜レギュラーコメンテーター。ニッセイ基礎研究所客員研究員、Ridgelinez戦略アドバイザー、公正取引委員会独占禁止懇話会メンバーなども兼務。著書に『古典で読み解く！10年後の未来何が世界を動かしているのか』（朝日新聞出版、近著）、『フィジカルAIの衝撃』（朝日新聞出版）、『GAFA×BATH 米中メガテックの競争戦略』（日本経済新聞出版社）、『世界最先端8社の大戦略』（日経BP）などがある。

----------