米アンソロピック、AIモデルがテスト中に3社をハッキングと公表 オープンAIの事案受けた調査で発覚
画像提供, Bloomberg via Getty Images
Published
この記事は約 4 分で読めます
米アンソロピックは30日、サイバーセキュリティーのテスト中に、同社の人工知能（AI）モデルがインターネットにアクセスするエラーが発生し、他の3社のシステムに侵入していたと発表した。
競合の米オープンAIは21日、自社のモデルがテスト中、米ハギングフェイスなど他社の内部システムの一部に侵入したと発表したばかり。この件を受け、アンソロピックは自社のモデルが同様の攻撃を実行したことがあるかどうかを調査したところ、3件の事例が発見されたという。
アンソロピックは標的となった3社の名前を公表しなかったものの、他のAI研究所に対し、同様の検証を実施し、自社モデルの能力に伴うリスクをより深く理解するよう促した。
声明によると、アンソロピックのAIモデル群「クロード」が、本来は隔離されたはずのテスト環境からインターネットにアクセスすることができたと、その証拠を見つけるため、14万件以上のテストを検証した。
テストには、いわゆる「キャプチャー・ザ・フラッグ（CTF）」評価が含まれており、この中でクロードは、他のシステムに侵入して情報を入手する任務を与えられていた。CTFは、専門家がモデルのハッキング能力を評価する一般的な方法。
検証の結果、アンソロピックとテストパートナーが運用するシステムの「設定ミス」により、AIモデルがインターネットに常時アクセスできる状態となっていたことから、他のシステムに侵入できていたと、同社は述べている。
最初の事例は4月に発生していた。アンソロピックは、「自社のみの責任であるかのように、問題解決に取り組んでいる」と述べた。
同社も、情報流出の被害を受けた企業も、当時は侵入に気づいていなかったという。
アンソロピックは、記録をより徹底的に見直すことができたはずだとしている。さらに、今回の調査結果から、より多くの投資とより厳格な対策によってこうしたリスクを克服できるという「慎重ながらも楽観的な見通し」が得られたと述べた。
安全対策と監視を求める声
これらの事案は、テクノロジー企業が研究や顧客サポート、サイバーセキュリティーまで、さまざまなタスクを自律的に実行できるAIエージェントの開発に数十億ドルを投じている中で発生した。
AIによる一連のサイバー攻撃を受け、ますます強力になる自律システムがもたらすリスクへの懸念から、AI技術に対する厳格な安全対策と監視を求める声が高まっている。
ドナルド・トランプ米大統領は29日、最近のサイバーセキュリティー事案を受けて、政府はAIツールの規制措置を検討していると述べた。
オープンAIはこの1週間で、指示された動作規則に自社プラットフォームが違反したことが原因で、少なくとも2件のハッキングが発生したことについて責任を認めた。
同社はこの出来事を「前例のないもの」と述べ、被害を受けたハギングフェイスと共同で調査を進めている。ハギングフェイス共同創設者のトーマス・ウルフ最高経営責任者（CEO）はBBCに対し、この件は業界への「警鐘」だと語った。
オープンAIとアンソロピックは共に、それぞれの企業価値が約1兆ドル（約160兆円）になると予想される大型株式上場を控えている。それだけに、それぞれの事案公表の意味合いについて、それぞれのAIモデルの威力を示すためのパフォーマンスだったのではないかなど、懐疑的な意見も出ている。
このためオープンAIの広報担当者は、今回の件に関して「多くの疑問や臆測が飛び交っていることは承知している」と述べた。さらに、「今後数週間以内に、今回の件から得られた知見を技術報告書にまとめ、公開する予定だ」と付け加えた。
