AI悪用は事業者名公表政府「推進と規制」両立へ新法

政府の人工知能（AI）戦略会議は4日、開発促進と安全確保の両立をめざす新法整備に向けた中間とりまとめを決定する。新法は人権侵害やサイバー攻撃への悪用など生成AIがもたらすリスクに対応するため、悪質な場合は国が実態調査したうえで事業者名を公表する規定を盛り込む。罰則は見送る方針だ。

2024年12月に公表した中間とりまとめ案は国民の権利や利益が侵害された場合、国が事業者に情報提供を求める法整備が必要だと指摘した。

これを受けて、「AI関連技術の研究開発・活用推進法案」（仮称）は不正な目的や不適切な方法によるAI関連技術の研究開発や活用で国民の権利侵害が生じた際、国が分析し対策を検討すると規定する。2月下旬の閣議決定を予定する。

AIによる著しい人権侵害を確認したり、指導しても改善がみられなかったりした場合に事業者名の公表に踏み込む方針だ。AIの開発事業者と、活用する事業者の双方を対象とする見込みだ。

サイバー攻撃への悪用、本物と酷似した画像や動画を作成する「ディープフェイク」による偽・誤情報の拡散、詐欺などの犯罪を助長するようなケースを想定する。

24年1月の能登半島地震では、X（旧ツイッター）などSNSで虚偽とみられる投稿が拡散した。著名人が投資を呼びかけているように見せる「なりすまし詐欺」も横行する。AIで作成した偽の画像などが使用されている。

低コストの生成AI開発で注目される中国のDeepSeek（ディープシーク）を巡っては情報漏洩などセキュリティー上の懸念が指摘される。また「沖縄県・尖閣諸島は中国固有の領土だ」と事実と異なる回答をするなど、認知戦に悪用される懸念も根強い。

これまでリスク対応で企業の自主性を尊重してきた対応を転換し、法規制に踏み込む背景にはAIを悪用した国民の権利侵害が多発していることがある。ただ、過度な規制はイノベーションの促進の妨げになる恐れがあるため、罰則は見送る方向だ。

日本では米オープンAIや米グーグルなど海外事業者がAIの開発・利用で先行している。法規制の対象は多くの海外事業者が見込まれる。事業者名を公表することで抑止効果を狙うものの、歯止めになるかは見通せない。事業者が政府の要求通りに協力しない可能性もある。

AIを巡る法整備で先行する欧州連合（EU）は24年に包括的なAI規制法を発効させた。生成AIの提供企業にAIでつくられた内容であることを明示させるなど透明性の義務を課す。人権侵害など「許容できないリスク」があるAIは使用を禁止する。違反に制裁金を科す厳格な規制をとる。

トランプ米大統領は事前の安全評価を義務づけることを求めたバイデン前政権による大統領令を撤回し、規制は緩やかになる方向だ。

日本の新法はAIを安全保障上重要な技術として位置づけ、開発力を高めることで国際競争力を向上させると理念に掲げる。首相直轄の「AI戦略本部」の設置や研究開発を進めるための基本計画策定を規定する。

城内実科学技術相は1月31日の衆院予算委員会で新法案に関し「多様なリスクがもたらす不安を背景に先進国と比較し研究開発・活用が進んでいない状況を解消することが目的だ」と説明した。

「安心安全で信頼できる世界のモデルとなるよう制度を構築し、日本が最も世界でAIを開発活用しやすい国となるようめざす」とも強調した。日本は各国の規制の議論を注視しながらバランスを保った制度設計をめざす。

【関連記事】

AI悪用は事業者名公表 政府「推進と規制」両立へ新法