世界で進む生成AIのルール整備。EUでは透明性義務、各国政府ではAI利用のガバナンス構築が進められている（画像はイメージ）
今回のニュースのポイント
生成AIの利活用が加速するなか、世界主要国・地域では「コンテンツの透明性」と「行政における安全な利用・統治」を巡るルール整備が進められています。EUではAI Actに基づく透明性義務の適用に向け、AI生成コンテンツのマーキングや表示などを具体化する行動規範を策定。また米国やオーストラリア、カナダ、シンガポールなどでは、政府内のAI利用・ガバナンス枠組みの整備や「AIエージェント」に対応した管理の検討が進められています。日本においても、ガバメントAI「源内」の推進やエージェント型AIに対応したルール作りなど、独自の取り組みが進んでいます。
本文
生成AI技術が社会や行政実務へ急速に浸透するなか、主要国や国際機関ではAIのリスクを管理しつつ、適正な利活用を促進するための制度設計を進めています。今回の政府資料では、AIが生成したコンテンツの識別や表示といった「透明性の確保」と、政府自らがAIを安全に導入・運用するための「ガバナンス体制の構築」という二つの動きが紹介されています。
コンテンツの透明性確保を巡って、EUでは具体的な制度整備が進められています。2026年6月に公開された「生成AIコンテンツの表示およびラベル付けに関する行動規範」では、AI生成・操作されたコンテンツに対する機械可読形式でのマーキングや検出機能の実装、ディープフェイクや公開テキストの明示（ラベリング）に関する具体的要件が整理されました。制度上、欧州人工知能法（AI Act）第50条に基づく透明性要件自体は法的義務であり、本行動規範はその遵守を支援する任意枠組みとして整理されています。さらに、画像の圧縮やスクリーンショットを経ても検出できる「堅牢性」や、異なるシステム間でも情報を利用・検出できる「相互運用性」といった品質要件の検討も示されています。
一方、各国の政府機関が自らAIを利用する際のルール整備も進められています。米国では各省庁における最高AI責任者（CAIO）の任命や省庁AIガバナンスボードの設置、CAIO協議会の開催などを定め、政府横断で知見やリスク評価を共有する仕組みを構築しています。オーストラリアやカナダ、シンガポール、Five Eyes（ファイブ・アイズ）を構成する各国の政府文書などでも、事前の影響評価（AIA等）やユースケースの管理、サイバーセキュリティ対策など、AIを政府で利用する際の管理手法が示されています。
特に近年議論が行われているのが、指示に基づいて自律的にタスクを遂行する「AIエージェント（Agentic AI）」への対応です。資料で紹介された各国・地域の政府文書では、単なる対話型AIとは異なり、エージェントが持つ自律性や権限範囲（Agency）を踏まえた管理の考え方が示されています。具体例として、不可逆的な処理や高リスクな決定における人間の事前承認（Human-in-the-loop）や、エージェントごとの所有者・責任者の指定、アクセス制御、さらにはシステム異常時の停止機構といった対策案が挙げられています。
こうした世界の動向に対し、日本政府でもルール整備と利用拡大が進められています。内閣府の「人工知能基本計画（案）」では、政府業務における生成AIについて、エージェント型AIの導入や国内開発AIモデルの活用を進めるガバメントAI「源内」を推進する方針が明記されました。さらに、AIエージェントに対応したルール作りや、そのオープンソース化を通じた自治体でのAI活用（自治体AX）支援、適正な調達手続きの確立などが盛り込まれています。
各国・地域でコンテンツの透明性確保やAI利用のガバナンスを巡るルール整備が進むなか、日本も単なる技術の導入にとどまらず、行政基盤としての安全性確保とルール作りを同時に推し進めるフェーズに入っています。（編集担当：エコノミックニュース編集部／Editorial Desk: Economic News Japan）
