AI規制の現在地
最新動向と政策をめぐる各国の攻防
中央大学教授・国際大学GLOCOM上席客員研究員
実積寿也
新技術に対する政府介入、そもそも論
• 可能な限り市場メカニズムを重視するのが効率的。
• 過少な規制はラッダイト運動を、過剰な規制は赤旗法をもたらす
。
• 「市場の失敗」に起因した適切な「補完的介入」しか正当化されない。
• 完全情報の欠如
• 包括性からの漏れ(公共財、外部効果)
• 競争の機能不全(自然独占、不当競争)
• 成果配分の歪み
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
【完全情報の欠如】方向としての透明性改善
• 世間は不安に満ちている。
• 2023年夏のPew Research Centerのアンケー
ト調査では、AIの利用拡大に期待よりも不安
• 52%は懸念が期待を上回ると表明
• 日本でも多くの不安が表明
• JIPDEC調査(2024/2)
• 生成AIへの期待は不安を上回るが、
「誤った情報が自分に提供されるこ
と」、「誤った情報が世の中に拡散
されること」に対しては、4割以上
が不安
EU AI Officeが提案中の情報公開フォーム
• AIに関する透明性改善は経済的には不利?
• 安易に「AIを活用したすごい製品だ」とアピール
すると逆効果になるという指摘
出典: https://www.pewresearch.org/short-
reads/2023/08/28/growing-public-concern-about-the-role-of-
artificial-intelligence-in-daily-life/、
https://www.jipdec.or.jp/news/pressrelease/m0p0h6000000
5qig-att/20240418_01.pdf、
https://doi.org/10.1080/19368623.2024.2368040
• 透明性改善の効果
• 不確実性による効率損失
への対処
• 「知らないものは怖い」
への対処
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
問題としてのAIリスク、解決条件としてのトラスト、方法としてのAIガバナンス
• AIがもたらす3種類のリスク
• 技術的リスク
• 誤情報・偽情報
• バイアス
• 社会的リスク
• 雇用問題、競争問題
• 人類存続・絶滅リスク
• 特異点(Vinge, 1994)
や超知能(Bostrom,
2014)などの類似
• 利用者側のリテラシー改善で
一部は解決
• 羽深(2023)は、技術的リスク
はAIサービス提供者側が、社
会的リスクは社会全体が、責
任を負うべきと主張
• 非現実的な前提条件
• ただし、これらが政策担当者
やAI研究者の間で一定の懸念
を惹起
• 深層学習AIには本質的な
ブラックボックス性があ
るため、提供側の合理的
努力によって回避できな
い部分は、社会全体で担
うことが効率的
• 社会がAI・AIサービス・
AI事業者の未来の行動を
信頼(trust)できること
が前提条件
• AIガバナンスによる対応
• AIガバナンス制度は「社会・利害関係者の『
信頼』(Trustworthy)を得る企業・組織に
なるような社会システムを整備していくこと
が鍵」(市川, 2023)
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
AIガバナンスの手法:ハードロー、ソフトロー、ハイブリッド
• 政府による具体的なルール作成においては、法的拘束力をもつ明文化されたハードローを用いる方法や、市場
プレイヤーの自主的取り組みをベースとするソフトローを用いる方法、さらにはその両者のハイブリッドなど
様々な政策アプローチがある。
• 現実に観察されるのは両者の中間
• ハードローアプローチの典型とされるEUにおいて、自主基準であるCode of Practiceの検討が進んでいる。
• 実際のCoPの策定過程において、民間からの意見を反映する程度は日本のパブコメをはるかに凌駕。
• ソフトローアプローチを基本とする米国でも州レベルにおいてはハードローが続々と制定されつつある。
ハードローアプローチ ソフトローアプローチ
• 法的安定性を分野横断的に確保:罰則の設定を適切に
行えば、リスク軽減効果大
• 具体的な規制水準は情報の非対称の影響を被るため、
最適解は困難
• 規制修正・改廃が遅く、環境変化に追随困難
• 技術中立性を損なう可能性あり、効率性ロスは不可避
• 技術進歩等への追随は容易
• 法的安定性には欠け、不確実性大
• 規律内容にインセンティブ両立性を求
められるため一定の制約がかかる。
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
【宣伝】詳しくはJILISレポートをご覧ください。
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
【市場の失敗】Scaling則のインパクト
• AIを産業として育成するためには、ビッグデータ
を集積して開放し、モデル開発を担える人材を増
やし、さらに、計算資源を積み増すことが必要
(Samborska, 2025)
• 現状の日本では人材も投資も研究力も不足
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
過小均衡問題を解決するための介入
• プレイヤーを結集するためのfocal point提示 • 直接的な公的補助
出典:AI戦略会議(2024)、文部科学省(2019)、
https://www.meti.go.jp/policy/economy/economic_security/cloud/index.html
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
【競争の機能不全】先行プレイヤー&ビッグテックによるAI市場の支配
• 生成AI市場での先行者は強大
出典:総務省(2024)、 みずほリサーチ&テクノロジー(2024)、
https://openrouter.ai/rankings
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
近年の米連邦政府のAI政策1
• 「Preparing for the Future of AI(人工知能の未来に備えて)」 (オバマ政権、2016/10)
• AIの現状、その既存および潜在的な用途、AIの進歩によって社会や公共政策に生じる問題について調査
• 連邦政府資金によるAIの研究開発に関する戦略的計画をまとめた資料を作成
• 大統領令13859「Maintaining American Leadership in AI」(トランプ政権、2019/2)
• AIの研究開発と導入を促進するための国家戦略「American AI Initiative」を策定
• 目的は米国の競争力維持と経済成長の促進
• 行政管理予算局が「Guidance for Regulation of AI Applications」を発表(2020/11/17)
• National AI Initiative Act of 2020(トランプ政権、2020/3)
• AI研究開発における米国のリーダーシップを維持・強化し、公共および民間部門における信頼できるAIシステム
の開発と利用を促進し、AIシステムの恩恵をすべての人々が享受できるようにすることを目指す
• 大統領令13960「Promoting the Use of Trustworthy AI in the Federal Government」(トランプ政権、
2020/12)
• 連邦政府機関におけるAIの利用促進を図るとともに,AI利用原則を策定
• AIの設計、開発、取得、使用に関する9つの共通原則
• Lawful and respectful of our Nation’s values
• Purposeful and performance-driven
• Accurate, reliable, and effective
• Safe, secure, and resilient
• Understandable
• Responsible and traceable
• Regularly monitored
• Transparent
• Accountable
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
近年の米連邦政府のAI政策2
• 「Blueprint for an AI Bill of Rights(AI権利章典のための青写真)」(バイデン政権、2022/10)
• 米国国民の人権を保護しつつ民主主義的価値を推進するための白書。法的拘束力はない。
• 5つの原則:
• 1.安全で効果的なシステム、2.アルゴリズム由来の差別からの保護、3.データのプライバシー、
4.ユーザーへの通知と説明、5.人間による代替・考慮・予備的措置
• AI事業者からのcommitment提出
• 2023/7/21:
• 2023/9/12:
• 大統領令14110「Executive Order on Safe, Secure, and Trustworthy Development and Use of
AI」(バイデン政権、2023/10)
• 連邦政府機関に対し、AIの適切な開発・利用を促進するための指針・標準・ベストプラクティスの策
定、調査研究や研究開発の支援を命令
• 「Framework for AI Diffusion(AI拡散フレームワーク)」(商務省、2025/1/13発効)
• 米国の国家安全保障と外交政策を守るため、高度なAIモデルや先端計算用IC(集積回路)の国際的な
拡散を管理・制限
• Tier1〜4によるリスク別管理
• Trust関連
• AI透かしの開発・導入
• モデルやシステムの情報公開
• 社会リスクに関する研究支援
• 社会課題に対応した最先端AIシ
ステムの開発・導入
• Safety関連
• レッドチーミングの実施
• 対応施策に関する情報共有
• Security関連
• サイバーセキュリティへの投資
• 外部監査の奨励
Amazon, Anthropic, Google,
Inflection, Meta, Microsoft,
OpenAI
Adobe, Cohere, IBM, Nvidia,
Palantir, Salesforce, Scale
AI, Stability
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
近年の米連邦政府のAI政策3
• 大統領令14141「Executive Order on Advancing United States Leadership in AI Infrastructure」(バイ
デン政権、2025/1/14)
• 連邦政府の施設に高度なAIデータセンターや新しいクリーン電力インフラを設置し、AI技術のリーダーシップを
維持することを目指す。
• 大統領令14148「Executive Order on Initial Rescissions of Harmful Executive Orders and Actions」(ト
ランプ政権、2025/1/20)
• 大統領令14110の取り消し(revoke)
• Stargate Project(トランプ政権、2025/1/21)
• Stargateの初期出資者は、ソフトバンクグループ、OpenAI、Oracle、MGX
• OpenAIのために新たなAIインフラストラクチャを米国内で構築するため、今後4年間で5,000億ドルを投資
• 大統領令14179「Executive Order on Removing Barriers to American Leadership in AI」(トランプ政権
、2025/1/23)
• 180日以内に、米国の国際的優位性を維持・強化するための行動計画を策定
• バイデン政権下のAI政策・規制等の見直しを指示
• パブリックコメント「Public Comment Invited on AI Action Plan」
• 大統領令14179で作成する行動計画についてのアイデア募集
• 3月15日〆切
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
米国民間事業者の取り組み
• Partnership on AI(https://partnershiponai.org/)
• AIの倫理的・責任ある開発を推進するために2016年に設立された非営利団体
• Google、Facebook、Amazon、Microsoft、IBMなどのテック企業に加え、研究機関や市民社会団体が参加する
マルチステークホルダー組織として、AIのベストプラクティス策定や社会への影響に関する議論の場を提供
• 参加メンバー(17ヶ国)
• Frontier Model Forum(https://www.frontiermodelforum.org/)
• 最先端のAIの安全性とセキュリティの向上に取り組む、業界支援の非営利団体。2023年設立
• 3つの主要任務
• 最先端の AI の安全性とセキュリティに関するベスト プラクティスを特定し、標準の開発をサポート
• 最先端の AI の安全性とセキュリティに関する科学進歩を支援
• 政府、学界、民間社会、産業界の間で最先端の AI の安全性とセキュリティに関する情報共有を促進
• 現在のメンバーは、Amazon、Anthropic、Google、Meta、Microsoft、OpenAI
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
州政府の状況 (Curry, H., Oct.22, 2024) (Dwyer, M., Jan.10, 2025)
• 州政府におけるAI法制化
• 2024年 合計: 693件の法案(前年度191法案)
• 113の法案が成立、77件の追加法案が1つの議院で可決
• デジタルレプリカに関する新しい法律
• 7州において20件近くの法案提出
• ディープフェイク関連
• 43州が法案を検討。300件以上の法案のうち、71件が成立
• トレーニングデータの透明性は現在進行中
• カリフォルニア州は AB2013を制定し、生成AIシステムの開発者に、
システムのトレーニング方法に関する詳細な文書公開を義務付け
• 政府利用に関する法律
• 19州で、政府のAI利用に関する法律を議論
• 知事命令
• これまで13 の州 (AL, CA, MD, MA, MI, NJ, OK, OR, PA, RI, VA, WS, WI)
とワシントンDCが、州政府のAI使用に関し知事命令を発出
• 四つの傾向
• 各州にはAI に関する一貫した定義がない
• 現在の知事命令は、公共サービス提供におけるAI の潜在的な危害を認識
• 大部分は、パイロットプロジェクトを提案
• 各州は実装前のAIガバナンスと計画策定を優先
2023 年中に州議会に提出されたAI
関連法案のうち法制化に到達したの
は,提出された31州中,コネチ
カット州,フロリダ州,イリノイ州,
ルイジアナ州,ミネソタ州,モンタ
ナ州,テキサス州,バージニア州,
ワシントン州の計9州の14本。
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
EUにおけるAI政策:リスクへのガードレール
• EU AI法
• 2024年8月1日施行。2025年2月1日より順次適用開始
• その中でソフトローである「行動規範(CoP)」を策定(56条)
• 5月の完成を目指し、EU AIオフィスで現在最終取りまとめ中
• 汎用AIモデルに関する義務について法解釈を具体化するもので法的拘束力はないが、行動規範への準拠は
「法令遵守を証明する手段」として機能。AI法への適合を推定させる効果はない。
出典:PwCホームページ、 https://digital-strategy.ec.europa.eu/en/policies/ai-code-practice#timeline
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
EUにおけるAI政策:産業政策1
• 第二次von der Leyen政権(2024-2029年期)における
米国・中国への対抗策
• Europe’s Choice: Political Guidelines for the Next
European Commission 2024−2029(2024/7)
• AI Factories initiative:スタートアップ企業・産業界の
スーパーコンピューターへのアクセス確保
• Apply AI Strategy:AIの新たな産業用途や公的サービス
への活用を促進。AI Research Councilの設立
• European Data Union Strategy:データの大規模共有の
簡素化・明確化
• Competitiveness Compass for the EU(2025/1)
• The future of European competitiveness(Draghiレポ
ート、 2024/9)を受けて作成
• 米国・中国とのイノベーション格差縮小のためのAI
Continent strategy
• 横断的な手段:規制・行政負担の簡素化
• 企業の行政負担を少なくとも25%、中小企業につ
いては35%軽減
• マクロン大統領の懸念(2025/2/9)
出典:https://edition.cnn.com/2025/02/09/europe/france-macron-europe-
ai-race-intl/index.html
「私はAIのために戦う」と彼は述べ、ヨーロッパがより競
争力を持つようなビジネス環境を求めた。「私はヨーロッ
パ人として、より多くの防衛と安全保障の答えのために戦
う。そして、これらの問題すべてにおいて最大限の野心を
持って戦う」
…
「我々は、いくつかの狂気じみた規制を撤廃し、現在の環
境を簡素化することに焦点を当てる必要がある」とマクロ
ン氏は述べた。「ヨーロッパはルールを簡素化し、よりビ
ジネスに適したものとし、アメリカと足並みを揃える必要
がある」
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
EUにおけるAI政策:産業政策2
• AI Continent Action Plan (2025/4/9)
• AIの野望を達成するには、AIの開発と活用の両面でリーダーシップを発揮する
必要がある。そのためには、モデル開発の進歩とともに、(計算能力やネット
ワークを含む)インフラへの持続的な投資と、経済全体への幅広い導入が必要
• 主要アクション
• Building a large-scale AI computing infrastructure【設備投資】
• Increasing access to high-quality data【データ連携】
• Data Union Strategy:分野横断的相互運用性とデータの利用可能
性を強化
• Promoting AI in strategic sectors【利用促進】
• Strengthening AI skills and talents【人材育成】
• Simplifying the implementation of the AI act【規制簡素化】
出典:https://commission.europa.eu/topics/eu-competitiveness/ai-
continent_en?fbclid=IwY2xjawJoFJJleHRuA2FlbQIxMAABHoSNsCA8EPCXYkgsPoTFhN_sF8s0VtHrEfJBpT4idSY_nD868j2zIiQoi4x7_aem_RNe6KZtvKUgVLesYphVnMA,
https://digital-strategy.ec.europa.eu/en/policies/ai-factories
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
日本:これまでの検討経緯
• 世界において、先駆的にAI戦略を開始した
のは、日本(2016年4月の総理指示に基づ
き、2017年3 月に戦略発表)、米国(オバ
マ政権下にて2016年5月に検討を開始…)、
カナダ(2017年3月に汎カナダAI 戦略発
表)…。(市川, 2023, p.6)
• 一方、総務省内での検討はさらに以前より
開始
出典:「人間中心のAI社会原則」(総合イノベーション戦略推進会議 2019/3/29)および「アジャイル・ガ
バナンスの概要と現状」(新たなガバナンスモデル検討会 2022/1/31)を基に実積作成
人間中心のAI社会原則
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
日本社会のソフトロー適性
• ソフトローアプローチを採用する優位性を支える要因
1. 非拘束的な規律であったとしても、日本企業はそれらを自発的
に遵守するという実績
2. 消費者やメディアからのプレッシャーの果たす役割の大きさ
• Attention Economy
3. 「安全第一」という日本企業の伝統的企業文化との整合性
• ハードローによる個別対応を排除したわけ
ではない(羽深 2023)
• 道路交通法改正(2023)
• 都道府県公安委員会の許可を受けた
事業者が特定の条件下で完全自動運
転を行うことが可能に
• 各種基準をクリアした自動運転シス
テムに型式認証を付与
• 割賦販売法改正(2021)
• 認定を受けたクレジット会社がアル
ゴリズムを使って与信判断すること
が可能に
• 金融商品取引法改正(2017)
• アルゴリズム高速取引を行う事業者
が登録制とされ、リスク管理体制整
備や取引記録作成・保存等が義務に
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
日本:主な産業政策
• AI戦略会議・AI制度研究会中間とりまとめ(2025/2/4
)
• 人工知能関連技術の研究開発及び活用の推進に関する
法律(案)(2025/2/28国会提出)
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
その他の取組み(大阪大学 工藤郁子特任准教授によるまとめ)
• 行政分野全般におけるAIの適正利用とその具体化
• 経産省・デジ庁「AI の政府調達・利活用に係るガイドライン」(→今春?)
• 総務省「持続可能な地方行財政のあり方に関する研究会」自治体におけるAI の利用に関するワーキンググループ
(→5月以降に報告書とりまとめ)
• 総務省「行政通則法的観点からのAI 利活用調査研究会」(→来年度本格化)
• 生成AI技術の発達を踏まえた知財制度上の適切な対応
• 経産省 産構審 知財分科会 意匠制度小委・特許制度小委(→法改正?)
• データ利活用の推進
• 個人情報保護法制の見直し:AI開発のための個人データの取扱いの規律の要件緩和(→今国会に提出予定?)
• デジタル行財政改革会議「データ利活用制度・システム検討会」
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
我が国が関係する主な国際協調
• Council of Europe Framework Convention on Artificial Intelligence and Human Rights(2024/5採択)
• 日本はオブザーバー国として条約交渉に参加
• AIを主題とする初めての国際約束として、AIシステムのライフサイクルにおける活動が、人権、民主主義及び法
の支配に合致することを目的としており、締約国による適当な措置の採用・維持や国際協力の奨励等を定める。
• Global Partnership on AI
• AI関連の優先事項に関する最先端の調査研究を支援、GPAI東京専門家支援センターの設置(2024/7)
• G7
• 広島AIプロセス、フレンズグループ
• AIサミット、AI Safety Institute
• AI Safety Summit 2023(英国)
• AI Seoul Summit 2024(韓国)
• 安全、革新的で包摂的なAIの発展のためのソウル閣僚声明
• AIの安全性とリスク管理・AIの革新と産業発展・包摂的なAIと国際協力
• AI Action Summit 2025(フランス)
• 人類と地球のための包摂的かつ持続可能なAIに関する共同声明
• 米英はAIの規制、開発、安全保障などの部分に反対して声明を承認せず。
• ASEANとの連携
• AI政策の協力を含む「日ASEANデジタルワークプラン2025」承認(2025/1/17)
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
それ以外の国際プロジェクト
• 国連の主要な取り組み(Microsoft社によるまとめ)
• 国連総会決議(2024年3月): 120カ国以上が支持、安全・信頼できるAIと人権尊重を強調
• 国連グローバル・デジタル・コンパクト(2024年9月): AIを含むデジタル原則を策定
• 国連ハイレベルAI諮問機関: 39名の専門家がAIガバナンスの最終提言を発表
• 主要機関の取組み:
• UNESCO: AI倫理指針の策定・実施
• OHCHR: AIと人権のリスク管理
• ITU: AI for Goodを通じた社会課題解決
• WHO: AIの医療応用に関する規制ガイドライン策定
• Microsoftシニアディレクター John氏のスライド
@Glocomシンポジウム(2025/3/14)
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
AI規制などの政府介入をデザインする際の四つのポイント
2. 手段(Tool)ではなく、結果(
Outcome)に着目
3. 技術ではなく、ユースケースに着目
4. 既存法前提の漸進性(
Incrementalism)
AIサービスのリスク
既存サービスに対して既存
規制がカバーしてきた範囲
1. There is not a legal vacuum.
(Carrillo, 2020)
• AIが提起する問題は数多く重
大であるが、重要なのは、法
的な空白地帯が存在しないこ
とを強調することである。
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
【顕現しつつある外部不経済】AIとデータセンター需要、電力へのインパクト
• 生成AIの普及により、大量のデータ処理を実行
するためのGPUや高速ネットワーク、冷却シス
テムなどAI特化型データセンター需要が急増
• IDCは国内のAIインフラ市場の2022年〜2027
年における年平均成長率を16.6%と予測
• データ処理量・速度を満たすためのセンター当
たり電力消費量も大幅に増加
出典: 「最近の動向について」(2024/11/20 資源エネルギー庁) 、「シリーズ:AIデータセンター」(2024年11〜12月
越智隆之、デロイトトーマツ)、 https://www.gartner.com/en/newsroom/press-releases/2024-11-12-gartner-
predicts-power-shortages-will-restrict-40-percent-of-ai-data-centers-by-20270、日本経済新聞(2024/5/20)
• Gartner社の予測によれば、
• 2027年までにAIデータセンターの40%が電力不足
• 電力供給の制約が運用リスクに
• 対策としてエネルギー効率と多様化が必要
• 関係機関との協力が重要
• 日経による予想
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
ビッグテックの対応
出典:「最近の動向について」
(2024/11/20 資源エネルギ
ー庁)
https://www.meti.go.jp/shin
gikai/enecho/denryoku_gas/
genshiryoku/pdf/043_01_00
.pdf
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
IOWNというアプローチ
出典:「IOWN構想からみた電力事業の今後」(2024/6/6 NTT)
https://www.enecho.meti.go.jp/committee/council/basic_policy_subcommittee/2024/056/056_008.pdf
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
「ワット・ビット連携」構想
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
【顕現しつつある外部不経済】情報的「不」健康
• Echo Chamber, Filter Bubble, Deepfake
出典:https://www.populismstudies.org/Vocabulary/echo-chamber/、https://spreadprivacy.com/google-
filter-bubble-study/、https://www.themandarin.com.au/240257-how-ai-deepfakes-threaten-elections-
across-the-world-in-2024/、https://www.x-dignity.kgri.keio.ac.jp/project/180/、
https://www.jst.go.jp/ristex/digist/projects/r05-pi-a01.html
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
極端を避けるための努力
• マルチステークスホルダーの関与による衆知の結集
• 産・官・学
• 学際的アプローチ
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
AIをめぐるルール作りは各国で現在進行形
• 標準化戦争におけるデファクトスタンダート競争
• EUが追求するブラッセル効果
• カリフォルニア州が目論むサンノゼ効果
ルールを作る側が、
守る側よりも有利なのは
至極当然
ルール遵守が苦にな
らず、かつ、沈黙を
尊ぶプレイヤーは、
高品質な社畜にしか
なれない
• Winner takes allの経済原則の下では、
貴重なデータを保有する日本企業にはデ
ータ鉱山における採掘人としての役割し
か与えられない可能性もある。
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
ガバナンスルール
AIは規制しなくてはならないが、あまりに過重な規制をか
けると中小・ベンチャー企業(SME)にとっては過剰負担
ゆえに、SMEに対しては一定の要件緩和は必要
• EU規制上の定義
• Commission Recommendation of 6 May 2003,
Article 2. 1
• 中小企業のカテゴリーは、従業員数250名以下、
年間売上高5,000万ユーロ以下、および/または
貸借対照表合計4,300万ユーロ以下の企業で構成
• small mid-capsという新区分の提案
• A Competitive Compass for the EU (Brussels,
29.1.2025 COM(2025) 30 final)
• 企業の規模に適した適切な規制を確保するため、
中小企業の新たな定義がまもなく提案される予定
である。中小企業よりも規模が大きく、大企業よ
りも規模が小さいという新たなカテゴリーを創設
することで、EU内の数千社が、中小企業と同じ
精神に基づく規制緩和の恩恵を受けることになる。
ガバナンスルールの皮を被った産業政策?
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
日本にとっての
AI産業政策の眼目は?
• 日本はデータ採掘人やAIエン
ジニアを育てているだけでよい
のだろうか?
• 本当の金鉱はそこにあるのか?
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
AI社会における日本の比較優位はどこにあるのか?
Toshiya Jitsuzumi@GLOCOM(Apr. 14, 2025)
References
• AI戦略会議(2024)「AI戦略の課題と対応 令和6年5月」https://www8.cao.go.jp/cstp/ai/ai_senryaku/9kai/shiryo1-1.pdf
• Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. Oxford University Press.
• Carrillo, M.R. (2020). Artificial intelligence: From ethics to law. Telecommunications Policy, 44(6), 101937.
https://doi.org/10.1016/j.telpol.2020.101937
• Curry, H. (2024). 2024 state summary on AI. Business Software Alliance TechPost, Oct.22, 2024.
https://techpost.bsa.org/2024/10/22/2024-state-summary-on-ai/
• Dwyer, M. (2025). State government use of AI: the opportunities of executive action in 2025. Center for Democracy and
Technology, Jan.10, 2025. https://cdt.org/insights/state-government-use-of-ai-the-opportunities-of-executive-action-in-
2025/?fbclid=IwY2xjawIkKtVleHRuA2FlbQIxMQABHVfSoNklVZ_V93Z9-WdZHsGttqNAszO0eSkfrNY5qy-E2LawSJLoX_Oa-
w_aem_viKXg7CAdwn0gn0l0SgWhQ
• 羽深宏樹(2023)『AIガバナンス入門:リスクマネジメントから社会設計まで』早川書房
• 市川類(2023)「世界の人工知能(AI)ガバナンス制度の進化メカニズム〜技術と制度の共進化の中での地域的多様性による制度イノ
ベーションの進展」IIR Working paper, WP#23-01.
• 文部科学省(2019)「AI戦略等を踏まえたAI人材の育成について」https://www5.cao.go.jp/keizai-
shimon/kaigi/special/reform/wg7/20191101/shiryou2_1.pdf
• みずほリサーチ&テクノロジーズ(2024)「デジタル分野の動向等に関する調査の委託〜生成AIの動向に関する調査〜報告書概要版
2024年2月」https://www.jftc.go.jp/dk/digital/itaku.pdf
• Samborska, V. (2025). Scaling up: how increasing inputs has made artificial intelligence more capable. Published online at
OurWorldinData.org. Retrieved from: 'https://ourworldindata.org/scaling-up-ai' [Online Resource]
• 総務省(2024)「平成6年版 情報通信白書」
• Vinge, V. (1994). The coming technological singularity: How to survive in the post-human era [Paper presentation]. Vision-
21: Interdisciplinary Science and Engineering in the Era of Cyberspace, Westlake, OH, United States.
https://ntrs.nasa.gov/citations/19940022856
Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)

More Related Content

PDF
「AIガバナンスと産業政策―リスクと制度デザインに関する考察―」@情報通信学会大会202507
PDF
NICT-nakagawa2019Feb12
PDF
AIルールとガバナンス
PDF
人工知能学会大会2020ーAI倫理とガバナンス
PDF
情報ネットワーク法学会研究大会
PDF
最近のAI倫理指針からの考察
PPTX
Ethics of AI - AIの倫理-
PPTX
201024 ai koeln (akemi yokota) auf japanisch
「AIガバナンスと産業政策―リスクと制度デザインに関する考察―」@情報通信学会大会202507
NICT-nakagawa2019Feb12
AIルールとガバナンス
人工知能学会大会2020ーAI倫理とガバナンス
情報ネットワーク法学会研究大会
最近のAI倫理指針からの考察
Ethics of AI - AIの倫理-
201024 ai koeln (akemi yokota) auf japanisch

Similar to AI規制の現在地:最新動向と政策をめぐる各国の攻防@GLOCOM六本木会議年次総会 (20)

PPTX
AIは政治を変えるか_AI社会論発表_20170725
PDF
情報法制研究所 第5回情報法セミナー:人工知能倫理と法制度、社会
PPT
日本のイノベーションを促進するための法的課題/Legal Issues in Promoting Innovation in Japan
PPTX
【日商USA】Wbinar 2024.4.5 SXSW2024から見える最新テックトレンド
PDF
政治はAIによって置き換えられるのか。AI 市長候補 松田道人 講演 ドイツ
PDF
ITフォーラム2025 先端IT活用推進コミュニティ セッション4:コンテキストコンピューティング研究グループの取り組み
PDF
incentive compatibleなAIガバナンス
PDF
AIが描く産業と社会の未来像-組織構造と意思決定プロセスの再定義と新たな倫理的課題
PDF
Nii(20110106)
PDF
責任あるAI ガバナンスガイドブック | Accenture Japan
PDF
AIエコシステムの進化のダイナミックス
PDF
次世代ヘルスケアを支えるAIとプラットフォーム:海外事例の紹介
PDF
情報漏えい対策だけでは済まない 最新の脅威へ立ち向かうには
PDF
Nii(20100722)
PPTX
【日商USA】Wbinar 2024.6.27 GenAI Summit フィードバックウェビナー
PDF
情報ネットワーク法学会2017大会第8分科会発表資料
PPTX
20191114滋賀県議会常任委員会視察説明資料
PPTX
【日商USA】webinar 2023.5.12 RSAカンファレンス2023 フィードバック
PPTX
AI社会における道徳的行為者
としての人間のありかた: ネオ・サイバネティクスの理論をもとに
PDF
Gartner 「セキュリティ&リスクマネジメントサミット 2019」- 安藤
AIは政治を変えるか_AI社会論発表_20170725
情報法制研究所 第5回情報法セミナー:人工知能倫理と法制度、社会
日本のイノベーションを促進するための法的課題/Legal Issues in Promoting Innovation in Japan
【日商USA】Wbinar 2024.4.5 SXSW2024から見える最新テックトレンド
政治はAIによって置き換えられるのか。AI 市長候補 松田道人 講演 ドイツ
ITフォーラム2025 先端IT活用推進コミュニティ セッション4:コンテキストコンピューティング研究グループの取り組み
incentive compatibleなAIガバナンス
AIが描く産業と社会の未来像-組織構造と意思決定プロセスの再定義と新たな倫理的課題
Nii(20110106)
責任あるAI ガバナンスガイドブック | Accenture Japan
AIエコシステムの進化のダイナミックス
次世代ヘルスケアを支えるAIとプラットフォーム:海外事例の紹介
情報漏えい対策だけでは済まない 最新の脅威へ立ち向かうには
Nii(20100722)
【日商USA】Wbinar 2024.6.27 GenAI Summit フィードバックウェビナー
情報ネットワーク法学会2017大会第8分科会発表資料
20191114滋賀県議会常任委員会視察説明資料
【日商USA】webinar 2023.5.12 RSAカンファレンス2023 フィードバック
AI社会における道徳的行為者
としての人間のありかた: ネオ・サイバネティクスの理論をもとに
Gartner 「セキュリティ&リスクマネジメントサミット 2019」- 安藤
Ad

More from Toshiya Jitsuzumi (20)

PDF
CoP最終案(WG1)およびGPAIガイドラインの解説 / Explanation of the final draft of the CoP (WG1)...
PDF
Japan's Media and Telecom Markets: Evolution, Global Competition, and NTT Law...
PDF
Rulemaking on AI, presentation at Waseda University
PDF
Rulemaking on AI: Case of Japan, and beyond
PDF
NTT法改正問題について (Regarding the NTT Law Reform Issue)
PDF
公益事業学会関東部会(2024/720)で使用したスライド:「ブロードバンドの品質」
PDF
国際経済連携センター主催のウェビナー(2024/6/10)で使用したスライド:プラットフォームビジネスのメカニズム
PDF
スプリンターネットについて
PDF
AIをめぐるグローバリズム
PDF
Fair Contributionをめぐる議論
PDF
Recent ICT issues in Japan that I find very interesting
PDF
ネット中立性原則とネットワーク投資をめぐる論点
PDF
What may economists be concerned about in terms of information health?
PDF
ローカルネットワーク費用は誰が負担すべきか:韓国 vs. NETFLIXから学べること
PDF
My comment at the Roundtable on AI Governance
PDF
スプリンターネット?
PDF
Economic Impact of Asymmetric Paid Peering: Implications of the Netflix vs. S...
PDF
Some issues in recent ICT policies in Japan
PPTX
Splinternet
PDF
Some issues in recent ICT policies in Japan
CoP最終案(WG1)およびGPAIガイドラインの解説 / Explanation of the final draft of the CoP (WG1)...
Japan's Media and Telecom Markets: Evolution, Global Competition, and NTT Law...
Rulemaking on AI, presentation at Waseda University
Rulemaking on AI: Case of Japan, and beyond
NTT法改正問題について (Regarding the NTT Law Reform Issue)
公益事業学会関東部会(2024/720)で使用したスライド:「ブロードバンドの品質」
国際経済連携センター主催のウェビナー(2024/6/10)で使用したスライド:プラットフォームビジネスのメカニズム
スプリンターネットについて
AIをめぐるグローバリズム
Fair Contributionをめぐる議論
Recent ICT issues in Japan that I find very interesting
ネット中立性原則とネットワーク投資をめぐる論点
What may economists be concerned about in terms of information health?
ローカルネットワーク費用は誰が負担すべきか:韓国 vs. NETFLIXから学べること
My comment at the Roundtable on AI Governance
スプリンターネット?
Economic Impact of Asymmetric Paid Peering: Implications of the Netflix vs. S...
Some issues in recent ICT policies in Japan
Splinternet
Some issues in recent ICT policies in Japan
Ad

AI規制の現在地:最新動向と政策をめぐる各国の攻防@GLOCOM六本木会議年次総会

  • 2. 新技術に対する政府介入、そもそも論 • 可能な限り市場メカニズムを重視するのが効率的。 • 過少な規制はラッダイト運動を、過剰な規制は赤旗法をもたらす 。 • 「市場の失敗」に起因した適切な「補完的介入」しか正当化されない。 • 完全情報の欠如 • 包括性からの漏れ(公共財、外部効果) • 競争の機能不全(自然独占、不当競争) • 成果配分の歪み Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 3. 【完全情報の欠如】方向としての透明性改善 • 世間は不安に満ちている。 • 2023年夏のPew Research Centerのアンケー ト調査では、AIの利用拡大に期待よりも不安 • 52%は懸念が期待を上回ると表明 • 日本でも多くの不安が表明 • JIPDEC調査(2024/2) • 生成AIへの期待は不安を上回るが、 「誤った情報が自分に提供されるこ と」、「誤った情報が世の中に拡散 されること」に対しては、4割以上 が不安 EU AI Officeが提案中の情報公開フォーム • AIに関する透明性改善は経済的には不利? • 安易に「AIを活用したすごい製品だ」とアピール すると逆効果になるという指摘 出典: https://www.pewresearch.org/short- reads/2023/08/28/growing-public-concern-about-the-role-of- artificial-intelligence-in-daily-life/、 https://www.jipdec.or.jp/news/pressrelease/m0p0h6000000 5qig-att/20240418_01.pdf、 https://doi.org/10.1080/19368623.2024.2368040 • 透明性改善の効果 • 不確実性による効率損失 への対処 • 「知らないものは怖い」 への対処 Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 4. 問題としてのAIリスク、解決条件としてのトラスト、方法としてのAIガバナンス • AIがもたらす3種類のリスク • 技術的リスク • 誤情報・偽情報 • バイアス • 社会的リスク • 雇用問題、競争問題 • 人類存続・絶滅リスク • 特異点(Vinge, 1994) や超知能(Bostrom, 2014)などの類似 • 利用者側のリテラシー改善で 一部は解決 • 羽深(2023)は、技術的リスク はAIサービス提供者側が、社 会的リスクは社会全体が、責 任を負うべきと主張 • 非現実的な前提条件 • ただし、これらが政策担当者 やAI研究者の間で一定の懸念 を惹起 • 深層学習AIには本質的な ブラックボックス性があ るため、提供側の合理的 努力によって回避できな い部分は、社会全体で担 うことが効率的 • 社会がAI・AIサービス・ AI事業者の未来の行動を 信頼(trust)できること が前提条件 • AIガバナンスによる対応 • AIガバナンス制度は「社会・利害関係者の『 信頼』(Trustworthy)を得る企業・組織に なるような社会システムを整備していくこと が鍵」(市川, 2023) Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 5. AIガバナンスの手法:ハードロー、ソフトロー、ハイブリッド • 政府による具体的なルール作成においては、法的拘束力をもつ明文化されたハードローを用いる方法や、市場 プレイヤーの自主的取り組みをベースとするソフトローを用いる方法、さらにはその両者のハイブリッドなど 様々な政策アプローチがある。 • 現実に観察されるのは両者の中間 • ハードローアプローチの典型とされるEUにおいて、自主基準であるCode of Practiceの検討が進んでいる。 • 実際のCoPの策定過程において、民間からの意見を反映する程度は日本のパブコメをはるかに凌駕。 • ソフトローアプローチを基本とする米国でも州レベルにおいてはハードローが続々と制定されつつある。 ハードローアプローチ ソフトローアプローチ • 法的安定性を分野横断的に確保:罰則の設定を適切に 行えば、リスク軽減効果大 • 具体的な規制水準は情報の非対称の影響を被るため、 最適解は困難 • 規制修正・改廃が遅く、環境変化に追随困難 • 技術中立性を損なう可能性あり、効率性ロスは不可避 • 技術進歩等への追随は容易 • 法的安定性には欠け、不確実性大 • 規律内容にインセンティブ両立性を求 められるため一定の制約がかかる。 Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 8. 過小均衡問題を解決するための介入 • プレイヤーを結集するためのfocal point提示 • 直接的な公的補助 出典:AI戦略会議(2024)、文部科学省(2019)、 https://www.meti.go.jp/policy/economy/economic_security/cloud/index.html Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 10. 近年の米連邦政府のAI政策1 • 「Preparing for the Future of AI(人工知能の未来に備えて)」 (オバマ政権、2016/10) • AIの現状、その既存および潜在的な用途、AIの進歩によって社会や公共政策に生じる問題について調査 • 連邦政府資金によるAIの研究開発に関する戦略的計画をまとめた資料を作成 • 大統領令13859「Maintaining American Leadership in AI」(トランプ政権、2019/2) • AIの研究開発と導入を促進するための国家戦略「American AI Initiative」を策定 • 目的は米国の競争力維持と経済成長の促進 • 行政管理予算局が「Guidance for Regulation of AI Applications」を発表(2020/11/17) • National AI Initiative Act of 2020(トランプ政権、2020/3) • AI研究開発における米国のリーダーシップを維持・強化し、公共および民間部門における信頼できるAIシステム の開発と利用を促進し、AIシステムの恩恵をすべての人々が享受できるようにすることを目指す • 大統領令13960「Promoting the Use of Trustworthy AI in the Federal Government」(トランプ政権、 2020/12) • 連邦政府機関におけるAIの利用促進を図るとともに,AI利用原則を策定 • AIの設計、開発、取得、使用に関する9つの共通原則 • Lawful and respectful of our Nation’s values • Purposeful and performance-driven • Accurate, reliable, and effective • Safe, secure, and resilient • Understandable • Responsible and traceable • Regularly monitored • Transparent • Accountable Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 11. 近年の米連邦政府のAI政策2 • 「Blueprint for an AI Bill of Rights(AI権利章典のための青写真)」(バイデン政権、2022/10) • 米国国民の人権を保護しつつ民主主義的価値を推進するための白書。法的拘束力はない。 • 5つの原則: • 1.安全で効果的なシステム、2.アルゴリズム由来の差別からの保護、3.データのプライバシー、 4.ユーザーへの通知と説明、5.人間による代替・考慮・予備的措置 • AI事業者からのcommitment提出 • 2023/7/21: • 2023/9/12: • 大統領令14110「Executive Order on Safe, Secure, and Trustworthy Development and Use of AI」(バイデン政権、2023/10) • 連邦政府機関に対し、AIの適切な開発・利用を促進するための指針・標準・ベストプラクティスの策 定、調査研究や研究開発の支援を命令 • 「Framework for AI Diffusion(AI拡散フレームワーク)」(商務省、2025/1/13発効) • 米国の国家安全保障と外交政策を守るため、高度なAIモデルや先端計算用IC(集積回路)の国際的な 拡散を管理・制限 • Tier1〜4によるリスク別管理 • Trust関連 • AI透かしの開発・導入 • モデルやシステムの情報公開 • 社会リスクに関する研究支援 • 社会課題に対応した最先端AIシ ステムの開発・導入 • Safety関連 • レッドチーミングの実施 • 対応施策に関する情報共有 • Security関連 • サイバーセキュリティへの投資 • 外部監査の奨励 Amazon, Anthropic, Google, Inflection, Meta, Microsoft, OpenAI Adobe, Cohere, IBM, Nvidia, Palantir, Salesforce, Scale AI, Stability Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 12. 近年の米連邦政府のAI政策3 • 大統領令14141「Executive Order on Advancing United States Leadership in AI Infrastructure」(バイ デン政権、2025/1/14) • 連邦政府の施設に高度なAIデータセンターや新しいクリーン電力インフラを設置し、AI技術のリーダーシップを 維持することを目指す。 • 大統領令14148「Executive Order on Initial Rescissions of Harmful Executive Orders and Actions」(ト ランプ政権、2025/1/20) • 大統領令14110の取り消し(revoke) • Stargate Project(トランプ政権、2025/1/21) • Stargateの初期出資者は、ソフトバンクグループ、OpenAI、Oracle、MGX • OpenAIのために新たなAIインフラストラクチャを米国内で構築するため、今後4年間で5,000億ドルを投資 • 大統領令14179「Executive Order on Removing Barriers to American Leadership in AI」(トランプ政権 、2025/1/23) • 180日以内に、米国の国際的優位性を維持・強化するための行動計画を策定 • バイデン政権下のAI政策・規制等の見直しを指示 • パブリックコメント「Public Comment Invited on AI Action Plan」 • 大統領令14179で作成する行動計画についてのアイデア募集 • 3月15日〆切 Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 13. 米国民間事業者の取り組み • Partnership on AI(https://partnershiponai.org/) • AIの倫理的・責任ある開発を推進するために2016年に設立された非営利団体 • Google、Facebook、Amazon、Microsoft、IBMなどのテック企業に加え、研究機関や市民社会団体が参加する マルチステークホルダー組織として、AIのベストプラクティス策定や社会への影響に関する議論の場を提供 • 参加メンバー(17ヶ国) • Frontier Model Forum(https://www.frontiermodelforum.org/) • 最先端のAIの安全性とセキュリティの向上に取り組む、業界支援の非営利団体。2023年設立 • 3つの主要任務 • 最先端の AI の安全性とセキュリティに関するベスト プラクティスを特定し、標準の開発をサポート • 最先端の AI の安全性とセキュリティに関する科学進歩を支援 • 政府、学界、民間社会、産業界の間で最先端の AI の安全性とセキュリティに関する情報共有を促進 • 現在のメンバーは、Amazon、Anthropic、Google、Meta、Microsoft、OpenAI Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 14. 州政府の状況 (Curry, H., Oct.22, 2024) (Dwyer, M., Jan.10, 2025) • 州政府におけるAI法制化 • 2024年 合計: 693件の法案(前年度191法案) • 113の法案が成立、77件の追加法案が1つの議院で可決 • デジタルレプリカに関する新しい法律 • 7州において20件近くの法案提出 • ディープフェイク関連 • 43州が法案を検討。300件以上の法案のうち、71件が成立 • トレーニングデータの透明性は現在進行中 • カリフォルニア州は AB2013を制定し、生成AIシステムの開発者に、 システムのトレーニング方法に関する詳細な文書公開を義務付け • 政府利用に関する法律 • 19州で、政府のAI利用に関する法律を議論 • 知事命令 • これまで13 の州 (AL, CA, MD, MA, MI, NJ, OK, OR, PA, RI, VA, WS, WI) とワシントンDCが、州政府のAI使用に関し知事命令を発出 • 四つの傾向 • 各州にはAI に関する一貫した定義がない • 現在の知事命令は、公共サービス提供におけるAI の潜在的な危害を認識 • 大部分は、パイロットプロジェクトを提案 • 各州は実装前のAIガバナンスと計画策定を優先 2023 年中に州議会に提出されたAI 関連法案のうち法制化に到達したの は,提出された31州中,コネチ カット州,フロリダ州,イリノイ州, ルイジアナ州,ミネソタ州,モンタ ナ州,テキサス州,バージニア州, ワシントン州の計9州の14本。 Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 15. EUにおけるAI政策:リスクへのガードレール • EU AI法 • 2024年8月1日施行。2025年2月1日より順次適用開始 • その中でソフトローである「行動規範(CoP)」を策定(56条) • 5月の完成を目指し、EU AIオフィスで現在最終取りまとめ中 • 汎用AIモデルに関する義務について法解釈を具体化するもので法的拘束力はないが、行動規範への準拠は 「法令遵守を証明する手段」として機能。AI法への適合を推定させる効果はない。 出典:PwCホームページ、 https://digital-strategy.ec.europa.eu/en/policies/ai-code-practice#timeline Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 16. EUにおけるAI政策:産業政策1 • 第二次von der Leyen政権(2024-2029年期)における 米国・中国への対抗策 • Europe’s Choice: Political Guidelines for the Next European Commission 2024−2029(2024/7) • AI Factories initiative:スタートアップ企業・産業界の スーパーコンピューターへのアクセス確保 • Apply AI Strategy:AIの新たな産業用途や公的サービス への活用を促進。AI Research Councilの設立 • European Data Union Strategy:データの大規模共有の 簡素化・明確化 • Competitiveness Compass for the EU(2025/1) • The future of European competitiveness(Draghiレポ ート、 2024/9)を受けて作成 • 米国・中国とのイノベーション格差縮小のためのAI Continent strategy • 横断的な手段:規制・行政負担の簡素化 • 企業の行政負担を少なくとも25%、中小企業につ いては35%軽減 • マクロン大統領の懸念(2025/2/9) 出典:https://edition.cnn.com/2025/02/09/europe/france-macron-europe- ai-race-intl/index.html 「私はAIのために戦う」と彼は述べ、ヨーロッパがより競 争力を持つようなビジネス環境を求めた。「私はヨーロッ パ人として、より多くの防衛と安全保障の答えのために戦 う。そして、これらの問題すべてにおいて最大限の野心を 持って戦う」 … 「我々は、いくつかの狂気じみた規制を撤廃し、現在の環 境を簡素化することに焦点を当てる必要がある」とマクロ ン氏は述べた。「ヨーロッパはルールを簡素化し、よりビ ジネスに適したものとし、アメリカと足並みを揃える必要 がある」 Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 17. EUにおけるAI政策:産業政策2 • AI Continent Action Plan (2025/4/9) • AIの野望を達成するには、AIの開発と活用の両面でリーダーシップを発揮する 必要がある。そのためには、モデル開発の進歩とともに、(計算能力やネット ワークを含む)インフラへの持続的な投資と、経済全体への幅広い導入が必要 • 主要アクション • Building a large-scale AI computing infrastructure【設備投資】 • Increasing access to high-quality data【データ連携】 • Data Union Strategy:分野横断的相互運用性とデータの利用可能 性を強化 • Promoting AI in strategic sectors【利用促進】 • Strengthening AI skills and talents【人材育成】 • Simplifying the implementation of the AI act【規制簡素化】 出典:https://commission.europa.eu/topics/eu-competitiveness/ai- continent_en?fbclid=IwY2xjawJoFJJleHRuA2FlbQIxMAABHoSNsCA8EPCXYkgsPoTFhN_sF8s0VtHrEfJBpT4idSY_nD868j2zIiQoi4x7_aem_RNe6KZtvKUgVLesYphVnMA, https://digital-strategy.ec.europa.eu/en/policies/ai-factories Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 18. 日本:これまでの検討経緯 • 世界において、先駆的にAI戦略を開始した のは、日本(2016年4月の総理指示に基づ き、2017年3 月に戦略発表)、米国(オバ マ政権下にて2016年5月に検討を開始…)、 カナダ(2017年3月に汎カナダAI 戦略発 表)…。(市川, 2023, p.6) • 一方、総務省内での検討はさらに以前より 開始 出典:「人間中心のAI社会原則」(総合イノベーション戦略推進会議 2019/3/29)および「アジャイル・ガ バナンスの概要と現状」(新たなガバナンスモデル検討会 2022/1/31)を基に実積作成 人間中心のAI社会原則 Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 19. 日本社会のソフトロー適性 • ソフトローアプローチを採用する優位性を支える要因 1. 非拘束的な規律であったとしても、日本企業はそれらを自発的 に遵守するという実績 2. 消費者やメディアからのプレッシャーの果たす役割の大きさ • Attention Economy 3. 「安全第一」という日本企業の伝統的企業文化との整合性 • ハードローによる個別対応を排除したわけ ではない(羽深 2023) • 道路交通法改正(2023) • 都道府県公安委員会の許可を受けた 事業者が特定の条件下で完全自動運 転を行うことが可能に • 各種基準をクリアした自動運転シス テムに型式認証を付与 • 割賦販売法改正(2021) • 認定を受けたクレジット会社がアル ゴリズムを使って与信判断すること が可能に • 金融商品取引法改正(2017) • アルゴリズム高速取引を行う事業者 が登録制とされ、リスク管理体制整 備や取引記録作成・保存等が義務に Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 21. その他の取組み(大阪大学 工藤郁子特任准教授によるまとめ) • 行政分野全般におけるAIの適正利用とその具体化 • 経産省・デジ庁「AI の政府調達・利活用に係るガイドライン」(→今春?) • 総務省「持続可能な地方行財政のあり方に関する研究会」自治体におけるAI の利用に関するワーキンググループ (→5月以降に報告書とりまとめ) • 総務省「行政通則法的観点からのAI 利活用調査研究会」(→来年度本格化) • 生成AI技術の発達を踏まえた知財制度上の適切な対応 • 経産省 産構審 知財分科会 意匠制度小委・特許制度小委(→法改正?) • データ利活用の推進 • 個人情報保護法制の見直し:AI開発のための個人データの取扱いの規律の要件緩和(→今国会に提出予定?) • デジタル行財政改革会議「データ利活用制度・システム検討会」 Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 22. 我が国が関係する主な国際協調 • Council of Europe Framework Convention on Artificial Intelligence and Human Rights(2024/5採択) • 日本はオブザーバー国として条約交渉に参加 • AIを主題とする初めての国際約束として、AIシステムのライフサイクルにおける活動が、人権、民主主義及び法 の支配に合致することを目的としており、締約国による適当な措置の採用・維持や国際協力の奨励等を定める。 • Global Partnership on AI • AI関連の優先事項に関する最先端の調査研究を支援、GPAI東京専門家支援センターの設置(2024/7) • G7 • 広島AIプロセス、フレンズグループ • AIサミット、AI Safety Institute • AI Safety Summit 2023(英国) • AI Seoul Summit 2024(韓国) • 安全、革新的で包摂的なAIの発展のためのソウル閣僚声明 • AIの安全性とリスク管理・AIの革新と産業発展・包摂的なAIと国際協力 • AI Action Summit 2025(フランス) • 人類と地球のための包摂的かつ持続可能なAIに関する共同声明 • 米英はAIの規制、開発、安全保障などの部分に反対して声明を承認せず。 • ASEANとの連携 • AI政策の協力を含む「日ASEANデジタルワークプラン2025」承認(2025/1/17) Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 23. それ以外の国際プロジェクト • 国連の主要な取り組み(Microsoft社によるまとめ) • 国連総会決議(2024年3月): 120カ国以上が支持、安全・信頼できるAIと人権尊重を強調 • 国連グローバル・デジタル・コンパクト(2024年9月): AIを含むデジタル原則を策定 • 国連ハイレベルAI諮問機関: 39名の専門家がAIガバナンスの最終提言を発表 • 主要機関の取組み: • UNESCO: AI倫理指針の策定・実施 • OHCHR: AIと人権のリスク管理 • ITU: AI for Goodを通じた社会課題解決 • WHO: AIの医療応用に関する規制ガイドライン策定 • Microsoftシニアディレクター John氏のスライド @Glocomシンポジウム(2025/3/14) Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 24. AI規制などの政府介入をデザインする際の四つのポイント 2. 手段(Tool)ではなく、結果( Outcome)に着目 3. 技術ではなく、ユースケースに着目 4. 既存法前提の漸進性( Incrementalism) AIサービスのリスク 既存サービスに対して既存 規制がカバーしてきた範囲 1. There is not a legal vacuum. (Carrillo, 2020) • AIが提起する問題は数多く重 大であるが、重要なのは、法 的な空白地帯が存在しないこ とを強調することである。 Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 25. 【顕現しつつある外部不経済】AIとデータセンター需要、電力へのインパクト • 生成AIの普及により、大量のデータ処理を実行 するためのGPUや高速ネットワーク、冷却シス テムなどAI特化型データセンター需要が急増 • IDCは国内のAIインフラ市場の2022年〜2027 年における年平均成長率を16.6%と予測 • データ処理量・速度を満たすためのセンター当 たり電力消費量も大幅に増加 出典: 「最近の動向について」(2024/11/20 資源エネルギー庁) 、「シリーズ:AIデータセンター」(2024年11〜12月 越智隆之、デロイトトーマツ)、 https://www.gartner.com/en/newsroom/press-releases/2024-11-12-gartner- predicts-power-shortages-will-restrict-40-percent-of-ai-data-centers-by-20270、日本経済新聞(2024/5/20) • Gartner社の予測によれば、 • 2027年までにAIデータセンターの40%が電力不足 • 電力供給の制約が運用リスクに • 対策としてエネルギー効率と多様化が必要 • 関係機関との協力が重要 • 日経による予想 Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 29. 【顕現しつつある外部不経済】情報的「不」健康 • Echo Chamber, Filter Bubble, Deepfake 出典:https://www.populismstudies.org/Vocabulary/echo-chamber/、https://spreadprivacy.com/google- filter-bubble-study/、https://www.themandarin.com.au/240257-how-ai-deepfakes-threaten-elections- across-the-world-in-2024/、https://www.x-dignity.kgri.keio.ac.jp/project/180/、 https://www.jst.go.jp/ristex/digist/projects/r05-pi-a01.html Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 31. AIをめぐるルール作りは各国で現在進行形 • 標準化戦争におけるデファクトスタンダート競争 • EUが追求するブラッセル効果 • カリフォルニア州が目論むサンノゼ効果 ルールを作る側が、 守る側よりも有利なのは 至極当然 ルール遵守が苦にな らず、かつ、沈黙を 尊ぶプレイヤーは、 高品質な社畜にしか なれない • Winner takes allの経済原則の下では、 貴重なデータを保有する日本企業にはデ ータ鉱山における採掘人としての役割し か与えられない可能性もある。 Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 32. ガバナンスルール AIは規制しなくてはならないが、あまりに過重な規制をか けると中小・ベンチャー企業(SME)にとっては過剰負担 ゆえに、SMEに対しては一定の要件緩和は必要 • EU規制上の定義 • Commission Recommendation of 6 May 2003, Article 2. 1 • 中小企業のカテゴリーは、従業員数250名以下、 年間売上高5,000万ユーロ以下、および/または 貸借対照表合計4,300万ユーロ以下の企業で構成 • small mid-capsという新区分の提案 • A Competitive Compass for the EU (Brussels, 29.1.2025 COM(2025) 30 final) • 企業の規模に適した適切な規制を確保するため、 中小企業の新たな定義がまもなく提案される予定 である。中小企業よりも規模が大きく、大企業よ りも規模が小さいという新たなカテゴリーを創設 することで、EU内の数千社が、中小企業と同じ 精神に基づく規制緩和の恩恵を受けることになる。 ガバナンスルールの皮を被った産業政策? Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)
  • 35. References • AI戦略会議(2024)「AI戦略の課題と対応 令和6年5月」https://www8.cao.go.jp/cstp/ai/ai_senryaku/9kai/shiryo1-1.pdf • Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. Oxford University Press. • Carrillo, M.R. (2020). Artificial intelligence: From ethics to law. Telecommunications Policy, 44(6), 101937. https://doi.org/10.1016/j.telpol.2020.101937 • Curry, H. (2024). 2024 state summary on AI. Business Software Alliance TechPost, Oct.22, 2024. https://techpost.bsa.org/2024/10/22/2024-state-summary-on-ai/ • Dwyer, M. (2025). State government use of AI: the opportunities of executive action in 2025. Center for Democracy and Technology, Jan.10, 2025. https://cdt.org/insights/state-government-use-of-ai-the-opportunities-of-executive-action-in- 2025/?fbclid=IwY2xjawIkKtVleHRuA2FlbQIxMQABHVfSoNklVZ_V93Z9-WdZHsGttqNAszO0eSkfrNY5qy-E2LawSJLoX_Oa- w_aem_viKXg7CAdwn0gn0l0SgWhQ • 羽深宏樹(2023)『AIガバナンス入門:リスクマネジメントから社会設計まで』早川書房 • 市川類(2023)「世界の人工知能(AI)ガバナンス制度の進化メカニズム〜技術と制度の共進化の中での地域的多様性による制度イノ ベーションの進展」IIR Working paper, WP#23-01. • 文部科学省(2019)「AI戦略等を踏まえたAI人材の育成について」https://www5.cao.go.jp/keizai- shimon/kaigi/special/reform/wg7/20191101/shiryou2_1.pdf • みずほリサーチ&テクノロジーズ(2024)「デジタル分野の動向等に関する調査の委託〜生成AIの動向に関する調査〜報告書概要版 2024年2月」https://www.jftc.go.jp/dk/digital/itaku.pdf • Samborska, V. (2025). Scaling up: how increasing inputs has made artificial intelligence more capable. Published online at OurWorldinData.org. Retrieved from: 'https://ourworldindata.org/scaling-up-ai' [Online Resource] • 総務省(2024)「平成6年版 情報通信白書」 • Vinge, V. (1994). The coming technological singularity: How to survive in the post-human era [Paper presentation]. Vision- 21: Interdisciplinary Science and Engineering in the Era of Cyberspace, Westlake, OH, United States. https://ntrs.nasa.gov/citations/19940022856 Toshiya Jitsuzumi@GLOCOM (Apr. 14, 2025)