米国連邦法によるディープフェイク規制―2021年度国防授権法とIOGAN法―

はじめに

　米国は、EUや近時フェイクニュース・ディスインフォメーション規制を強化しているアジア各国とは異なり、フェイクニュースやディスインフォメーション、ディープフェイクの規制には総じて消極的であった。その背景には、連邦憲法修正第1条の表現の自由が米国においてはきわめて強固に解されているということがある。特に政治的表現に関しては、民主主義の根幹をなすものと理解されているため、規制は容易ではない。このため、カリフォルニア州やテキサス州で州法により選挙の前の一定期間に選挙関連の目的でディープフェイクを作成したり発信したりすることが規制されるにとどまっていた。

　しかし、2020年12月にディープフェイクを射程に入れた連邦法があらたに成立した。2021年度の国防予算に関する「2021会計年度国防授権法」と、「敵対的生成ネットワークの出力の識別に関する法律」（IOGAN法: Identifying Outputs of Generative Adversarial Networks Act )がそれであり、12月23日に大統領が署名して発効した。

　この二つの法律は、国防総省（DOD）、全米科学財団（NSF）などの連邦機関に対し、「機械で操作されたメディア」、「合成メディア」、「デジタルコンテンツの偽造」などの名称で呼ばれることもあるディープフェイクに関する調査研究の強化を求めるものである。また、このようなメディアに対する連邦政府の規制に関する提言を行うことも求めており、米国におけるディープフェイクの規制の行方を左右するものともなっている。s

2021年度国防授権法

　毎年制定される翌会計年度の国防授権法はきわめて厖大な条文からなるが、2021年度国防授権法では、「軍人とその家族を対象としたサイバー搾取とオンライン詐欺に関する研究」と題する条文が設けられた[1]。589F条は、次のように規定している。

　(a) 調査
　本法の制定日から150日以内に、国防長官は以下の調査を完了しなければならない。

　

• (1) 軍人及び家族の個人情報とアカウントのサイバー搾取。
• (2) 軍人とその家族を対象とした欺瞞的なオンライン・ターゲティングのリスク。
• (3)~（4）略
• (5) 軍人とその家族を対象としたサイバー搾取を行う外国政府および非国家主体が現在もたらしている脅威についての次の全般的評価。
  • (A) 当該サイバー搾取が、他の情報戦の手段と比較して、実質的な脅威であるかどうか。
  • (B) 当該サイバー搾取が脅威を増しているかどうか。
• (6)~(7) 略
• (8) 外国の政府及び非国家主体が、軍人及びその家族を対象に、機械で操作されたメディア（一般に「ディープフェイク」と呼ばれる）を作成又は使用することによってもたらされる脅威についての情報評価。
• (9) 軍人とその家族のサイバー搾取と欺瞞に対する脆弱性を軽減するための政策決定に関する提言（立法措置または行政措置に関する提言を含む）。

　また本法の対象となるディープフェイクについて、(d)項では次のように定義する。

　(b)~(d) 略

　(d) 定義

• (1) 略
• (2)「機械で操作されたメディア」とは、悪意を持って、個人の許可なく個人の言動を偽って描写するために、機械学習技術を用いて生成された、または実質的に修正されたビデオ、画像、音声記録を意味する。

　2020年度国防授権法では、国家情報長官に対して、米国の国家安全保障上の利益を損なうために外国国家や代理人がディープフェイクを武器化した場合に報告することを求めていた。これに対して2021年度国防授権法では、国防長官に対して、外国政府が国家安全保障に害を及ぼすためにディープフェイクをどのように利用しているかの研究を行うことを命じている点が特色である。またディープフェイクがもたらす危険性についても、同様に研究することを指示している。ディープフェイクに対する技術的な対策や、デジタルコンテンツの偽造を検知する方法の分析も求めており、ユーザーに警告するための「疑わしいコンテンツの特定と対処方法に関する提言」を行うことも指示している。

　また外国政府および非国家主体による脅威の情報評価については、「「機械で操作されたメディア」の作成に使用される技術の成熟度、そのようなメディアが情報戦にどのように使われてきたか、あるいは使われる可能性があるかについての評価が求められている。

　このような内容からみると、本条文は、国防長官に対して軍人とその家族に対するサイバー犯罪と、軍人とその家族を対象とするオンライン・ターゲティングに関する研究を行うことを義務付けるのみならず、実質的にはディープフェイクが安全保障に与える影響について広く分析することを国防長官に指示したものと解することができよう。

　なお軍人とその家族を標的とするサイバー搾取については、軍人の個人情報の搾取や、悪質なローン、不必要な医療、暴力的な過激主義などによる被害についての研究を命じており、軍人とその家族を広くサイバー犯罪やインターネットを通じて提供される悪質なサービスから守ることを目的としている。安定した給与と年金が支給される軍人は悪質なサービスの対象になりやすく、軍人と家族を対象としたデータブローカーによる情報収集のターゲットにもなっているため[2]、被害から守ることは急務になっている。また実際に2020年には、カリフォルニア州で未亡人がいわゆるロマンス詐欺の被害にあい、ディープフェイクによって海軍の将官になりすました海外の犯人から30万ドル近くをだまし取られるという事件が発生しており[3]、本規定にはディープフェイクによるニセ軍隊やニセ軍人対策という面があることも指摘されている。

　なお研究結果については、国防長官は連邦議会下院と上院の軍事委員会に報告書を提出しなければならないとされている。報告書は機密情報とはしないこととされているが、非公開の付属文書を含めることもできる。このため、安全保障上の影響を与えるような研究結果の詳細については公開されない可能性が高い。逆にいえば、ディープフェイクと安全保障との関係について高次元の研究を行うことが求められている、ということになる。

IOGAN法（敵対的生成ネットワークの出力の識別に関する法律）

　ディープフェイクの作成を容易なものとしたのが、AI技術である。AI技術のアルゴリズムの中でも、敵対的生成ネットワーク（GAN）は、特に画像や動画像作成に利用されており、ディープフェイクもこのGAN技術によって作成されることが多い。

　GANは、Generator（生成ネットワーク）と、Discriminator（識別ネットワーク）という２つのネットワークから構成されており、互いに競い合わせることで精度を高めている。Generatorは、乱数などをデータに近くなるよう加工するような役割を果たし、Discriminatorを騙せるような精巧な偽物を作ることができるように学習する。一方Discriminator は、入力されたデータがGeneratorの生成した偽物なのか訓練データとして用意された本物なのかを判別する役割を果たし、Generatorが作った偽物とあらかじめ用意された本物とを区別できるように学習する。こうして、GeneratorとDiscriminatorが敵対的に学習していくので、敵対的生成ネットワークという名がつけられている。

　このGANに関する研究の推進を連邦研究機関に命じたのがIOGAN法である[4]。IOGAN法はオハイオ州選出のアンソニー・ゴンザレス下院議員（共和党）が法案を提出し、超党派の支持を得て成立した。正式名称は、「全米科学財団理事長に、敵対的生成ネットワーク（ディープフェイクとも呼ばれる）、将来開発される可能性のあるその他の同等の技術、およびその他の目的でなされる可能性のある出力に係る研究に対する支援を行うことを命ずる法律」であり、全米科学財団（NSF）および米国国立標準技術研究所（NIST）に対し、敵対的生成ネットワークによって出力されたものを含む操作または合成されたメディアに関する研究を支援するよう指示している。

　具体的には、NSF は操作・合成されたコンテンツや情報の真正性に関する研究を支援することとされ、NISTは、敵対的生成ネットワークやコンテンツを合成・操作する他の技術の機能や出力を調べるための技術ツールの開発を加速するため、必要な測定法や基準の開発のための研究を支援しなければならないとされている。NSFとNISTは、コンテンツを合成・操作する敵対的生成ネットワークまたはその他の技術の機能と出力を検出するため、デジタルメディア企業を含む民間企業との研究機会の実現可能性に関して調査を行うことも義務付けられる。NSFとNISTは「敵対的生成ネットワーク」（GAN）によって生成されたデジタルコンテンツを検出するための革新的なアプローチの実施を通じて、民間企業、NSF、関連連邦機関の間のコミュニケーションと協調を促進・改善しうる、当該機関の政策提言を含む報告書を、共同で議会に提出しなければならない」とされている。具体的には敵対的生成ネットワークによって生成されたコンテンツを検出するツールを開発するため民間企業と共同研究を行うことが求められており、その結果に基づいて、ツール開発を実現するための政策提言を行うこととされている。

　IOGAN法自体には予算措置に関する規定はないが「2020年米国人工知能イニシアティブ法」ではAIに関する研究開発、教育、標準化に5年間で65億ドルの予算を投ずることを定めており、IOGAN法に基づく研究にもその中から費用が充てられることになる[5]。

おわりに

　ディープフェイクは、主として世論操作や選挙介入、特定の政治家への攻撃などを狙った政治的な意図の下に作成・流布されるものと、アダルトポルノ等の動画像と他の人の顔や動画を合成するポルノがある。現時点では、流通している量では後者のほうが圧倒的に多いとみられている。日本でも、2020年10月に警視庁と千葉県警がディープフェイクによるポルノを名誉毀損と著作権侵害の疑いで摘発したと発表した。

　しかし、2020年国防授権法とIOGAN法の成立は、米国ではディープフェイクが世論誘導・選挙干渉やポルノにとどまらず、安全保障問題の一つとしても認識されるようになっていることを示しているといえよう。

　ディープフェイクによる世論誘導や選挙干渉は国家の経済社会の安定や国民の政府への信頼などをゆるがし、民主主義に対する攻撃であるともいえる。このため2016年アメリカ大統領選挙を契機としてSNSによる世論誘導やフェイクニュース・ディスインフォメーションによる選挙介入が問題視されるようになって以来、ディープフェイクの意図的・組織的な流布もサイバー攻撃の一つとみなされることが増えてきた。

　しかし安全保障を目的として収集・利用される情報の中に「フェイク」が流入することや、安全保障を担う軍人等がディープフェイクによって行動や判断を左右されることが与える影響は、より直接的な安全保障に対する脅威となる。また国防授権法では、軍人とその家族に対する外国政府や非国家主体によるサイバー攻撃やサイバー犯罪自体を「情報戦（information warfare）」の一つとしてとらえていることがわかる。（b）項（5）号では、「軍人とその家族を対象としたサイバー搾取を行う外国政府および非国家主体が現在もたらしている脅威」が「情報戦」であることを明記しているからである。IOGAN法も、外国政府からの干渉や安全保障を念頭に置いている。そのことは、法案提出者であるゴンザレス議員自身が「近年のテクノロジーの進歩により、私たちの住む世界は大きく変わりましたが、国家安全保障に対する新たな脅威に対処しなければならなくなりました」、「アメリカ国民に危害を与えようとする詐術師や外国の団体を阻止するためには、ディープフェイク技術を特定して、それに対抗する方法を学ぶことが重要です」[6]と述べていることからも明らかであろう。

　今後、これらの法律による調査・研究の成果や、それに基づく政策提言も公表されることになると思われるが、ディープフェイクのみならず、AIの技術開発や利用全体にも影響を与えるものとなることが予想される。AIの技術開発や利用に連邦政府が規制を強めることになるのか、今後の動向が注目されるところである。

(2021/11/12)