米国国防総省AI戦略における「文化」問題
相沢 伸広
インドネシア/タイ政治、都市化と政治、東南アジア華僑等が専門
京都大学大学院アジアアフリカ地域研究研究科にて博士号取得
政権移行プロセスに政治的注目が注がれる中、レームダック化しつつある議会において、2020年12月8日、「国家AI戦略」決議案が全会一致で下院を通過した1。任期切れ間もない共和党のハード下院議員(テキサス州3区)と民主党のケリー下院議員(イリノイ州2区)の共同提案であり、AIを活用したイノベーションから、AIによって生じうる問題への対処など78項目のアクションを求める内容となった。何よりも、AIの活用を通じて、権威主義に根ざしたものではなく、米国の価値に根ざしたガイドラインとルールを策定することが重要である、とハード下院議員は強調した。
ガバナンス、経済成長、教育、倫理、安全保障戦略におけるAIの活用の重要性、そして危険性双方についての議論は、ワシントンDCで確固たる広がりを見せている。コロナ禍を受けて医療衛生への活用が短期的には最優先課題ではあるが、経済成長とより広範なガバナンス効率、加えて中国やロシアなど先行する各国政府の取り組みに対する優位性確保という国際的な競争を視野に入れ、連邦政府を中心に過去5年間にわたって様々なイニシアティヴがとられてきた。2016年10月にはオバマ政権下で「米国AI研究開発戦略計画(National Artificial Intelligence Research and Development Strategic Plan)」2を発表し、AI分野のR&D(研究開発)への投資を促し、2019年2月11日にはトランプ政権下で「米国のAI分野におけるリーダーシップ維持にかかる大統領令(Maintaining American Leadership in Artificial Intelligence)」3を発令し、2016年の計画を踏襲しつつ、民間連携の重要性をより強調した4。2019年9月には政府機能・公的機関のパフォーマンス向上を企図して”Summit on Artificial Intelligence in Government to spark ideas for how the Federal” を開催して、政官財学の連携強化と、連邦政府職員のAI教育を約束した。続けて2020年12月3日にトランプ大統領は「連邦政府における信用あるAI活用推進にかかる行政命令(Executive Order on Promoting the Use of Trustworthy Artificial Intelligence in the Federal Government)」5を発し長期を見越した人材育成と、投資を約束した6。
こうしたホワイトハウスのイニシアティブに対して、議会としても呼応したのが上述の決議案だった。AI戦略の中心的な取り組みがR&Dへの予算措置である以上、議会としてもその声を上げた形となる。2020年は大統領選挙のため、ワシントンDCでも極端な政治的分断に焦点が当てられてきたが、AI戦略については、民主共和両党、そしてホワイトハウス、議会の双方にまたがって「国家の競争力」「国家の威信」をかけた戦略としてコンセンサスが生まれつつある。
AIを活用し、ガバナンスや競争力を向上させようという意思と目標は定まったものの、政府主導でまとめられるAI戦略が実現するためには、技術的、資金的な課題以上に、「文化」的な問題が潜んでいる。企業のAI有効活用において度々指摘される課題とは異なる、政府安全保障分野における「文化」の問題として、少なくとも3つ挙げられる。
第一に、AIを最大限活用・統合するということは、安全保障を政府主導型から民間主導型に変えていくことを意味する。ジョン・ハイテン統合参謀本部副議長は、2020年9月に国防省が初めて開催したA Iに関するワークショップ“2020 Department of Defense Artificial Intelligence Symposium and Exposition” において、国防総省の大半の発想が時代遅れであることに危機感を持ち、「我々は今でも、自分等のことをこの業界で一番のプレーヤー(The big dog in the room)だと思い込みたいのだが、今回は違うのだ」と語り、「AI戦略において、国防総省はマイノリティ・パートナーであるということを受け入れなければならない」と説いた。安全保障戦略において国家が、とりわけ国防省が「中心的」な役割を果たすのが当然とみなされてきた長い歴史からすれば、これは大きな変化である。
一例としてソフトウェア開発が上げられる。かつて1977年から1983年にかけて、国防総省の要請に基づき独自のプログラミング言語Ada が開発された7。国防総省の様々なニーズに応えられる安全性を売りにしたプログラミング言語であった。しかし、汎用性の面からも使い勝手が悪く、普及に成功したとは言えない結果となった。ハイテン副議長は、このイニシアティヴをアルカイック(古い)と断じ、このことが象徴しているように、我々はもはやソフトウェア開発の時代に取り残されたと述べた。そして、その根本原因を文化にあると指摘している。国防総省がソフトウェア開発に着手する場合、戦闘機や戦艦の開発と同じように、何百人ものエンジニアのチームを組む。しかし、ソフトウェア開発に500人のエンジニアチームを組むのは非現実的かつ非効率的である。ソフトウェア開発は「軽快で迅速(Nimble and Fast)」でなければならず、AIを活用した統合型の部隊、兵器体系の運用が、米国の軍事的優位を保つ上で欠かせないとしたら、そのA I活用システム開発のスピードこそが、競争力を規定することとなる。
ジョン・ハイテン統合参謀本部副議長が危惧しているのは、国家全体としてマクロで見たときの、AI開発が加速度的に進んでいるとしても、シリコンバレーや経済分野での成長は信じられないほど早いのに対し、国防省は信じられないほど遅いという現実である。米中間の競争の鍵を握るのが、AIを含めた先端技術開発の競争だとするならば、まず国防総省が民間の開発スタイルに合わせるということが、スピード獲得への文化的改革となる。
第二に、より広範な軍民機密共有の戦略的価値の承認である。先端技術の機密情報流出こそが、大国間競争の主戦場であるだけに、当然AI開発プロセスには一層厳格な機密保持を徹底する必要がある。一方で、具体的なAIシステムの開発については、開発から実戦まで無数の「テスト」が必要となる。その「テスト」は段階を踏むごとに実際の防衛関連情報、実際の戦場における分析情報へのアクセスが求められ、そうしたアクセスなしには、「プログラムのアップデート」や「テスト」が出来ず、実践において必要となる信頼を構築する事もできない。したがってAI開発プロセスになるべく広範な民間企業の参画が可能となるよう機密情報へのアクセスを向上させなければならない。AI戦略において、国防総省はこの二つの相反する課題に直面している。
安全保障関連に応用可能と考えられるAI技術を持っている米国企業の場合、これまでは、国防総省の側から参入を求めても、厳格なクリアランスを課す、情報へのアクセスを制限する、もしくは開発場所をペンタゴン施設内に限る等の縛りをかけるのが通常であった。問題はこうした措置が、技術はあっても財務的な体力のないスタートアップ企業などにとって、特に大きな参入コストとなり、国防総省との提携意欲は低減する可能性がある、ということだ。国防総省としては、小規模かつ異分野でもエッジのある多くのテクノロジーを安全保障に活用したい、民間企業との協同能力が能力構築の向上のために必要不可欠だという点は了解している。その上自らの役割がマイノリティ・パートナーとなる以上、情報共有や情報提供のあり方についての考え方を改革しておかなければ、こうした小規模で有望な民間企業から見向きもされなくなるリスクを抱える。
第三に、データの価値づけにかかる考え方の変化である。AIの開発には当然データの有無がその成否を左右するが、そのデータの作り方にかかる考えに、大きな変容が求められている。AIの活用として有効なのは、既存のデータを統一的なタグづけをする事で情報処理しやすくする事以上に、従来は価値がないとされ廃棄されてきた情報の中に新たな価値を見出す事であり、さらには次にこれまで情報だとすら思われていなかったものを有効な情報と認定し、その情報を既存のデータと関連づける事にあろう。そうなると、これからはAIに特定のデータの「型」を定めて、その「型」に基づいて情報化をするようにプログラムするというよりは、「型」も「タグ」もない未知の情報、人間が気づかなかった情報をどのように情報化していくかという、情報化のプロセスそのものをAIに教えるところが肝となる。これは、トップダウンで「型」による情報化を求めがちな政府のAI開発とは異なる方法である。
AIがもたらす、倫理的な問題や、社会的なインパクトへの警鐘が鳴らされる中、それでもAIを活用しなければ、ガバナンス能力の向上も国際的な競争力も実現し得ないという危機感は、米国で大統領選挙とコロナウイルスという二つの分断の力学が働く中で、静かに、しかしながら広く共有されつつあると感じる。それでも組織の中で、そうした危機感を感じて改革に乗り出すグループと、そうでないグループが生まれるのは必然であり、とりわけ国防総省のような大きな組織であれば驚くことではない。ハイテン副議長が、AI活用における問題を「文化」だとは言いたくないが、やはり文化的な問題である、と位置付けて注意喚起したのは、政府の取り組みに焦点を当てる上で効果的であり、ゆえに、国防総省を超えて、今では超党派かつ全政府をあげた包括的な戦略としてデザインする他ないという結論になっているとも言えよう8。
2020年はもっぱら米国社会の分断に焦点があたり、短期的、党派的、対立的な政治的決定が目立つ年であった。FacebookやTwitterの存在も民主主義を危機に陥れる存在として糾弾され、テクノロジーの進化もまた、米国の国益と二律背反的な側面を見せつつあった。それでも、AIについてはその可能性と危険性の双方を見据え、2020年12月には大統領、議会双方からAI国家戦略が発表され、AI戦略をめぐって最後に党派を超え、議会とホワイトハウス、さらには政府と民間の違いも超えて、全体が危機感を持って戦略的かつ統合的な意思を働かせた。米国の民主主義の強靭性を意外な形で垣間見ることができた。
GAFAに代表される巨大なテクノロジー企業を抱え、中国とテクノロジーにおける覇を競う米国ゆえに強く議論される問題ではあるが、私としては米国に特殊な問題として捉えるのではなく、AI時代における国家建設、再編成の問題そのものとして、理解すべき現象であると考える。
私が研究する東南アジアにおけるAIについては、もっぱら産業政策の一環として議論されるか、権威主義体制の強化のツールとして議論されることが多く、どちらにしても国家の役割が強化されるという認識が強い。その点、米国の議論は既存の国家の役割の縮小を前提として、政府そのものの役割、さらに言えば、国家と社会、市場の関係を再構築しようという試みである。ハイテン副議長が「文化」の問題だと語ったこうした議論は、主に社会学で議論されるPolitical Infiltrationと親和性の高い議論であり、社会科学と政策研究の新たな必要性と可能性の双方を確信させる議論であった。
- “CONCURRENT RESOLUTION Expressing the sense of Congress with respect to the principles that should guide the national artificial intelligence strategy of the United States” House of Representative <https://hurd.house.gov/sites/hurd.house.gov/files/Resolution%20Text%20HURDTX_030_xml.pdf>(2020年12月16日参照)
- “THE NATIONAL ARTIFICIAL INTELLIGENCE RESEARCH AND DEVELOPMENT STRATEGIC PLAN” National Science and Technology Council <https://www.nitrd.gov/PUBS/national_ai_rd_strategic_plan.pdf> (2020年12月16日参照)
- “Executive Order on Maintaining American Leadership in Artificial Intelligence” The White House <https://www.whitehouse.gov/presidential-actions/executive-order-maintaining-american-leadership-artificial-intelligence/>(2020年12月16日参照)
- “Artificial Intelligence for the American People” The White House <https://www.whitehouse.gov/ai/>(2020年12月16日参照)
- “Executive Order on Promoting the Use of Trustworthy Artificial Intelligence in the Federal Government” The White House <https://www.whitehouse.gov/presidential-actions/executive-order-promoting-use-trustworthy-artificial-intelligence-federal-government/>(2020年12月16日参照)
- その一例として設けられたプログラムが、Presidential Innovation Fellows <https://presidentialinnovationfellows.gov/>である。(2020年12月16日参照)
- プログラミング言語Adaの開発については、AdaCore社のホームページ<https://www.adacore.com/industries/defense>が参考になる。(2020年12月16日参照)
- John E Hyten, “Remarks by General John E. Hyten to the Joint Artificial Intelligence Symposium and Exposition” U.S. Department of Defense, September 9, 2020. <https://www.defense.gov/Newsroom/Transcripts/Transcript/Article/2344135/remarks-by-general-john-e-hyten-to-the-joint-artificial-intelligence-symposium/>(2020年12月16日参照)
PDFファイル(459.8KB)