本稿では、前回の「戦場における「考える機械」の導入が抑止に及ぼす影響(上)」に引き続き、自律的兵器システムこと「考える機械」が戦場に導入された場合の、抑止やエスカレーション管理に及ぼす影響について検討したい。今回は特に、中国との軍事衝突を意識した東アジアの紛争シナリオに焦点を絞り、米国のRAND研究所が実施したウォーゲームの内容と結果を紹介しつつ、戦場における「考える機械」がいかに抑止やエスカレーション管理を複雑化するのか、という問題を考察する。

3 中国との軍事衝突における「考える機械」の戦場導入の影響

 戦場における「考える機械」の導入傾向は世界中で加速しているが、中でもとりわけ力を入れているのが中国である。中国は2017年7月に「次世代人工知能開発計画」を打ち出し、2030年までに「AIの理論・技術・応用の全ての分野」で世界の主導的立場に立つことを意図している[1]。これには当然ながら国防分野での応用も含まれ、2035年までに軍事の近代化を「基本的に」完了させるという第19回党大会での目標設定[2]と対になる形で、戦場における「考える機械」の導入が追求されるものと考えられる。これに対しては米国も2014年11月の「第三の相殺戦略(Third Offset Strategy)」[3]公表以降、国防分野でのAI技術の応用を精力的に追及しており、2019年2月の国防省による「AI戦略」[4]の策定などの取組を進めているが、現時点ではまだ両国とも戦力としての「考える機械」を大規模に配備(前方展開)するには至っておらず、将来に不確実性を残している。

 ただし、いずれは両国が「考える機械」を大規模に配備(前方展開)する中で、東アジアの紛争シナリオを考えねばならない状況が現実に生じる可能性がある。そうした状況で米中間、もしくは(日本を含む)米国の地域の同盟・友好国と中国との間で生じる抑止やエスカレーションのリスクをどう考えるべきなのだろうか。これについて、米国のRAND研究所が興味深いウォーゲームの試みを行っている[5]。RAND研究所は米中(及び日韓等の米国の同盟国)が大規模に「考える機械」を戦場導入する将来の東アジアの紛争シナリオについてウォーゲームを行い、それは以下のような展開を辿った。

  • 中国が自身の意思を地域に課す旨の宣言を行う。これに対して米国は中国の空母にサイバー攻撃を行い、中国の国家的な意思決定支援システムであるAI「老師」との接続を切断する。しかし、中国空母の近代化水準が低かったため、影響は限定的に留まる。
  • 日米は尖閣諸島周辺で大規模な共同演習を実施し、防衛能力を誇示する。この際、展開する艦船のミサイル防衛システムを完全に自律的な形(フルオート)に設定するが、中国はただ眺めるだけの反応をする。
  • 中国は日本への限定的な封鎖を実行することで非対称に対抗する。中国はAIに指示される単艦での僅か一つの港湾への封鎖を行うが、これは意味をなさないと考える米国は非常に困惑する。封鎖は結果的に成功しない。
  • 封鎖の失敗を受けて、中国はより強硬な無制限潜水艦作戦を実施する。中国はAIの支援を受けつつ、艦載型無人機(UAV)を用いて日本の民間船舶の出港を阻止する。結果、無人航行する日本の貨物船が撃沈される。
  • 日米は中国の封鎖に対抗するために対潜水艦戦(ASW)アセットを起動する。中国はこれに対抗して日米の自律的なASW航空機(無人)を撃墜する。ここに至り、ついに日米は中国の行動を許容できないと判断し、中国の潜水艦(有人)を撃沈する。初めて人命の喪失が起こる。
  • 中国は報復として尖閣諸島周辺の日米の艦隊に全面的ミサイル攻撃を仕掛ける。日米はミサイル防衛能力で対応するが、艦隊に一定の被害を受け、死傷者も出る。日米は艦隊を中国のミサイル射程から引き揚げ、中国は勝利を宣言する。
  • ウォーゲームはここで終了するが、米国はもしゲームが続くなら、報復として中国の空母への攻撃を検討すると表明する。

 以上のように、RAND研究所のウォーゲームでは、米中双方が「考える機械」こと自律的な兵器システムを活用した結果、双方に予期できない展開となって、最終的には抑止が破綻し事態のエスカレーションへと至っている。

 とりわけ、中国による港湾封鎖と無制限潜水艦作戦に関する中国と日米の認識ギャップがエスカレーションを招いた面がある。中国はAIの指示に基づいて単艦での港湾封鎖を行うが、その意味について米国は理解できなかった。そして中国の無制限潜水艦作戦は、攻撃対象が無人の貨物船やASW航空機であるため、人的被害を伴わないのでリスクが低いと判断された可能性があるが、結果的には日米のASWアセットの起動を招き、中国の有人潜水艦の撃沈というエスカレーションに繋がった。そしてその報復のために中国の日米艦隊への全面ミサイル攻撃となり、米国が更なる報復を検討する形で事態が推移した。「考える機械」の行動原理の不透明さや、無人のアセットを攻撃することの心理的な閾値の低さなどが、こうした展開の背景にある要素と言えよう。

 ウォーゲームは参加者次第で展開を変えるので、上記のような流れが必ず将来の米中間で発生すると断言することはできない。しかし、将来の紛争に関してウォーゲームから得られる示唆もある。例えばRAND研究所は、意思決定を主に人間が行うのか、それとも機械が行うのか、戦場における物理的なプレゼンスが主に人間中心であるのか、機械中心であるのか、といった要素に応じて、エスカレーションのダイナミクスと誤算のコストに変化が生じることが想定できるとしている。

 特に、RAND研究所は、意思決定のシステムが主に人間中心で、戦場における物理的なプレゼンスが主に機械である場合には、エスカレーションはより起こりにくく、誤算のコストも低いとしている。機械の判断に対して(人間を)「ループに入れる」運用を行えば統制が崩れにくくなるし、また物理的なプレゼンスが機械中心であれば、これを敵の攻撃で喪失しても人命よりは痛みが少なく、報復の動機も低下するからである。ウォーゲームでは、こうした特徴は主に日米に見られるものとされた。

 他方、意思決定のシステムが主に機械中心で、戦場における物理的なプレゼンスが(近代化の遅れから)主に人間である場合には、正反対にエスカレーションは極めて起こりやすくなり、誤算のコストも高まるとしている。機械速度で行われる決定は人間の介入を許さないため不測事態が発生しやすくなるし、物理的なプレゼンスが主に人間である場合には攻撃を受けた場合の損失が大きく、報復の動機も強くなるからである。ウォーゲームでは、これらは主に中国の特徴とされた。

 結果的に、ウォーゲームにおける日米と中国では、こうした「考える機械」の対極的な運用構図があったために、紛争のエスカレーションが起こってしまったと考えることができる。中国は戦場における判断の多くをAIに委ねたことで、米国を困惑させ、また民間船舶の撃沈や自律的なASW機撃墜などのエスカレーションの局面を作ってしまった。かつ、物理的なプレゼンスとして有人の潜水艦を展開していたため、日米の反撃で人命喪失が起こる局面を作ってしまい、中国としても更なる報復に出ざるを得なくなった。

 これに対して日米は人間中心の意思決定を行い、物理的なプレゼンスとしては機械中心の運用を行うことで、エスカレーションの可能性を抑制することを試みたが、このことは紛争の主導権を中国に譲り渡す結果にも繋がった。RAND研究所のウォーゲームの見逃せない結論は、日米は戦場における「考える機械」の運用に関して、エスカレーションがより生じにくい手法で臨んだが、そのことが対極的な運用法を取る中国に対して受け身の姿勢を生んでしまい、中国にエスカレーション上の主導権を譲るという不利な立場を作ってしまった、ということである。RAND研究所によれば、このことは、日米が「考える機械」の運用に当たり、人間を最終判断の「ループに入れる」時に検討すべき重要な問題となる、としている。

おわりに

 戦場において「考える機械」を如何に効果的に使いこなすかに軍事的な優位が依存する時代が間近に迫っている。AIと無人技術の発展がその変革を後押ししている。LAWS規制のような取り組みにも関わらず、こうした流れは不可避なように思える。しかし、「考える機械」の戦場投入は人間を判断の「ループに入れる」運用を困難なものとするため、抑止の破綻やエスカレーションを招くリスクを高める。伝統的な抑止は「人間が他の人間を抑止する」構図であったが、それすら様々な理由によって困難であった。しかし将来はこれに加えて、「人間が機械を抑止する」「機械が人間を抑止する」「機械同士が抑止し合う」といった複雑な抑止の構図が生まれてくる。抑止の維持やエスカレーションの回避がますます困難な時代になるかもしれないのである。戦場における「考える機械」の導入が抑止に及ぼす影響について、我々は予め理解を深めておく必要があろう。

(了)

(2020/11/18)

*この論考は英語でもお読みいただけます。
“Thinking Machines” on the battlefield and Their Impact on Deterrence