このサイトは「いつか描いた未来」がテーマだが、今回はちょっと恐ろしくなる「ディストピア」な話を。
「ハルマゲドン」という言葉をご存知だろうか？
20世紀末にメディアを騒がせた終末思想で、もともとは「ヨハネの黙示録」に登場する世界の終わりに神と悪魔が最終決戦する場所の意味。
20世紀後半には米国を中心とする西側諸国とソ連（現ロシア）を中心とする東側諸国の緊張が高まり、「人類を滅亡へと導く核兵器を使用した第3次世界大戦」がいつ起こるかと恐れられていた。
そのため「ハルマゲドン」＝「核戦争」というイメージが強かったが、21世紀の今日では、もはや人間は蚊帳（かや）の外で、ハルマゲドンはAI（人工知能）同士の最終戦争になるかもしれない。
ただし「AIによる脅威」は21世紀になって降ってわいた話ではなく、20世紀末にはすでに「ターミネーター」を代表とする映画や小説で描かれていた。
それが近年の急速なAIの進歩により、自律型軍事兵器が続々と開発され、2019年の現在ではその脅威が現実になりつつあるのだ。
MQ-1プレデターはアメリカ軍で採用されているジェネラル・アトミックス・エアロノーティカル・システムズ社の無人航空機（UAV）。
主な任務は偵察やヘルファイアミサイルによる対地攻撃。1995年の配備以降多くの軍事作戦で使用されている。
ロシアのArmata-T-14スーパータンクは革新的な「アルマータ」と呼ばれる共通戦闘プラットフォーム（車台）を採用しており、遠隔制御式の無人砲塔を備えている。
「砲塔部分の無人化」により、被弾しやすい砲塔部分に人が乗ることなく小型化し、3名の乗員はすべて車体下部の装甲カプセルに搭乗することで生存率を向上させた。
MQ-1プレデターやT-14のような兵器はまだ遠隔操作型で、人間のコントロール下にある。
しかし本当の脅威は自律型の兵器だ。
例えばイスラエルのイスラエル・エアロスペース・インダストリーズ社のハーピーは、ほぼ自律しているとされる。
ハーピーは攻撃目標を定めるまで最大6時間上空を飛びまわり、赤外線カメラ等で攻撃対象を把握したあと、カミカゼ的な自爆攻撃を行う。
2015年に行われた無人航空機実験では、弾頭に約15kgの爆薬が詰め込まれ、空っぽのトラックから敵のレーダーまで、あらゆるものを簡単に跡形もなく消し去り、無情なほど効果的な兵器であることが実証された。
ちなみに現実のロボット兵器は、ターミネーターのような人型ではなく映画「WALL・E」に登場するようなコミカルな見た目や犬のような姿かもしれない。
XM1216小型無人地上車（SUGV）は、iRobot社製の軍事ロボット。
とくに都市部でのトンネルや下水道、洞窟で軍事作戦を行うことを想定して作られた軽量で携帯可能な無人地上車（UGV）。
ビッグドッグはボストン・ダイナミクス社とジェット推進研究所、ハーバード大学が開発した四足歩行ロボット。
荒い砂利道、雪上、砂浜や起伏の多い地形でも歩兵といっしょに行動できる輸送用ロボットとして開発された。
これらの自律型兵器ロボットたちは今はまだ人間に従順だが、近い将来人間のコントロールを離れて、自律型ロボット軍としてそれぞれのロボットを率いて戦争をはじめるかもしれない。
イギリス・オックスフォード大学のニック・ボストロム博士は著書「スーパーインテリジェンス 超絶AIと人類の命運」 の中で、「AIは自身が実行できる能力が弱い限りは人間に協力的な態度を続けるが、確かな実行力を手に入れたと自覚したとき、一方的に人間に対して牙をむき、自らの判断基準で世界の最適化をはじめるかもしれない」と警告している。
AIの専門家は、イスラエルのハーピーのような「キラーロボット」の時代がすでに到来していると考えている。
カリフォルニア大学バークレー校のコンピュータサイエンスの権威で、AIについて30年以上研究しているスチュアート・J・ラッセル教授は、意思をそなえた「銃」がやがて自ら立ち上がり、人々を殺しはじめる未来がやってくると警鐘を鳴らす。
軍がAIの導入を積極的に進めるのは、シミュレーション上ではマシンが人間に優勢という理由からだ。
軍の中には「人間の命を奪うかどうかの判断をAIにまかせることは、戦略的に考えて進歩」と語る者もいる。
しかしラッセル教授によると、戦争は彼らが思うようには進まない。
ロボット軍の片方が勝利したら、彼らキラーロボットは人的コストを計算して敵対者が完全に降伏するまで戦闘を続ける。
また完全に自動化された防御システムが自ら戦争をはじめたり、「無害な行動」まで「攻撃された」と誤って解釈するかもしれない。
ラッセル教授は、各国が自律型兵器を準備しているのは「敵が準備しているから、それに備えるため」が主な理由だとする。
「相手が持っているから自分も持たねば」という論理だけで、未来の人類の脅威となる兵器を各国が導入していくことは、かなり憂慮すべき状況だ。
ラッセル教授によれば、もしかしたらすでに手遅れで、現実にAIが殺人の決定を下している可能性もあるという。
AIを搭載した自律型兵器が自らの意思で銃口をわれわれに向けたとき、われわれは守るべき存在ではなく、排除すべきただの邪魔な因子の1つに成り下がっているかもしれない。
AIは感情も持たず、疲れも知らない。
自主的に学習し、勝手に賢くなっていき、その結果は創造主たるわれわれ人類にも予想がつかない。
人間の管理化を離れてAI同士が戦争をはじめたとき、われわれホモ・サピエンスは、かつてのネアンデルタール人のように辺境の地に追いやられ、絶滅という未来が待ち受けているかもしれない。
イーロン・マスク氏や故スティーブン・ホーキング博士などの著名な実業家や科学者が「自律型兵器の世界的な禁止」に賛同している。
各国が「自律型兵器の禁止」と「AI開発における安全対策」を最優先にして、第3次世界大戦＝21世紀のAIハルマゲドンを阻止しなければならない。
References:
●AIハルマゲドン：キラーロボットの時代はあなたが思うより近い
2019/7/6 EXPRESS
