『ターミネーター：ニュー・フェイト』を軸にAIの未来を考える　人工知能は脅威か、それとも恩恵か

　人工知能（AI）は脅威か、それとも人類に恩恵をもたらすのか。

（関連：新作映画にあわせ、ターミネーターのVRアトラクション『Terminator: Guardian of Fate』が始動）

　ディープラーニング（深層学習）の登場により、“第3次AIブーム”となっている現在、AIの可能性と悲観的な観測が世間に入り乱れている。囲碁の世界チャンピオンを打ち負かした“AlphaGo（アルファ碁）”は、大きなニュースとして注目された。AIはもはや一部の好事家のものではなく、社会に大きな変革をもたらすものであると認識されていることは間違いない。

　現在、シリーズ最新作『ターミネーター：ニュー・フェイト』が公開中の『ターミネーター』シリーズは、“AI脅威論”を基にした代表的なSF映画だ。自我に目覚めた機械が人類を滅ぼすという世界観は、未来のAIの脅威として、様々な場面で引用されてきた。今作では、冒頭でこれまでのシリーズの世界観をひっくり返すような展開をするが、AIによって人類が苦境に立たされる未来というコンセプトに変化はない。

　本シリーズが描き続けたAIの恐怖というのは、どの程度妥当性があるのか。また、なぜ人はAIを恐れるのか、本作と昨今のAIに関する動向を参照しながら考えてみたい。

■AIの思考のブラックボックス
　本作でのターミネーターの標的・ダニー（ナタリア・レイエ）は、工場に勤務している。その工場ではオートメーションの機械が導入され、人員整理が行われる様子が描かれていたる。そこにターミネーターが襲いかかってくる。機械に仕事を奪われている最中に、未来の殺人ロボットが命を奪いにやってくるのだ。

　このシーンは、AIを恐れる人々の漠然とした不安を象徴している。機械によって仕事の効率化が図られるのは、いつの時代でも変わらない。短期的に職を失う人がいるが、その度に人間社会は新たなニーズを生み出し、それに合わせて新たな職も生まれる。

　それが現代社会の発展というもの。だが、それが行き着く先はどこなのだろう、とふと考えると、人は不安に襲われる。仕事ばかりか人間の営みすべてが機械に置き換え可能なのではないか、もしそれほど高度に技術が発達した未来になったら人間は必要なのか。囲碁という知的ゲームでは、人間世界のチャンピオンを上回る知能はすでに存在している。知的作業すらこれからは、人間の専売特許ではなくなるわけだ。そして、それほどの知能をすでに有していながら、AIの進化はまだ途上である。というより、まだまだ序盤の序盤という段階だ。自分の立場が脅かされると感じる人がいるのも無理はない。

　さらに、AIに対する漠たる不安を抱く背景には、AIが何を考えているのかよくわからないという点にも起因する。ディープラーニングと呼ばれる学習方法は、量的にも質的にも人間の理解が及ばない構造をしているからだ（参照：人間が深層学習のAIを理解できないのには、理由がある：朝日新聞GLOBE＋）。

　現状のディープラーニングは、“なぜその結果が最適だと判断したか”のプロセスを説明できない。『ターミネーター』シリーズのAIも、人類を滅ぼす理由をあまり説明してくれないため（自我に目覚めて防衛行動に出たという説明がなされたことはある）、人間からしたら、いきなり「全滅しろ」と結論を突きつけられたようなものだ。

　囲碁などのゲームであれば、最善手を打つという結果だけで良いが、実際に社会の中でAIを活用しようと思えば、理由が説明されなくては困ってしまう。たとえば、医療現場でAIによる診断サポートが普及したとしても、「AIが今すぐ手術が必要だと言っています」と言われて、すんなり納得できる人は少ないはず。そのため、現実世界では“説明可能なAI”の開発が進められている（参照：AIはなぜその答えを導き出したのか ～根拠を見える化する「説明可能なAI」～ : 富士通ジャーナル）。

　現状、ディープラーニングによってAIは自律的な学習機能を獲得したが、自我と呼べるほどの単独行動を取るようなAIは存在しない。しかし、人間は“何を考えているかわからないもの”を恐怖するものだ。AIの思考のブラックボックスを解消しないことには、“AI脅威論”はなかなかなくならないのだろう。

■AIによる自立型兵器は生まれるか
　『ターミネーター』シリーズのAIは軍事目的に開発されていたが、現実世界でも、軍事方面でのAIの活用／研究は進んでいる。

　核兵器に次ぐ「次世代の戦略兵器の目玉」と言われている、AI兵器。戦争遂行に人の関わりを減らすことができれば、自軍の被害を抑えることが可能だし、AIによって人間以上に精密な攻撃ができるようになれば、より効果的に相手を蹴散らせるようになる。

　実際にAI兵器市場では、無人のドローン兵器が見本市ですでに紹介されていた。『KUB-BLA』という爆撃用の無人ドローンは、「神風ドローン」の異名をとっている。無人なので特攻爆撃ができるのだ。以下は『KUB-BLA』の動画だが、標的に向かって急降下し、爆発する様子が映し出されている。

　AI兵器の開発は秘密裏に行われることがほとんどで、各国が現状どのような開発を行っているかの全容はつかみにくい。ヘンリー・キッシンジャー元米国国務長官は、AI兵器の開発規制は、核兵器開発規制よりも困難だと指摘している。

　「AI兵器について言えば、敵の無知が自国の最大の武器です。まして（AIテクノロジーの）共有などはもっと困難です」（MIT Tech Review：「AI兵器の規制は核兵器よりも困難」キッシンジャー元米国務長官）

　ターミネーターのような自立型の殺人マシーンが誕生する可能性はあるのか、という点が気になるところだが、その答えははっきりとしていない。兵器については、最終的な攻撃の目標設定や決断などは、人間の判断によるべきという原則が、今のところある。

　その一線を超えた兵器“自律型致死兵器システム（LAWS）”について、どのように規制をすべきかというのは、今まさに国際的な枠組みで議論の最中だ。日本政府も今年の3月に、LAWSに対する国際的ルール作りに対して、積極的に参加すると表明した文書を発表している（参照：自律型致死兵器システム（LAWS）に関する政府専門家会合に対する日本政府の作業文書の提出 ｜ 外務省）。

　現状、どこまでを“完全自立型”と見なすかの明確な基準はない。その国際ルールを決めるための会合が、今年の8月にも開催されたばかりだが、まだ結論は出ていないようだ（参照：自律型致死兵器システム（LAWS）に関する国際会議について：海上自衛隊幹部学校）。

　しかし、国際的な取り決めの合意はないまま、各国でAI兵器の研究は続けられているのが現状である。いつどこで、完全自立型の殺傷兵器が生まれてもおかしくないかもしれない。米ニュースクール大学メディア研究学部准教授のピーター・アサロ氏は「各国とも機能を秘密扱いにし、“全貌”が見えないのが大きな問題だ」と語っている（参照：AI兵器が「一線」を越えると…… : 読売新聞オンライン）。

　ディープラーニングの思考にもブラックボックスがあるが、AI兵器は開発状況自体がブラックボックスということだ。

　そういう世界の現状を知ると、本作が提示する未来は絵空事ではないと思えてくる。少なくとも、現時点での一般市民の我々としては、恐怖を抱く理由は十分に存在するのだ。そんな恐怖をリアルに感じつつ、サラ・コナーたちの活躍に拍手喝采するというのが、本作の楽しみ方ではなかろうか。（文＝杉本穂高）