spliti 〜映画『AI崩壊』は非現実的な物語ではないーー“医療AI”の可能性と問題点を考える

　入江悠監督による、貴重なオリジナル企画によるサスペンス大作映画『AI崩壊』がヒットしている。

　2030年、医療AIが普及した近未来の日本を舞台に、AIが暴走し命の選別を始めることで起こるパニックを描いた作品で、大沢たかお演じる、医療AI「のぞみ」の開発者が嫌疑をかけられながらも、警察の追跡を交わしながら真相に迫ってゆく。入江監督自ら人工知能学会に入会しリサーチを重ね、AI監修に日本ディープラーニング協会理事長の松尾豊氏を迎え、リアリティある作品を作り上げている。

　『ターミネーター』シリーズなど、「AIの脅威」を描いた作品はいくつも存在するが、本作がユニークなのは、殺人ロボットのような目に見える脅威として描かず、医療AIが国民のインフラとして定着した時代に、目に見えない恐怖としてAIの脅威を描いた点だ。AIを恐れる心境はさながら、ウイルスや放射能への恐れともどこか通底しているように感じられる。AIの脅威をパンデミック的に描いているのだ。

　そして、日本の近未来を舞台にしたSFで、医療AIに着目した点が出色だ。労働人口減少、超高齢化社会がさらに進んでいく2020年代の日本にとって、医療AIの促進は、安定した社会を築くために必須ともいえるものだからだ。

■医療AIはなぜ求められるのか
　本作は2030年、今から10年後の日本を舞台にしている。物語の中の日本は現実の日本と地続きで、経済が衰退し人口減少にも歯止めがかかっていない。作中に「好調な産業は医療産業ぐらい」という台詞もあるが、10年後の未来予測としてかなり説得力がある。

　松尾豊氏も技術顧問を務める、AIの社会実装を手がける株式会社ABEJAで、医療AIのプロジェクトに関わる木下正文氏は、日本は戦後一貫して社会保障費が増大し続けているが、その中で医療費が最も大きな割合を占めている、それを経済発展と人口増加でカバーしてきたが、人口減少時代に突入すれば、“AIを活用した生産性の向上と医療費の削減”なしには国の経済を立て直せないと指摘していた（参照：AI化で「製造」される問題、「発見」される問題。）。

　上記のようなマクロ視点でも医療AIは重要だが、もう少しミクロな視点で医療現場を見ていくと、様々な場面での活躍が期待されている。

　2020年現在でも、医師不足は地域によって深刻な問題になりつつあるが、医療AIによって医師不足を補おうという動きがあるのだ。OECDの調査によると日本では、人口1000人に対して医師の数が2.4人だが、人口比における医師の数の減少は、診察待ち時間の増加のほか、医師の労働時間の長時間化や激務からくる誤診の増加など、様々な問題が生じることになると考えられている。そこで、AIによる遠隔診断や在宅医療支援などの導入が進められているという。

　昨今のディープラーニングによるAIは、画像認識に優れた力を発揮するが、こうした技術は医療診断の誤診を減らすものとしても期待されている。Googleが、2019年5月に医学雑誌『Nature Medicine』に掲載した論文によると、Googleの開発した肺がん診断AIは、人間の放射線科医よりも5%多くの悪性腫瘍を発見したそうだ（『ゲーム、創薬、医療 AIの「連勝」始まる』中田敦、日経コンピュータ2019年12月12日号、P28）。

　医療AIは診断だけでなく、予防医療にも力を発揮すると期待されている。医療系スタートアップ、株式会社miupは、健康管理、診断補助、予防を一体で行えるシステムの構築を新興国で展開しているが、同社の森田知宏氏は『映像情報メディカル』（2019年7月号）に寄せた原稿（P50～51）に「顧客の長期的な予後、つまり何年先まで健康でいられる可能性が高いか、10年後に心筋梗塞になるリスクがどのくらいか、といったものを予測するAIの精度を上げることを目標としている」と記述していた。

　医師不足の解消、誤診の減少、予防医療や疾患リスクの予測など、様々な面で医療AIは活用を期待されている。超高齢化社会を迎えた日本にとって、これらはすべて解決必須の課題ばかりであり、医療AIの促進が日本で求められるのは必然だ。『AI崩壊』はその必然性に着目しているのだ。

■医療情報という究極の個人情報を守れるか
　ディープラーニング（深層学習）によるAIの発展には「教師データ」の充実が欠かせない。少し前に某大学の元特任准教授が差別発言で炎上した事件を受けて、「AIの過学習によるものだった」と釈明・謝罪していたが、AIにどんなデータを学習させるかによって、はじき出される結論は大きく異なり、AIの精度向上には学習データの充実が不可欠である。

　医療AIの開発においてもこの学習データをどう調達するかが課題となっているようだ。前述したmiupの論文でも、今後の医療AIの課題として、「日本では、公的な健康保険が発達しているため、膨大な健康関連情報が公的なシステム内で管理されている。このデータは医療AIにおいて重要な情報源である。しかし、情報へのアクセスが非常に困難である。したがって、せっかくの膨大な公的保険のデータを医療AIで利活用するためには、アクセスへの障壁をクリアしなければならない」と指摘していた。

　しかし、医療情報は究極の個人情報だ。

　つい先日、アメリカで10億件以上の患者の画像データが流出したというニュースがあったばかりだが、これによって市民が保険詐欺にあう可能性が高まるリスクが指摘されている（参照：10億件を超える患者の画像が米国の医療機関からオンラインに流出）。

　データを連結、アクセスしやすくすれば、制度の高い学習データが得られるが、当然こうした情報流出の危険性も高まる。上記の件では適切なセキュリティ処置を施していなかったことが原因とされているが、サイバー犯罪の技術進化も日進月歩であるため、完璧に医療情報を守れる保障はどこにもないだろう。

　本作でも、個人情報に関する危険性を指摘するシーンがあるが、AI時代にはデータこそ宝の山である。医療AIの開発のみならず、警察の監視システムなど、様々な“業者”が個人データを狙っているのだ。

■人はAIの診断をいかに信用するのか
　医療AIが発達し、「AIドクター」が個人の診断を行うことが当たり前になったとき、誤診が発生したら誰の責任になるのかという倫理的、法的な課題も存在する。

　今の所は、最終的な判断は医師が行うものとなっているが、AIの精度が向上し、人間以上の判断力を有しているとみなされるようになったとき、医師はAIの判断や予測をどのように評価すればよいのかという課題に直面するだろう。

　そして、その判断をどのように患者に説明すれば良いのかも非常に難しい問題だ。すでにがん検診ではAIの方が人間による診断よりも精度が高いケースがあることは前述したが、人間の医師とAIとで異なる診断が出た場合、患者はどちらを信用すればいいのだろうか。そして、AIの判断の根拠を医師側は示すことができるのだろうか。

　『ターミネーター：ニューフェイト』の記事（参照：『ターミネーター：ニュー・フェイト』を軸にAIの未来を考える　人工知能は脅威か、それとも恩恵か）でも紹介したが、現状のディープラーニングは、その結果が最適であると判断したプロセスを説明できない。そのため“説明できる”AIの開発も進められているが、命に関わる医療現場では、この課題がことさらに重要だ。

　そして、これは過学習の問題にも通じるが、AIに学習させたデータが適切でなかった場合に間違った診断結果が出てくることも考えられる。本作でもAI「のぞみ」が戦場などの悲惨な画像を大量に学習してしまい、それによって命の選別を開始する様子が描かれるのだが、一度学習して蓄積したデータモデルを別のモデルに作り変えるのは、大変な作業だそうだ。

　「例えば前のモデルでデータを蓄積するのに10年かかったとしたら、新しいモデルを作るためのデータの収集にまた10年を要するかもしれません。誤診に気づくまでの間、さらには新しいデータを貯めてモデルが改良するまでの間、誤診が続く可能性があります」（参照：AI化で「製造」される問題、「発見」される問題。）。

　つまり、命の選別に関しても、どんなデータを学習させるかによって、助かる命が変わってくるということになる。どこでどんなデータをAIが読み込んでいるのか、一般の人間には見難いのだが、そういうものに命を握られている世界なのだ。

　本作のように医療AIが全面的に普及した時代、我々の命を握っているのは“データ”という目に見えないものであるということになる。目に見えないものに命を握られている感覚は、ウイルスなどに対する恐怖に近い状態なのではないだろうか。日本社会は、医療AIに頼らざるを得ない事情がたくさんある。ここに着目した入江監督の選球眼は素晴らしい。『AI崩壊』はフィクションであっても、決して非現実的な物語ではないのだ。（文＝杉本穂高）