そんななかメイン大学の研究者は、AIによる予測をユーザーが理解できるようなかたちにしようと取り組んでいるようだ。研究者の開発する機械学習アーキテクチャ「ProtoPNet(Prototypical Part Network)」は、画像とデータから予測を導き出すと同時に、その理由を説明することができる。
鳥の画像認識で予測の理由を説明してくれる研究者は、説明可能なAIを示すために、まずは画像分類のベンチマークとして一般的な鳥の画像認識をテーマとして選んだ。ProtoPNetは、画像中の鳥の種類を予測し、その理由を説明する。