XAIの場合、猫と判断した理由として、髭や耳に特徴があることを説明することができます。今後、ＡＩの導入が一段と進むかどうかはXAIがカギを握っているといえそうです

2018年10月24日(水)Ｎｅｗｓモーニングサテライト

岡三証券ＮＹ　𠮷田拡司さん

ＡＩのブラックボックスが問題となっています。例えば、猫の写真をＡＩに画像認識させ、それは猫であるという答えを導き出す場合、ＡＩは写真から得た膨大なデータを基に深層学習を行い、答えにたどり着きますが、ＡＩが何を根拠にそれを猫と認識したかはわかりません。企業幹部を対象にした調査ではＡＩが答えを導き出した経緯を説明できないため、規制やコンプライアンスの基準をクリアできないのではと懸念する声が多く聞かれます。

金融や医療など規制が多い業界です。先週13日、ＦＲＢのブレ―ナード理事がＡＩと新たな金融環境というテーマで講演を行いました。金融機関はクレジットカードの信用度評価について説明責任を負っていますが、ＡＩを使って信用度を評価する場合、その根拠を説明するのが難しいと指摘しています。明確な理由がわからないとどうやってその評価を改善すればいいのかもわかりません。

バンクオブアメリカなどの金融機関や多くの研究機関が今、根拠を説明できる人工知能、XAIの開発に取り組んでいます。XAIの場合、猫と判断した理由として、髭や耳に特徴があることを説明することができます。今後、ＡＩの導入が一段と進むかどうかはXAIがカギを握っているといえそうです。