富士通研究所と北海道大学は2021年2月4日、AIが判断した結果の判断要因を示す「説明可能なAI」の技術をさらに高め、望む結果を得るための手順を提示できる「反実仮想説明AI技術」を開発したと発表した。例えば、健康のリスクを低くするために筋肉量を1kg、体重を7kg足す必要がある場合、筋肉量を1kg足せば体重は6kg増えるという因果関係の推定から、筋肉量1kgを足した後で体重1kgを足すという手順によって、少ない労力で望む結果を得られる。
AI分野では、データから自動的に判断するだけでなく、個々の判断理由を示してくれる「説明可能なAI」や、望ましくない判断結果に対して改善するための項目を示してくれるAI技術が注目されている。しかし、これらの技術は、個々の項目に関して、これをしておけば良い結果が得られたという仮定の改善項目は示してくれるが、判断結果を改善していくための手順などは提示してくれなかった。
例えば、健康状態を判断するAIが、不健康と判断するケースがある。ここで、これまでの「説明可能なAI」では、身長や体重、血圧などの健康診断項目のデータから、不健康と判断した理由を説明する。しかし、判断の根拠を示すだけでは不十分であり、「健康になるためには何をどういう手順で実行すればよいのか」について、最善策を提示してほしいというニーズがあるという。
これに対して、富士通研究所と北海道大学が開発した「反実仮想説明AI技術」を適用すると、望む結果を得るための手順を示してもらえるという（図1）。新技術は、過去のデータから、診断項目間の相互作用を特定し、実現の可能性や実施の難易度を考慮した上で、具体的な改善手順を示す、としている。
図1：AIの活用方法と説明機能。判断や根拠の提示だけでなく、改善策の手順の提示までできるようにした（出典：富士通研究所、北海道大学）拡大画像表示
筋肉量と体重を増やす手順として、まずは筋肉量を増やす
図2は、健康診断で望む結果にするために変更する入力属性と、その順序である。このケースでは、健康上のリスクを低くするためには、筋肉量をプラス1kg、体重をプラス7kg変更しなければならない、とする。
図2：健康診断で望む結果にするために変更する入力属性と、その順序（出典：富士通研究所、北海道大学） 新技術では、筋肉量と体重の間の相互作用を事前に分析することによって、「筋肉量を1kgプラスすれば体重は6kgプラスされる」という因果関係を推定する（図3）。この場合、体重の変化量として必要なプラス7kgのうち、筋肉量の変更の後に必要となる変化量はプラス1kgとなる。
図3：筋肉量と体重という2つの属性間の相互作用と変化量（出典：富士通研究所、北海道大学） つまり、実際に変化させなければならない変更量は、「筋肉量プラス1kg」と、その後の「体重プラス1kg」であると言える。先に体重を変化させるよりも少ない労力で、望む結果（筋肉量をプラス1kg、体重をプラス7kg）を得ることができる。
「ローンの与信審査」では労力を半分以下に
富士通研究所と北海道大学は、「糖尿病」、「ローンの与信審査」、「ワインの評価」の3種類のデータセットで新技術を検証した。マシンラーニング（機械学習）の主要なアルゴリズム（ロジスティック回帰、ランダムフォレスト、多層パーセプトロン）と開発技術を組み合わせた。AIの判断結果が望ましくない場合に、望む結果を得るためのアクションを提示できるかを検証した。
検証の結果、すべてのデータセットおよびアルゴリズムの組み合わせにおいて、少ない労力で推定結果を望む結果に変更するための適切なアクションと実施順序を取得できたことを確認した。特に「ローンの与信審査」のケースでは、半分以下の労力を実現した。
