富士通は2023年3月17日、画像識別AIを修正する技術を開発したと発表した。大学共同利用機関法人情報・システム研究機構国立情報学研究所（NII）と共同で開発した。識別対象の識別性能の低下を抑制しつつ、ユーザーの要求に沿ってAIを修正する。自動車画像のデータセットで有効性を確認したとしている。今後、映像監視や医療画像診断など信頼性を求める現場への適用に向けた実証実験を実施し、2024年度中の実用化を目指す。
富士通は、画像識別AIを修正する技術を開発した。国立情報学研究所（NII）と共同で開発した（図1）。識別対象の識別性能の低下を抑制しつつ、ユーザーの要求に沿ってAIを修正する。自動車画像のデータセットで有効性を確認済みという。す今後、映像監視や医療画像診断など信頼性を求める現場への適用に向けた実証実験を実施し、2024年度中の実用化を目指す。
図1： AIの誤識別を安全に修正する技術の概要（出典：富士通）拡大画像表示
今回開発した技術は、正しく識別されるデータをAIに入力したときの反応の大きさから、誤った識別だけに影響するパラメータ群の箇所を特定する。これをもとに、パラメータ値を更新する。この際、他の対象の識別性能に影響を及ぼすことなく理想的な識別結果に近いパラメータ値を探索する。これにより、性能の低下を抑制する。
2022年9月には、1万枚以上の自動車画像のデータセットで同技術の有効性を検証した。これらのデータセットを用いて構築したAIにおける特定の誤りに対し、性能低下を引き起こさずに修正できることを確認した。また、AIにとって未知のデータに対しても同様に有効性を確認した。同技術の活用により、ユーザーの要求に沿ったAIの更新が可能になったとしている。
2024年度中に、同技術の実用化を目指す。AI品質技術の1つとして今後、社会インフラの映像監視や医療画像診断など信頼性を求める各種現場への適用に向けた実証実験を実施する。
「識別時のAI挙動を変えたい場合、各パラメータの意味を解釈した上で変更することは困難である。このため、一般的には、大量データによる再学習が行われている。ところが、再学習では、これまで識別できていた画像に対する識別性能が低下する可能性がある」（富士通）
