[新製品・サービス]

2021年8月25日(水)IT Leaders編集部

リスト

　ベリサーブの「AIプロダクトリスクアセスメント」は、AIを組み込んだ製品（AIプロダクト）を開発する企業を対象に、AIプロダクトに対するリスクを分析するサービスである（図1）。品質の観点で当該AIプロダクトが対処すべきリスクを識別して評価したうえで、対応策をユーザーに提案する。

図1： ISO/IEC 25012:2008のデータ品質モデルをベースにしたチャートの例（出典：ベリサーブ）
拡大画像表示

　リスクの識別には、ベリサーブが安全性解析におけるサービスで得た「FTA/FMEA」（製品の信頼性解析手法）などの手法を利用する。AIに特化したデータ品質（ISO/IEC 25012）などの観点から識別する。

　リスクの評価には、AIQMで定義された「AISL/AIFL/AIPL」（安全性レベル/AI公平性レベル/AIパフォーマンスレベル）を用いる。対応策の内容には、開発側での対応、テスト側での対応、リスクの受容などが含まれる。

　リスクアセスメントの結果により製品テストを行う際は、対応策を具体的に検討してテスト戦略を策定する。AIQMにリスク対応策が記載されていない場合は、通常のプロダクトに対するテスト戦略のベストプラクティスや、AIの特色（「Testing for AIチェックリスト」を独自に作成し、運用する）を織り込んだうえでテスト戦略とする。

　ベリサーブはサービス導入で得られる効果として以下を挙げている。

AIプロダクト品質向上の基盤構築

同サービスは、リスクアセスメントが主であるため、単体ではAIプロダクトの品質が向上するわけではない。ただし、リスクアセスメントの結果を用いて開発やテストの活動を実施することで、AIプロダクトの品質向上を図れる

AIプロダクト品質の説明性の向上

AIプロダクトにおいては、説明可能性（Explainability）が重要な品質特性の1つと言われる。同サービスでは、AIそのものの説明可能性を向上するわけではないが、リスクアセスメントに基づく開発やテスト活動を実施することで、AIプロダクト全体の品質の説明可能性の向上を図れる

　サービス投入の背景として、「AI技術は進化途上であるとともに、ハードウェアや従来型のソフトウェア、サービスなどに比べ、その技術的特質により、品質の把握、評価、説明、管理など品質保証が非常に難しい」（QA4AIガイドラインより）状況を挙げている。「AIプロダクトに対しては、従来型のソフトウェア品質保証とは異なるアプローチでリスクに対処する必要がある」（ベリサーブ）

　同社によると、QA4AIガイドラインやAIQM（機械学習品質マネジメントガイドライン）といった、課題解決に役立つドキュメントがある一方で、これらのドキュメントは「開発現場への適用方法が分からない」「技術的に発展途上である」といった理由で、開発の現場で活用されにくく、今回のサービスの提供に至ったという。