損害保険ジャパンは2023年10月25日、業務システムに生成AIを活用することによって生じるリスクの評価テストを実施したと発表した。評価を踏まえて、AIの信頼性確保に向けたガイドラインを策定し、リスクマネジメント体制を構築する。リスク評価にあたって、AI利用リスクを分析する製品を提供する米ロバストインテリジェンス(Robust Intelligence)と提携している。
損害保険ジャパンは、業務システムに生成AIを活用することで生じるリスクの評価テストを2023年8月に開始した。評価を踏まえて、AIの信頼性確保に向けたガイドラインを策定し、リスクマネジメント体制を構築する。
AIが持つリスクを第三者の視点を入れて継続的に評価する方法を構築するとしている。リスク評価にあたって、AI利用リスクを分析する製品を提供する米ロバストインテリジェンス(Robust Intelligence)と提携している。
損保ジャパンは現在、大規模言語モデル(LLM)を組み込んだ社内照会システムを開発中である。同システムが採用している生成AIモデルのリスクを評価したところ、生成AIの出力結果の正確性を高めるために必要な対策や、社内照会システムの適切な利用ルールを策定する際の観点などを検討・整理できたという。
同社は、リスク評価の結果を社内照会システムの改善以外に、SOMPOホールディングスグループ全社への展開を見据えたAIガイドラインの策定にも活用する(図1)。
「実際に使っているAIモデルの評価結果をAIガイドラインに反映させ、より実効性のあるガイドラインの策定・改定につなげられる。テスト・評価・評価項目の反映・テストのサイクルを回すことで、アジャイルなAIガバナンスを構築できる」(同社)