ソフトバンク（本社：東京都港区）は、コールセンターの通話内容を要約する用途で、大規模言語モデル（LLM）をコールセンター向けにファインチューニングを行い、2024年10月から業務に適用している。アドバンスト・メディアのファインチューニング作業による業務に最適化したLLMを整備し、業務経験が浅い新人オペレーターによる要約時間を約30％削減できる見込みという。アドバンスト・メディアが同年12月17日に発表した。
ソフトバンクは、コールセンターの通話内容を要約する用途で、大規模言語モデル（LLM）をコールセンター向けにファインチューニングを行い、2024年10月から業務に適用している。アドバンスト・メディアのファインチューニング作業による業務に最適化したLLMを整備し、業務経験が浅い新人オペレーターによる要約時間を約30％削減できる見込みという。
画面1：「AOI LLM for AmiVoice Communication Suite」の利用画面例（出典：アドバンスト・メディア）拡大画像表示
LLMには、アドバンスト・メディアのコンタクトセンター向け生成AIソフトウェア「AOI LLM for AmiVoice Communication Suite」を利用している（図1、関連記事：アドバンスト・メディア、コンタクトセンター業務に特化した生成AIソフトウェア「AOI LLM」を発表）。
AOI LLMは、コンタクトセンター向け音声認識ソフトウェア「AmiVoice Communication Suite」のオプション製品である。LLMを用いて通話内容の要約やQ&Aの抜粋、VoC（顧客の声）の抽出などが可能。RAG（検索拡張生成）構成に対応するほか、目的に合わせて、LLMにファインチューニングを施してユーザーの業務に最適化したLLMを構築できる。
ソフトバンクのコールセンター環境では、米MetaのLlamaをベースに東京科学大学（旧称 東京工業大学）が日本語能力を強化したLLM「Swallow-70b」に対し、アドバンスト・メディアがソフトバンクの学習データを利用してファインチューニングを施している。
