[新製品・サービス]
Salesforceから任意のLLMに接続可能な汎用コネクタ「Salesforce LLM Open Connector」
2024年10月22日(火)日川 佳三(IT Leaders編集部)
セールスフォース・ジャパンは2024年10月22日、大規模言語モデル(LLM)接続コネクタ「Salesforce LLM Open Connector」を同年10月24日から提供すると発表した。目的に応じた任意のLLMにSalesforceから接続可能である。
セールスフォース・ジャパンの「Salesforce LLM Open Connector」は、目的に応じた任意の大規模言語モデル(LLM)にSalesforceから接続可能なコネクタである。
従来、SalesforceでLLMを使う場合、標準サポートされているLLM(Anthropic、Azure OpenAI、OpenAI)を利用するか、もしくはベンダー各社が運用するLLM(Amazon Bedrock、Anthropic Claude、Azure OpenAI、Google Vertex AI Gemini)のBYOLLM(ユーザーが契約するLLMの持ち込み)のいずれかの方法に限られていた。
「ベンダー各社からは日々新しいLLMが提供されている。特に国内においては日本企業が提供するLLMを利用するニーズが多い」(セールスフォース)ことから、任意のLLMと接続可能なLLM Open Connectorの提供に至ったという。業界特化型のLLMなど、接続可能なモデルの選択肢が広げるとしている。
設定手順は、最初に「モデルビルダー」上で、LLMに接続するための情報として接続エンドポイントや認証キーを設定。次に、プロンプトテンプレートを設計するGUIツール「プロンプトビルダー」で設定済みのLLMを選択すると、プロンプトに対するレスポンスを生成する際に、当該LLMを利用するようになる。
LLM Open Connectorの発表に合わせ、接続先LLMを提供する国内のパートナーベンダーとして、NTTコミュニケーションズ(提供LLM:tsuzumi)とNEC(同:cotomi)がアナウンスされている。