Preferred Networks（PFN）は2024年8月28日、子会社のPreferred Elements（PFE）が開発した小規模言語モデル（SLM）「PLaMo Lite」を提供開始した。自動車やロボット、製造設備、PCなどのエッジデバイス向けに提供する。10億パラメータの小型モデルで、クラウドを必要とせずエッジデバイスやオンプレミス環境で高速に動作するとしている。
Preferred Networks（PFN）子会社のPreferred Elements（PFE）が開発した「PLaMo Lite（プラモ ライト）」は、自動車やロボット、製造設備、PCなどエッジデバイス向けの小規模言語モデル（SLM）である。10億パラメータの小型モデルで、クラウドを必要とせずエッジデバイスやオンプレミス環境で高速に動作するとしている。
PLaMo Liteは、1000億パラメータの大規模言語モデル（LLM）「PLaMo-100B」の成果を基に開発した。LLMと比べ、計算に必要なコストを減らしている。事前学習には、PLaMo-100Bで生成した日本語と英語のテキストデータを使い、PLaMo-100Bの事前学習データの2倍となる合計4兆トークンを学習させた。
日本語性能を評価する各種ベンチマークにおいて、同程度のパラメータ数のSLMと比べて高い日本語性能を示している。PFNは、Jaster 0-shotおよび4-shotsベンチマークの場合、LLMと比べても遜色がないことをアピールしている（図1）。
図1：PLaMo Liteの日本語性能評価（日本語質問応答・日英翻訳における他社SLMとの比較、およびJasterにおける他社LLMとの比較）（出典：Preferred Networks）拡大画像表示
「SLMの需要が高まっている。PC/エッジデバイスや、機密情報を扱うオンプレミス環境などにおいて、高速かつ高い日本語性能を発揮する言語モデルが求められている」（PFN）。同社はこれを受けて、2024年秋の提供を予定するLLMの新モデル「PLaMo 1.0 Prime」に先じてPLaMo Liteを提供する。
