[新製品・サービス]
PFN、ディープラーニングのパラメータを自動調整するライブラリ新版「Optuna v3.0」
2022年8月31日(水)日川 佳三(IT Leaders編集部)
Preferred Networks(PFN)は2022年8月29日、ディープラーニング(深層学習)用ライブラリ「Optuna(オプチュナ)」のメジャーアップデート版「Optuna v3.0」を公開した。ディープラーニングのパラメータを自動で調整するライブラリである。新版では、Optunaが標準的に利用する最適化アルゴリズムのTPEが制約付き最適化に対応した。探索したいパラメータの条件(制約)を明示的に指定することで、より効率的にハイパーパラメータを探索できるようになった。
Preferred Networks(PFN)の「Optuna」は、ディープラーニング(深層学習)の各種のパラメータを自動で調整するライブラリである(関連記事:ディープラーニングのパラメータを自動調整するライブラリ「Optuna v2.0」、パラメータの重要度を定量評価─PFN)。
学習率、バッチサイズ、学習イテレーション数、ニューラルネットワークの層数、チャンネル数など、アルゴリズムの挙動を制御する各種のパラメータを自動で調整する。これらパラメータ値を試行錯誤し、良い性能が出るパラメータ値を自動で発見する。ディープラーニングのライブラリであるPyTorchやTensorFlowなど、各種のライブラリと一緒に使える。
今回の新版では、新機能の追加と改良、バグの修正を行った。機能面では、Optunaが標準的に利用する最適化アルゴリズムであるTPEが、制約付き最適化に対応した。探索したいパラメータの条件(制約)を明示的に指定することで、より効率的にハイパーパラメータの探索ができるとしている。UIも改善した。ハイパーパラメータの探索範囲を指定するためのインタフェースであるSuggest APIに改善を加え、より直感的にOptunaを利用できるようにした。
大規模な性能検証も実施した。PFNが所有する大規模計算クラスタを利用して、7000CPU並列で3日間の時間をかけ、170種類以上のベンチマーク関数に対し、Optunaのアルゴリズムの性能検証を行った。ユーザーは、個別のニーズに合わせてアルゴリズムを選択しやすくなったとしている。