開発ツール/プラットフォーム 開発ツール/プラットフォーム記事一覧へ

[新製品・サービス]

PFN、ディープラーニングのパラメータを自動調整するライブラリ新版「Optuna v3.0」

探索したいパラメータの制約を明示的に指定可能に

2022年8月31日(水)日川 佳三(IT Leaders編集部)

Preferred Networks(PFN)は2022年8月29日、ディープラーニング(深層学習)用ライブラリ「Optuna(オプチュナ)」のメジャーアップデート版「Optuna v3.0」を公開した。ディープラーニングのパラメータを自動で調整するライブラリである。新版では、Optunaが標準的に利用する最適化アルゴリズムのTPEが制約付き最適化に対応した。探索したいパラメータの条件(制約)を明示的に指定することで、より効率的にハイパーパラメータを探索できるようになった。

 Preferred Networks(PFN)の「Optuna」は、ディープラーニング(深層学習)の各種のパラメータを自動で調整するライブラリである(関連記事ディープラーニングのパラメータを自動調整するライブラリ「Optuna v2.0」、パラメータの重要度を定量評価─PFN)。

 学習率、バッチサイズ、学習イテレーション数、ニューラルネットワークの層数、チャンネル数など、アルゴリズムの挙動を制御する各種のパラメータを自動で調整する。これらパラメータ値を試行錯誤し、良い性能が出るパラメータ値を自動で発見する。ディープラーニングのライブラリであるPyTorchやTensorFlowなど、各種のライブラリと一緒に使える。

 今回の新版では、新機能の追加と改良、バグの修正を行った。機能面では、Optunaが標準的に利用する最適化アルゴリズムであるTPEが、制約付き最適化に対応した。探索したいパラメータの条件(制約)を明示的に指定することで、より効率的にハイパーパラメータの探索ができるとしている。UIも改善した。ハイパーパラメータの探索範囲を指定するためのインタフェースであるSuggest APIに改善を加え、より直感的にOptunaを利用できるようにした。

 大規模な性能検証も実施した。PFNが所有する大規模計算クラスタを利用して、7000CPU並列で3日間の時間をかけ、170種類以上のベンチマーク関数に対し、Optunaのアルゴリズムの性能検証を行った。ユーザーは、個別のニーズに合わせてアルゴリズムを選択しやすくなったとしている。

関連キーワード

Preferred Networks / Optuna / ディープラーニング / ライブラリ

関連記事

トピックス

[Sponsored]

PFN、ディープラーニングのパラメータを自動調整するライブラリ新版「Optuna v3.0」Preferred Networks(PFN)は2022年8月29日、ディープラーニング(深層学習)用ライブラリ「Optuna(オプチュナ)」のメジャーアップデート版「Optuna v3.0」を公開した。ディープラーニングのパラメータを自動で調整するライブラリである。新版では、Optunaが標準的に利用する最適化アルゴリズムのTPEが制約付き最適化に対応した。探索したいパラメータの条件(制約)を明示的に指定することで、より効率的にハイパーパラメータを探索できるようになった。

PAGE TOP