連続最適化アルゴリズム 電子書籍版
3630円(税込)
作品内容
※この商品はタブレットなど大きいディスプレイを備えた端末で読むことに適しています。また、文字だけを拡大することや、文字列のハイライト、検索、辞書の参照、引用などの機能が使用できません。※この電子書籍は紙版書籍のページデザインで制作した固定レイアウトです。連続最適化アルゴリズムの数理を、詳しく丁寧に解説!連続最適化アルゴリズムとは、連続変数の関数についての数理最適化の問題で、適切な近似解を得るための計算手法のことです。古典的な数理計画の問題に限らず、近年ますます応用の広がりを見せている機械学習でも、その各種アルゴリズムにおいて数理最適化のさまざまな計算手法が駆使されています。本書では、特に、二つの連続最適化に焦点を当て、詳しく丁寧に解説しました。一つ目は、微分不可能な凸関数の最適化、つまり、非平滑凸最適化です。ネットワーク資源割当や信号処理に現れる連続最適化は、非平滑凸最適化として表現ができます。二つ目は、微分可能ではあるが凸ではない関数の最適化、つまり、平滑非凸最適化です。深層学習に現れる連続最適化は、平滑非凸最適化として表現ができます。また、この二つの最適化のための連続最適化アルゴリズムの性能を決定するステップサイズと呼ばれるパラメータの設定に着目し、その設定に関する理論と応用も詳解します。連続最適化問題の最適解へ進む方向(探索方向)が決まっているとき、その方向へ進む度合いを表すのがステップサイズです。予備知識として、大学教養レベルの線形代数と微分積分のひととおりの知識を想定していますが、第2章で本書の通読に必要な知識をまとめ、読者の利便性を高めています。また、各種アルゴリズムの数学的背景となる定理は、本文中もしくは演習問題としてすべて載せています。さらに、アルゴリズムの実装に資するよう、Pythonのサンプルコードを用意し、ダウンロードできるようにしました。第1章 はじめに1.1 連続最適化問題1.2 連続最適化アルゴリズム1.3 資源割当や機械学習に基づいたステップサイズ第2章 数学的準備2.1 ユークリッド空間の諸性質 1 ユークリッド空間 2 行列全体からなる集合 3 点列の収束性2.2 微分可能性と平滑性2.3 凸性2.4 射影2.5 非拡大写像演習問題第3章 連続最適化と関連する問題3.1 連続最適化問題と最適解3.2 制約なし平滑最適化問題3.3 制約なし非平滑最適化問題3.4 制約付き非平滑最適化問題3.5 制約付き平滑最適化問題と変分不等式3.6 不動点問題演習問題第4章 反復法4.1 反復法の基本的概念4.2 勾配法と降下方向4.3 ステップサイズ 1 定数ステップサイズ 2 減少ステップサイズ 3 直線探索ステップサイズ 4 その他のステップサイズ4.4 劣勾配法4.5 近接点法4.6 収束性と収束率演習問題第5章 平滑非凸最適化のための反復法5.1 最急降下法(Lipschitz連続勾配)5.2 最急降下法(非Lipschitz連続勾配)5.3 Newton法5.4 準Newton法5.5 共役勾配法5.6 数値例演習問題第6章 非平滑凸最適化のための反復法6.1 射影劣勾配法6.2 射影近接点法6.3 近接勾配法6.4 FISTA(高速近接勾配法)6.5 資源割当問題演習問題第7章 不動点近似法7.1 Krasnosel’skii-Mann不動点近似法7.2 Halpern不動点近似法7.3 POCS7.4 不動点近似法の適用例 1 制約付き平滑凸最適化問題 2 凸実行可能問題 3 一般化凸実行可能集合7.5 資源割当問題演習問題第8章 平滑非凸最適化のための深層学習最適化法8.1 損失最小化問題8.2 確率的勾配降下法(Lipschitz連続勾配)8.3 確率的勾配降下法(非Lipschitz連続勾配)8.4 モーメンタム法8.5 適応手法(非Lipschitz連続勾配)8.6 ミニバッチサイズの設定8.7 ミニバッチサイズの推定演習問題付録A 定理の証明と補足付録B 演習問題解答例参考文献索引
作品情報
作者の関連作品作者の作品一覧
この作品が好きな方はこちらもおすすめ