科目ナンバー

SG-AN5-7C03

履修条件・関連科目等

微積分、線形代数、および、線形計画に関する基礎的な知識があることを前提とする。
データサイエンス基礎数学第一および第二の履修を前提とする。

授業で使用する言語

日本語／英語

授業で使用する言語（その他の言語）

授業の概要

本科目では最適化の類型やモデリングについて概観した後、凸解析を下敷きとし、最適性条件や双対性などの最適化問題の基本的な概念およびアルゴリズムについて講義する。特に、データサイエンスにおける応用を念頭に説明する。

科目目的

最適化モデルの基礎的な概念やアルゴリズムの理解を目的とする。

到達目標

最適性条件や基本アルゴリズム（求解戦略）など最適化の基礎的な概念の理解をベースに、最適化ソフトウェアができること＆できないことを理解できるようになることが目標となる。

授業計画と内容

第1週 数理最適化概論（データ解析における応用，最適化問題の類型）
第2週 凸最適化問題
第3週 無制約凸2次最適化と最小二乗回帰
第4週 無制約凸最小化と最尤法
第5週 最急降下法，ニュートン法，準ニュートン法
第6週 確率的勾配法
第7週 等式制約付き2次最適化と主成分分析
第8週 線形計画と分位点回帰とスパース回帰
第9週 微分不可能最適化と劣勾配法
第10週 不等式制約付き凸2次最適化とLASSO
第11週 近接勾配法
第12週 ラグランジュ双対性
第13週 不等式制約付き凸2次最適化とSVM
第14週 拡張ラグランジュ法とADMM

授業時間外の学修の内容

授業終了後の課題提出

授業時間外の学修の内容（その他の内容等）

宿題を課すので、それらに誠実に取り組むこと。また、授業前に前回の内容を復習しておくこと。

授業時間外の学修に必要な時間数／週

・毎週１回の授業が半期（前期または後期）または通年で完結するもの。１週間あたり４時間の学修を基本とします。
・毎週２回の授業が半期（前期または後期）で完結するもの。１週間あたり８時間の学修を基本とします。

成績評価の方法・基準

成績評価の方法・基準（備考）

課題や試験のフィードバック方法

授業時間内で講評・解説の時間を設ける

課題や試験のフィードバック方法（その他の内容等）

人数が少ない場合は提出された課題にコメントを付して返却する

アクティブ・ラーニングの実施内容

実施しない

アクティブ・ラーニングの実施内容（その他の内容等）

授業におけるICTの活用方法

実施しない

授業におけるICTの活用方法（その他の内容等）

実務経験のある教員による授業

いいえ

【実務経験有の場合】実務経験の内容

【実務経験有の場合】実務経験に関連する授業内容

テキスト・参考文献等

授業で用いるスライドは，予めmanabaからダウンロードしてもらう
【参考書】
飯塚．連続最適化アルゴリズム．オーム社, 2023.
金森，鈴木，竹内，佐藤．機械学習のための連続最適化．講談社, 2016.
久野、繁野、後藤．数理最適化．オーム社, 2012.
山下．非線形計画法．朝倉書店, 2015.
矢部．最適化とその応用（第2版）．数理工学社, 2024.
Beck. First-order Methods in Optimizayion, MOS-SIAM, 2017.
Boyd, Vandenberghe. Convex Optimization, Cambridge Press, 2004.※
（※著者のHPよりダウンロード可能。「参考URL」欄参照。）
Lan. First-order and Stochastic Optimization Methods for Machine Learning, Springer, 2020.

その他特記事項

参考URL

http://www.stanford.edu/~boyd/cvxbook/bv_cvxbook.pdf