最適輸送の理論とアルゴリズム

★まずは、この一冊から始めよう！★

最適輸送は、ふたつの確率分布を比較するためのツールです。深層学習の勃興とGPU計算の普及により、機械学習分野でも最適輸送が広く用いられるようになりました。
本書では、線形代数・確率・最適化についての初歩的な知識を前提として、線形計画、エントロピー正則化、シンクホーンアルゴリズム、敵対的ネットワーク、スライス法などのさまざまな解法アプローチをていねいに解説します。


【主な内容】
第1章　確率分布を比較するツールとしての最適輸送
第2章　最適化問題としての定式化
第3章　エントロピー正則化とシンクホーンアルゴリズム
第4章　敵対的ネットワーク
第5章　スライス法
第6章　他のダイバージェンスとの比較
第7章　不均衡最適輸送
第8章　ワッサースタイン重心
第9章　グロモフ・ワッサースタイン距離
第10章　おわりに

Ⓒ佐藤竜馬

目次

第1章　確率分布を比較するツールとしての最適輸送
1.1　確率分布の比較
1.2　三種類の問題設定
1.3　最適輸送の直観的な理解
1.4　KLダイバージェンスとの比較を通した最適輸送の利点
1.5　記法・数学的な準備
1.6　本書の構成

第2章　最適化問題としての定式化
2.1　線形計画による定式化
2.2　応用例
2.3　最適輸送の双対問題
2.4　最適輸送問題の最適解の疎性
2.5　最小費用流問題と最適輸送問題の関係

第3章　エントロピー正則化とシンクホーンアルゴリズム
3.1　エントロピー正則化つき最適輸送問題
3.2　対数領域シンクホーンアルゴリズム
3.3　シンクホーンアルゴリズム
3.4　シンクホーンアルゴリズムにより得た近似解を主問題の解に変換する
3.5　シンクホーンアルゴリズムの大域収束性
3.6　微分可能最適輸送：最適値を最適化する
3.7　シンクホーンダイバージェンス
3.8　エントロピー正則化なし問題への利用

第4章　敵対的ネットワーク
4.1　敵対的ネットワークとは何か
4.2　コスト関数が距離の場合の最適輸送問題の双対問題
4.3　パラメータ化された関数を用いた解法
4.4　ワッサースタインGAN
4.5　敵対的ネットワークのその他の応用例

第5章　スライス法
5.1　一次元の最適輸送
5.2　一次元の最適輸送：一般の分布の場合
5.3　スライス法
5.4　一般化スライス法
5.5　最大化スライス法
5.6　応用例
5.7　木を用いたスライス法

第6章　他のダイバージェンスとの比較
6.1　ダイバージェンスとは
6.2　ファイ-ダイバージェンスと積分確率距離
6.3　確率分布の弱収束
6.4　サンプル複雑性

第7章　不均衡最適輸送
7.1　不均衡最適輸送の導入
7.2　不均衡最適輸送の定式化
7.3　一般化シンクホーンアルゴリズム

第8章　ワッサースタイン重心
8.1　固定サポートと自由サポートの定式化
8.2　線形計画を用いた固定サポートの問題の解法
8.3　劣勾配を用いた固定サポートの問題の解法
8.4　交互最適化による自由サポートの問題の解法
8.5　エントロピー正則化による高速化
8.6　応用例：図形モーフィング

第9章　グロモフ・ワッサースタイン距離
9.1　定式化
9.2　最適化
9.3　応用例：グリッドへの割り当て

第10章　おわりに
10.1　ソフトウェア
10.2　読書案内

書誌情報

紙版

• 発売日: 2023年01月16日
• ISBN: 9784065305140
• 判型: A5
• 価格: 定価：3,300円（本体3,000円）
• ページ数: 320ページ
• シリーズ: 機械学習プロフェッショナルシリーズ

電子版

• 発売日: 2023年03月31日
• JDCN: 06A0000000000593127H

著者紹介

著： 佐藤　竜馬（サトウ　リョウマ）

1996年生まれ．2021年京都大学大学院情報学研究科修士課程修了．現在，京都大学大学院情報学研究科博士後期課程在籍中．専門分野は最適輸送，グラフニューラルネットワーク，および情報検索・推薦システム．NeurIPSやICMLなどの国際会議に主著論文が採択．競技プログラミングでは国際情報オリンピック日本代表，ACM-ICPC世界大会出場，AtCoderレッドコーダーなどの戦績をもつ．PDF翻訳サービスReadableの開発など研究の効率化についても従事している．