【随時更新】これまでに学んだことリスト
概要
主に大学生活で学んできたことを簡単なメモ形式で記録していきます。
書籍が主です。
カテゴリの並びは一応
(上)アプリケーション <-> 基礎(下)
となっています。
各カテゴリの項目の順番は適当です。
適宜更新。
追記(2021.08.27)
こちらのサイトに移行中です。新しいのはこちらに書きます。
過去のものを移行するのはなかなか大変そう...。
機械学習・最適化関連
『Python機械学習プログラミング 達人データサイエンティストによる理論と実践 』
機械学習関連で最初に読んだ本。線形回帰から決定木、SVM、クラスタリング、K-meansなどの機械学習の基本的手法を学んだ。Pythonによる実装も。NNは最後の方に少し載っているだけだったが、CNNとRNNの基礎を掴んだ。
読んだのは第2版で、第3版は強化学習なんかも追加されているらしい。
ちょうどKaggleに手を出した頃だったが、この本を通して、ライブラリぽちぽちよりもまずは数学的なところを固めたほうが良いと感じた。
『パターン認識と機械学習』
しっかり数学的に知りたいなとなったのでPRMLに手を出した。友人とゼミ形式で読んだ。上巻を読み切るのに4ヶ月くらいかけた覚えがある。
内容は、機械学習というかほとんどベイズ推定の本という感じだった。正直後述するMLPシリーズの緑本の方がわかりやすかった。
『機械学習スタートアップシリーズ ベイズ推論による機械学習入門』
PRMLの上巻と重複は大きいがこちらのほうがわかりやすかったのでメインで勉強した。ベイズ推定で出てくる計算や議論にはこれで慣れ親しむことができた。これ以降数式ベースの機械学習の議論に触れるのは論文を読むときくらいだが、ゴリゴリの理論解析でなければなんとか分かるようになった。CV系の論文は読みやすくなったと感じた。
最後の章に出てくるNMFやテンソル分解などの話はもっと詳しく勉強したい。
【ゼロから作るDeep Learning】
機械学習の勉強を初めて割とすぐに読んだ(B1冬かB2春かそのあたりの時期)。
全結合層、CNNをfrom scratchで実装した。特に逆伝播の解説はとてもわかりやすかった。理論はPRMLのNNの章でやっていたが、具体的な実装はこの本で掴めた。
『Deep Learning with PyTorch』
公式がPDFを無料配布していたため、読んだ。PyTorchのTensorの内部表現のことなど、PyTorchの仕様について分かっていないことがあったため、前半も役立った。
後半では医用画像処理のプロジェクトとして一連の流れを行った。特にモジュールの分け方や実験をしやすいスクリプトの書き方など、そういった面で役立った。モデル自体は既知だった(U-netなど)。
英語だったがとにかく良い本で、無料配布は本当にありがたい。
『作りながら学ぶ! PyTorchによる発展ディープラーニング』
Deepの主要なタスクとその実装の概要を知っておきたかったため読んだ。Object Detection, Segmentation, Pose Estimation, Translation, Video Analysis, GANなど、一通り網羅されていた。モデルの解説自体は詳しくなかったので、適宜論文や記事で補った。この手の本はすぐに廃れてしまうと思うので結局論文や著者実装を見たほうが早いが、入門者にとっては大変貴重なリソースだった。
ちなみにPyTorch初見でこの本を読んでしまったので実装の基礎部分がお気持ち程度になっていたため、先のDeep Learning With PyTorchを読んだ後にこの本を読んだ。
『これなら分かる最適化数学』
数理最適化、特に連続最適化についてOverviewを得たかったので読んだ。タイトル通りわかりやすく、それでいて深度も適切だったため非常にためになった。B1の解析学でやるようなラグランジュの未定乗数法から始まり、ニュートン法、最小二乗法、EMアルゴリズム、線形計画法、双対、そして最後におまけ程度のDP(動的計画法)が載っていた。どの手法も「はぇ〜頭良い」となるので楽しい。かといって自分で最適化手法それ自体の研究をする道に進むのはどうかなぁという感想を抱いた覚えがある。この辺は知っておけばおくほどチャンスが増えそうなので積極的に知識をつけたい。
名著『Convex Optimization』も読んでみようかなという気持ちになった(現在進行中)。
ロボット・コンピュータビジョン関連
WEB系
プログラミング言語
開発
低レイヤ・CS基礎
工学
数学
物理
電磁気学I――電場と磁場 (物理入門コース 新装版) | 長岡 洋介 |本 | 通販 | Amazon
