情報理論から機械学習を説明した本。シャノンの定理など。
pdf版: Information Theory, Inference, and Learning Algorithms
「なぜ情報理論と機械学習を同時にやるのか?同じコインの裏表だからだ。」
– David MacKay
もくじ
- §1前半: 3ビット繰り返しコーディング(p1~p8)
- §1後半:(7,4)ハミングコーディング(p9~p15)
- §1Last:Shanonのコーディング定理
情報理論から機械学習を説明した本。シャノンの定理など。
pdf版: Information Theory, Inference, and Learning Algorithms
「なぜ情報理論と機械学習を同時にやるのか?同じコインの裏表だからだ。」
– David MacKay