『確率的言語モデル』北研二 を読む

言語と計算 (4) 確率的言語モデル 東京大学出版会を読む。

1.序章
 条件付き確率、確率分布、ジェンセンの不等式(凸関数と期待値に関する不等式)、情報理論エントロピー)、言語理論(言語・オートマトン・文法)
 言語理論について

2.言語モデルの基礎
3.Nグラムモデル
4.隠れマルコフモデル
5.確率文法
6.最大エントロピーモデル
7.言語モデルの応用