2011-12-13 『確率的言語モデル』北研二 を読む 自然言語処理 言語と計算 (4) 確率的言語モデル 東京大学出版会を読む。1.序章 条件付き確率、確率分布、ジェンセンの不等式(凸関数と期待値に関する不等式)、情報理論(エントロピー)、言語理論(言語・オートマトン・文法) 言語理論について2.言語モデルの基礎 3.Nグラムモデル 4.隠れマルコフモデル 5.確率文法 6.最大エントロピーモデル 7.言語モデルの応用