next up previous contents
Next: ñ��˴�Ť�������ǥ� Up: ���� Previous: ����   目次

�����ǥ�

�����ǥ�ϡ�ñ�����������Ψ����Ϳ�����ǥ�Ǥ��롥���������Ǥϡ�������ǥ���Ѥ����������줿�������䤫�顤�Ѹ�Ȥ��Ƽ�����ʸ�����Ф��뤿����Ѥ��롥���������Ǥϰ���Ū�ˡ�$N$-gram ��ǥ���Ѥ��롥

$N$-gram��ǥ�Ȥ�``ñ���� $P(W_1^n) = w_1^n = w_1 , w_2 , w_3 , ... w_n $ �� $i$ ���ܤ�ñ�� $w_i$ ��������Ψ $P(w_i)$ ��ľ����($N-1$)��ñ���� $w_{i-(N-1)} , w_{i-(N-2)} , w_{i-(N-3)} , ... w_{i-1} $�˰�¸����''�Ȥ�������˴�Ť���ǥ�Ǥ��롥 �׻�����ʲ��˼�����


$\displaystyle P(W^{n}_{1})$ $\textstyle =$ $\displaystyle P(w_1)��P(w_2\vert w_1)��P(w_3\vert w_1^2)...P(w_n\vert w_1^{n-1})$ (1)
  $\textstyle \approx$ $\displaystyle P(w_1)��P(w_2\vert w_1)��P(w_3\vert w_1^2)...P(w_n\vert w_{n-(N-1)}^{n-1})$ (2)
  $\textstyle =$ $\displaystyle \prod^{n}_{i=1}P(w_{i}\vert w_{i-(N-1)}^{i-1})$ (3)

�ޤ��� $P(w_{i}\vert w_{n-(N-1)}^{i-1})$ �ϰʲ��μ��Ƿ׻�����롥 ������ $C(w_1^i)$ ��ñ���� $w_1^i$ ���и��������٤�ɽ����


$\displaystyle P(w_{i}\vert w_{i-(N-1)}^{i-1}) = \frac{C(w_{i-(N-1)}^i)}{C(w_{i-(N-1)}^{i-1})}$     (4)



2017-04-20