"> "> 机器学习-条件随机场 | Yufei Luo's Blog

Yufei Luo's Blog

But I was so much older then, I am younger than that now.

Yufei Luo's Blog

机器学习-条件随机场

发表于 更新于 分类于 ， 阅读次数：
本文字数： 13k 阅读时长 ≈ 12 分钟

概述

条件随机场（Conditional Random Field，CRF）是给定一组输入随机变量条件下，另一组输出随机变量的条件概率分布模型，其特点是假设输出随机变量构成马尔科夫随机场。本文主要讨论线性链条件随机场，这一方法在标注问题中被广泛使用，例如自然语言处理中的词性标注等。

备注：马尔科夫随机场

马尔科夫随机场是随机场中的一个特例，它假设随机场中某一个位置的赋值仅仅与和它相邻位置的复制有关，而和与其不相邻位置的赋值无关。

线性链条件随机场

定义

设\(X\)和\(Y\)是随机变量，\(P(Y|X)\)是在给定\(X\)的条件下\(Y\)的概率分布。如果随机变量\(Y\)构成一个无向图\(G=(V,E)\)表示的马尔科夫随机场，即 \[ P(Y_v|X,Y_w,w\ne v)=P(Y_v|X,Y_w,w\sim v) \] 对于任意结点\(v\)成立，那么条件概率分布\(P(Y|X)\)为条件随机场。式中\(w\sim v\)表示在图\(G=(V,E)\)中与结点\(v\)有边连接的所有结点\(w\)，\(w\ne v\)表示结点\(v\)以外的所有结点。\(Y_v\)，\(Y_w\)为结点\(v\)，\(w\)对应的随机变量。

如果考虑线性链的情况，即\(G=(V=\{1,2,\dots,n\},E=\{(i,i+1)\}),i=1,2,\dots,n-1\)。在此情况下，\(X=(X_1,X_2,\dots,X_n)\)，\(Y=(Y_1,Y_2,\dots,Y_n)\)。此时\(P(Y|X)\)为线性链条件随机场，如下图所示：

img

在标注问题中，\(X\)表示输入观测序列，\(Y\)表示对应的输出标记序列或者状态序列。

在线性链条件随机场中，如果随机变量\(X\)取值为\(\boldsymbol{x}=\{x_1,x_2,\dots,x_n\}\)，那么随机变量\(Y\)取值为\(\boldsymbol{y}=\{y_1,y_2,\dots,y_n\}\)的条件概率具有如下形式： \[ P(\boldsymbol{y}|\boldsymbol{x})=\frac{1}{Z(\boldsymbol{x})}\exp \left(\sum_{i,k}\lambda_k t_k(y_{i-1},y_i,\boldsymbol{x},i)+\sum_{i,l}\mu_l s_l(y_i,\boldsymbol{x},i) \right) \] 其中\(Z(\boldsymbol{x})=\sum_{\boldsymbol{y}}\exp \left(\sum_{i,k}\lambda_k t_k(y_{i-1},y_i,\boldsymbol{x},i)+\sum_{i,l}\mu_l s_l(y_i,\boldsymbol{x},i) \right)\)为归一化因子；\(t_k\)，\(s_l\)代表特征函数；\(\lambda_k\)和\(\mu_l\)为对应的权值。\(t_k\)是定义在边上的特征函数，被称为转移特征，依赖于当前和前一个位置；\(s_l\)是定义在结l点上的特征函数，称为状态特征，它依赖于当前位置。通常，两个特征函数的取值为0或1，当满足特征条件时取值为1，否则为0。因此，一个条件随机场完全由其特征函数\(t_k\)，\(s_l\)及其对应的权值\(\lambda_k\)，\(\mu_l\)确定。

以词性标注问题为例，特征方程\(t_k(y_{i-1},y_i,\boldsymbol{x},i)\)可以被定义为如果\(y_{i-1}\)是形容词而\(y_i\)是名词时等于1，否则等于0。为了构建一个用于词性标注的CRF模型，通常需要定义很多个类似于这样的特征方程，每一个特征方程对应于一个语法规则。

简化形式

条件随机场还可以由简化形式表示。在条件随机场的表达式中，同一特征在每个位置都有定义，因此可以对同一个特征在各个位置求和，将局部特征函数转化为一个全局特征函数。这样，就可以将条件随机场写成权值向量和特征向量的内积形式，从而得到简化的形式。

为了简便起见，我们将转移特征和状态特征及其权值用统一的符号表示。设有\(K_1\)个转移特征，\(K_2\)个状态特征，\(K=K_1+K_2\)，记 \[ f_k(y_{i-1},y_i,\boldsymbol{x},i)=\begin{cases} t_k(y_{i-1},y_i,\boldsymbol{x},i),&k=1,2,\dots,K_1 \\ s_l(y_i,\boldsymbol{x},i), &k=K_1+l;l=1,2,\dots,K_2 \end{cases} \] 然后对转移和状态特征在各个位置\(i\)求和，记作： \[ f_k(\boldsymbol{y},\boldsymbol{x})=\sum_{i=1}^{n}f_k(y_{i-1},y_i,\boldsymbol{x},i),k=1,2,\dots,K \] 用\(w_k\)表示特征\(f_k(\boldsymbol{y},\boldsymbol{x})\)的权值，即 \[ w_k=\begin{cases} \lambda_k,&k=1,2,\dots,K_1 \\ \mu_l,&k=K_1+l;l=1,2,\dots,K_2 \end{cases} \] 于是条件随机场可以表示为如下形式： \[ P(\boldsymbol{y}|\boldsymbol{x})=\frac{1}{Z(\boldsymbol{x})}\exp \sum_{k=1}^K w_k f_k(\boldsymbol{y},\boldsymbol{x}) \\ Z(\boldsymbol{x})=\sum_y \exp \sum_{k=1}^{K} w_k f_k(\boldsymbol{y},\boldsymbol{x}) \] 如果记\(\boldsymbol{w}=(w_1,w_2,\dots,w_K)\)为权值向量，\(\boldsymbol{F}(\boldsymbol{y},\boldsymbol{x})=(f_1(\boldsymbol{y},\boldsymbol{x}),f_2(\boldsymbol{y},\boldsymbol{x}),\dots,f_K(\boldsymbol{y},\boldsymbol{x}))^T\)为全局特征向量，那么条件随机场可以写成向量\(\boldsymbol{w}\)和\(\boldsymbol{F}(\boldsymbol{y},\boldsymbol{x})\)的内积形式： \[ P(\boldsymbol{y}|\boldsymbol{x})=\frac{\exp(\boldsymbol{w}\cdot \boldsymbol{F}(\boldsymbol{y},\boldsymbol{x}))}{Z(\boldsymbol{x})} \\ Z(\boldsymbol{x})=\sum_{y}\boldsymbol{w}\cdot \boldsymbol{F}(\boldsymbol{y},\boldsymbol{x})) \]

矩阵形式

条件随机场还可以由矩阵表示。假设\(P(\boldsymbol{y}|\boldsymbol{x})\)是一个线性链条件随机场，表示对给定观测序列\(\boldsymbol{x}\)，相应的标记序列\(\boldsymbol{y}\)的条件概率。引入特殊的起点和终点状态标记\(y_0=\text{start}\)，\(y_{n+1}=\text{stop}\)，此时\(P(\boldsymbol{y}|\boldsymbol{x})\)可以通过矩阵形式表示。

对观测序列\(\boldsymbol{x}\)的每一个位置\(i=1,2,\dots,n+1\)，定义一个\(m\)阶矩阵（\(m\)代表标记\(y_i\)取值的个数）： \[ M_i(\boldsymbol{x})=[M_i(y_{i-1},y_{i}|\boldsymbol{x})] \] 其中，\(M_i(y_{i-1},y_i|\boldsymbol{x})=\exp(W_i(y_{i-1},y_i|\boldsymbol{x}))\)，\(W_i(y_{i-1},y_i|\boldsymbol{x})=\sum_{i=1}^{K}w_k f_k(y_{i-1},y_i,\boldsymbol{x},i)\)。这样，给定观测序列\(\boldsymbol{x}\)，标记序列\(\boldsymbol{y}\)的非规范化概率可以通过\(n+1\)个矩阵的乘积\(\prod_{i=1}^{n+1} M_i(y_{i-1},y_i|\boldsymbol{x})\)表示，于是条件概率\(P(\boldsymbol{y}|\boldsymbol{x})\)可以写为： \[ P(\boldsymbol{y}|\boldsymbol{x})=\frac{1}{Z(\boldsymbol{x})}\prod_{i=1}^{n+1}M_i(y_{i-1},y_i|\boldsymbol{x}) \] 其中\(Z(\boldsymbol{x})\)为规范化因子，是\(n+1\)个矩阵乘积的\((\text{start,stop})\)元素，表示以start为起点stop为终点通过状态的所有路径\(y_1 y_2 \cdots y_n\)的非规范化概率之和。

概率计算

前向-后向算法

条件随机场的概率计算问题是给定条件随机场\(P(Y|X)\)，输入序列\(\boldsymbol{x}\)和输出序列\(\boldsymbol{y}\)，计算条件概率\(P(Y_i=y_i|\boldsymbol{x})\)，\(P(Y_{i-1}=y_{i-1},Y_i=y_i|\boldsymbol{x})\)以及相应的数学期望的问题。为了方便起见，通过引入像隐马尔科夫模型一样的前向-后向向量，递归地计算概率和期望值。这样的算法被称为前向-后向算法。

对于\(i=0,1,\dots,n+1\)，定义前向向量\(\alpha_i(\boldsymbol{x})\)： \[ \alpha_0=\begin{cases} 1, &y=\text{start} \\ 0, &\text{Otherwise} \end{cases} \] 递推公式为： \[ \alpha_i^T(y_i|\boldsymbol{x})=\alpha_{i-1}^T(y_i|\boldsymbol{x})M_i(y_{i-1},y_i|\boldsymbol{x}), i=1,2,\dots,n+1 \] \(\alpha_i(y_i|\boldsymbol{x})\)表示在位置\(i\)的标记是\(y_i\)并且到位置\(i\)的前部分标记序列的非规范化概率。由于\(y_i\)可取的值有\(m\)个，因此\(\alpha_i(\boldsymbol{x})\)为\(m\)维列向量。

同样地，对于\(i=0,1,\dots,n+1\)，定义后向向量\(\beta_i(\boldsymbol{x})\)： \[ \beta_{n+1}(y_{n+1}|\boldsymbol{x})=\begin{cases} 1, &y_{n+1}=\text{stop} \\ 0, &\text{Otherwise} \end{cases} \] 递推公式为： \[ \beta_i(y_i|\boldsymbol{x})=M_i(y_{i},y_{i+1}|\boldsymbol{x})\beta_{i-1}(y_{i+1}|\boldsymbol{x}), i=1,2,\dots,n+1 \] \(\beta_i(y_i|\boldsymbol{x})\)表示在位置\(i\)的标记为\(y_i\)并且从\(i+1\)到\(n\)的后部分标记序列的非规范化概率。

根据前向-后向向量的定义可以得到： \[ Z(\boldsymbol{x})=\alpha_n^T(y_n|\boldsymbol{x})\cdot \boldsymbol{1}=\boldsymbol{1} \cdot \beta_1(y_1|\boldsymbol{x}) \]

概率计算

按照前向-后向向量的定义，很容易计算标记序列在位置\(i\)是标记\(y_i\)的条件概率，和在位置\(i-1\)与\(i\)是标记\(y_{i-1}\)和\(y_i\)的条件概率： \[ P(Y_i=y_i|\boldsymbol{x})=\frac{\alpha_i^T(y_i|\boldsymbol{x}) \beta_i(y_i|\boldsymbol{x})}{Z(\boldsymbol{x})} \\ P(Y_{i-1}=y_{i-1},Y_i=y_i|\boldsymbol{x})=\frac{\alpha_{i-1}^T(y_{i-1}|\boldsymbol{x})M_i(y_{i-1},y_i|\boldsymbol{x}) \beta_i(y_i|\boldsymbol{x})}{Z(\boldsymbol{x})} \]

期望值的计算

利用前向-后向向量，可以计算特征函数关于联合分布\(P(X,Y)\)和条件分布\(P(Y|X)\)的数学期望。

特征函数\(f_k\)关于条件分布\(P(Y|X)\)的数学期望是： \[ \begin{aligned} E_{P(Y|X)}[f_k]=&\sum_{y} P(\boldsymbol{y}|\boldsymbol{x})f_k(\boldsymbol{y},\boldsymbol{x}) \\ =&\sum_{i=1}^{n+1}\sum_{y_{i-1}y_i}f_k(y_{i-1},y_i,\boldsymbol{x},i)\frac{\alpha_{i-1}^T(y_{i-1}|\boldsymbol{x})M_i(y_{i-1},y_i|\boldsymbol{x}) \beta_i(y_i|\boldsymbol{x})}{Z(\boldsymbol{x})}, k=1,2,\dots,K \end{aligned} \] 假设经验分布为\(\tilde{P}(X)\)，特征函数\(f_k\)关于联合分布\(P(X,Y)\)的数学期望是 \[ \begin{aligned} E_{P(X,Y)}[f_k]=&\sum_{\boldsymbol{x},\boldsymbol{y}}P(\boldsymbol{x},\boldsymbol{y})\sum_{i=1}^{n+1}f_k(y_{i-1},y_i,\boldsymbol{x},i) \\ =& \sum_\boldsymbol{x} \tilde{P}(\boldsymbol{x})\sum_\boldsymbol{y} P(\boldsymbol{y}|\boldsymbol{x}) \sum_{i=1}^{n+1}f_k(y_{i-1},y_i,\boldsymbol{x},i) \\ =& \sum_\boldsymbol{x} \tilde{P}(\boldsymbol{x})\sum_{i=1}^{n+1}\sum_{y_{i-1}y_i}f_k(y_{i-1},y_i,\boldsymbol{x},i)\frac{\alpha_{i-1}^T(y_{i-1}|\boldsymbol{x})M_i(y_{i-1},y_i|\boldsymbol{x}) \beta_i(y_i|\boldsymbol{x})}{Z(\boldsymbol{x})} \end{aligned} \] 上式为特征函数数学期望的一般计算公式，可以将其中的\(f_k\)替换为转移特征或者状态特征。

根据上述这些表达式，对于给定的观测序列和标记序列，可以通过一次前向扫描计算\(\alpha_i\)和\(Z(\boldsymbol{x})\)，通过一次后向扫描计算\(\beta_i\)，从而计算所有的概率和特征的期望。

学习算法

已知训练数据集，由此可知经验概率分布为\(\tilde{P}(X,Y)\)，可以通过极大化训练数据的对数似然函数来求模型参数。训练数据的对数似然函数为： \[ L(w)=\log \prod_{\boldsymbol{x},\boldsymbol{y}}P(\boldsymbol{y}|\boldsymbol{x})^{\tilde{P}(\boldsymbol{x},\boldsymbol{y})}=\sum_{\boldsymbol{x},\boldsymbol{y}}\tilde{P}(\boldsymbol{x},\boldsymbol{y})\log P(\boldsymbol{y}|\boldsymbol{x}) \] 当\(P(\boldsymbol{y}|\boldsymbol{x})\)是一个条件随机场模型时，对数似然函数为： \[ \begin{aligned} L(w)=& \sum_{\boldsymbol{x},\boldsymbol{y}} \tilde{P}(\boldsymbol{x},\boldsymbol{y})\log P(\boldsymbol{y}|\boldsymbol{x}) \\ =& \sum_{\boldsymbol{x},\boldsymbol{y}} [\tilde{P}(\boldsymbol{x},\boldsymbol{y})\sum_{k=1}^K w_k f_k(\boldsymbol{y},\boldsymbol{x})-\tilde{P}(\boldsymbol{x},\boldsymbol{y})\log Z(\boldsymbol{x})] \\ =& \sum_{j=1}^N \sum_{k=1}^K w_k f_k(y_j,x_j)-\sum_{j=1}^{N} \log Z(x_j) \end{aligned} \] 改进的迭代尺度法通过迭代的方法不断优化对数似然函数改变量的下界，达到极大化对数似然函数的目的。假设模型的当前参数向量为\(\boldsymbol{w}=(w_1,w_2,\dots,w_k)^T\)，向量的增量为\(\boldsymbol{\delta}=(\delta_1,\delta_2,\dots,\delta_K)^T\)，那么更新的参数向量为\(\boldsymbol{w}+\boldsymbol{\delta}=(w_1+\delta_1,w_2+\delta_2,\dots,w_K+\delta_K)^T\)。在每步迭代过程中，改进的迭代尺度法通过依次求解下式得到\(\boldsymbol{\delta}\)： \[ \begin{aligned} E_{\tilde{P}}[t_k]=& \sum_{\boldsymbol{x},\boldsymbol{y}} \tilde{P}(\boldsymbol{x},\boldsymbol{y})\sum_{i=1}^{n+1}t_k(y_{i-1},y_i,\boldsymbol{x},i) \\ =& \sum_{\boldsymbol{x},\boldsymbol{y}}\tilde{P}(\boldsymbol{x})P(\boldsymbol{y}|\boldsymbol{x})\sum_{i=1}^{n+1}t_k(y_{i-1},y_i,\boldsymbol{x},i)\exp(\delta_k T(\boldsymbol{x},\boldsymbol{y})), k=1,2,\dots,K_1 \end{aligned} \]

\[ \begin{aligned} E_{\tilde{P}}[s_l]=& \sum_{\boldsymbol{x},\boldsymbol{y}} \tilde{P}(\boldsymbol{x},\boldsymbol{y})\sum_{i=1}^{n+1}s_l(y_i,\boldsymbol{x},i) \\ =& \sum_{\boldsymbol{x},\boldsymbol{y}}\tilde{P}(\boldsymbol{x})P(\boldsymbol{y}|\boldsymbol{x})\sum_{i=1}^{n+1}s_l(y_i,\boldsymbol{x},i)\exp(\delta_{K_1+l} T(\boldsymbol{x},\boldsymbol{y})), l=1,2,\dots,K_2 \end{aligned} \]

其中\(T(\boldsymbol{x},\boldsymbol{y})\)代表在数据\((\boldsymbol{x},\boldsymbol{y})\)中出现所有特征数的总和： \[ T(\boldsymbol{x},\boldsymbol{y})=\sum_{k}f_k(\boldsymbol{y},\boldsymbol{x})=\sum_{k=1}^K \sum_{i=1}^{n+1} f_k(y_{i-1},y_i,\boldsymbol{x},i) \] 对于不同的数据\((\boldsymbol{x},\boldsymbol{y})\)，\(T(\boldsymbol{x},\boldsymbol{y})\)的取值可能不同，为了处理这个问题定义松弛特征： \[ s(\boldsymbol{x},\boldsymbol{y})=S-\sum_{k=1}^K \sum_{i=1}^{n+1} f_k(y_{i-1},y_i,\boldsymbol{x},i) \] 其中\(S\)是个常数，选择足够大的常数\(S\)使得对训练数据集的所有数据\((\boldsymbol{x},\boldsymbol{y})\)，\(s(\boldsymbol{x},\boldsymbol{y})\ge 0\)成立。这时特征总数可以取\(S\)。

此时，对于转移特征\(t_k\)，\(\delta_k\)的更新方程为： \[ E_{\tilde{P}}[t_k]=\sum_{\boldsymbol{x},\boldsymbol{y}}\tilde{P}(\boldsymbol{x})P(\boldsymbol{y}|\boldsymbol{x})\sum_{i=1}^{n+1}t_k(y_{i-1},y_i,\boldsymbol{x},i)\exp(\delta_k S) \Rightarrow \delta_k=\frac{1}{S}\log \frac{E_{\tilde{P}}[t_k]}{E_{P}[t_k]} \] 对于状态特征\(s_l\)，\(\delta_k\)的更新方程为： \[ E_{\tilde{P}}[s_l]=\sum_{\boldsymbol{x},\boldsymbol{y}}\tilde{P}(\boldsymbol{x})P(\boldsymbol{y}|\boldsymbol{x})\sum_{i=1}^{n+1}s_l(y_i,\boldsymbol{x},i)\exp(\delta_{K_1+l} S) \Rightarrow \delta_{K_1+l}=\frac{1}{S}\log \frac{E_{\tilde{P}}[s_l]}{E_{P}[s_l]} \] 当\(S\)取的足够大时，每步迭代的增量向量会变大，从而导致算法收敛变慢。

另一个改进方法是对每个观测序列\(\boldsymbol{x}\)计算其特征总数的最大值\(T(\boldsymbol{x})=\max_{\boldsymbol{y}} T(\boldsymbol{x},\boldsymbol{y})\)。利用前向-后向递推公式，可以计算得到\(T(\boldsymbol{x})=t\)。此时，关于转移特征参数的更新方程可以写成： \[ \begin{aligned} E_{\tilde{P}}[t_k]=& \sum_{\boldsymbol{x},\boldsymbol{y}}\tilde{P}(\boldsymbol{x})P(\boldsymbol{y}|\boldsymbol{x})\sum_{i=1}^{n+1}t_k(y_{i-1},y_i,\boldsymbol{x},i)\exp(\delta_k T(\boldsymbol{x})) \\ =& \sum_{\boldsymbol{x}}\tilde{P}(\boldsymbol{x})\sum_{\boldsymbol{y}}P(\boldsymbol{y}|\boldsymbol{x})\sum_{i=1}^{n+1}t_k(y_{i-1},y_i,\boldsymbol{x},i)\exp(\delta_k T(\boldsymbol{x})) \\ =& \sum_{\boldsymbol{x}}\tilde{P}(\boldsymbol{x}) a_{k,t} \exp(\delta_k\cdot t) \\ =& \sum_{t=0}^{T_{\max}} a_{k,t}\beta_k^t \end{aligned} \] 其中\(a_{k,t}\)为特征\(t_k\)的期望值，\(\delta_k=\log \beta_k\)。\(\beta_k\)为多项式方程的唯一实根，可以用牛顿法求得，从而求得对应的\(\delta_k\)。

同样，关于状态特征的参数更新方程可以写为： \[ \begin{aligned} E_{\tilde{P}}[s_l]=&\sum_{\boldsymbol{x},\boldsymbol{y}}\tilde{P}(\boldsymbol{x})P(\boldsymbol{y}|\boldsymbol{x})\sum_{i=1}^{n+1}s_l(y_i,\boldsymbol{x},i)\exp(\delta_{K_{1+l}} T(\boldsymbol{x},\boldsymbol{y})) \\ =& \sum_{\boldsymbol{x}}\tilde{P}(\boldsymbol{x})\sum_{\boldsymbol{y}}P(\boldsymbol{y}|\boldsymbol{x})\sum_{i=1}^{n}s_l(y_i,\boldsymbol{x},i)\exp(\delta_{K_{1+l}} T(\boldsymbol{x})) \\ =& \sum_{\boldsymbol{x}}\tilde{P}(\boldsymbol{x}) b_{l,t}\exp(\delta_k\cdot t) \\ =& \sum_{t=0}^{T_{\max}}b_{l,t}\gamma_l^t \end{aligned} \] 其中\(b_{l,t}\)是特征\(s_l\)的期望值，\(\delta_l=\log \gamma_l\)，\(\gamma_l\)为多项式方程的唯一实根，也可以用牛顿法求得。

备注：计算对数似然函数的极大值也可以使用梯度下降法、牛顿法等方法，不局限于迭代尺度法。

预测算法

条件随机场的预测问题是给定条件随机场\(P(Y|X)\)和输入序列（观测序列）\(\boldsymbol{x}\)，求条件概率最大的输出序列（标记序列）\(\boldsymbol{y}^*\)，即对观测序列进行标注。条件随机场的预测算法是维特比算法。

\[ \begin{aligned} \boldsymbol{y}^*=&\arg\max_{\boldsymbol{y}}P(\boldsymbol{y}|\boldsymbol{x})\\ =&\arg\max_{\boldsymbol{y}}\frac{\exp(\boldsymbol{w}\cdot \boldsymbol{F}(\boldsymbol{y},\boldsymbol{x}))}{Z(\boldsymbol{x})} \\ =&\arg\max_{\boldsymbol{y}} \exp(\boldsymbol{w}\cdot \boldsymbol{F}(\boldsymbol{y},\boldsymbol{x}))\\ =&\arg\max_{\boldsymbol{y}} (\boldsymbol{w}\cdot \boldsymbol{F}(\boldsymbol{y},\boldsymbol{x})) \end{aligned} \] 因此条件随机场的预测问题相当于是求非规范化概率最大的路径问题，此处的路径表示标记序列。由于只需要计算非规范化概率，因此可以大大提高效率。

维特比算法的步骤如下：

  1. 首先求出位置1的各个标记\(j=1,2,\dots,m\)的非规范化概率： \[ \delta_1(j)=w_1\cdot F_1(y_0=\text{start},y_1=j,\boldsymbol{x}),j=1,2,\dots,m \]

  2. 由递推公式，可以计算得到位置\(i\)的各个标记\(l=1,2,\dots,m\)的非规范化概率的最大值： \[ \delta_i(l)=\max_{1\le j\le m}\{\delta_{i-1}(j)+w_i\cdot F_i(y_{i-1}=j,y_i=l,\boldsymbol{x}) \},l=1,2,\dots,m \] 同时记录非规范化概率最大值的路径： \[ \psi_i(l)=\arg \max_{1\le j\le m}\{\delta_{i-1}(j)+w_i\cdot F_i(y_{i-1}=j,y_i=l,\boldsymbol{x}) \},l=1,2,\dots,m \] 直到\(i=n\)时终止。

  3. 最终求得非规范化概率的最大值为： \[ \max_{\boldsymbol{y}} (\boldsymbol{w}\cdot \boldsymbol{F}(\boldsymbol{y},\boldsymbol{x}))=\max_{1\le j\le m}\delta_n(j) \] 以及最优路径的终点： \[ y_n^*=\arg \max_{1\le j\le m}\delta_n(j) \] 由此最优路径终点返回，\(y_i^*=\psi_{i+1}(y_{i+1}^*)\)，求得最优路径\(\boldsymbol{y}^*=(y^*_1,y^*_2,\dots,y^*_n)^T\)。

参考

  1. 统计学习方法，李航
  2. 如何轻松愉快地理解条件随机场（CRF）？ - 知乎 (zhihu.com)
  3. 条件随机场介绍（译）Introduction to Conditional Random Fields - 知乎 (zhihu.com)
  4. sklearn-crfsuite — sklearn-crfsuite 0.3 documentation