，其中

，

，

根据贝叶斯公式，

概率潜语义分析，主要步骤;

最大化以下函数，我们用期望最大值化算法，

期望最大值化算法：

E步：

，，，

M步：最大化以下最大化问题：

求上述的最大化问题，采用拉格朗日乘子法：

，

——————————————————————————————————————————————————

，

，

，

，

，，，

——————————————————————————————————————————————————

，

，

，

，

，

，，

——————————————————————————————————————————————————

，

，

，

，

，

———————————————————————————————————————————————————

PLSA-概率潜语义分析