首页 > 代码库 > lda舆情监测遇到的问题
lda舆情监测遇到的问题
1、问题一
LDA求出主题-词 概率phi之后。可以知道每个主题下每个词的概率,之后怎么确定每篇文档的主题分布呢?
在 gibbs抽样稳定之后,统计每篇文档topic出现的频率就可以算出来。
2、问题二
每个主题下的词有可能是相同的,只是概率不同而已。统计时这个应该算在哪个主题下?
3、问题三
训练集--维基百科数据集是 自己用爬虫爬,还是直接下载。
4、问题四
LDA模型构建完后,可以估计每篇文档的主题。但是之后要怎么知道当前舆论的热点呢?
5、问题五
Elasticsearch 是用来存取新闻和微博模块的数据,这样我可以设置一个表,表中的每一项(url-主题-发布时间-爬取时间-作者-摘要)这样搜索的时候就可以搜索出关于某个主题的所有url。
6、问题六
关于LDA的训练集的问题。这个训练集是自己爬取,然后分词得到的。
7、问题七
怎么将舆情信息展示出来。(按爬取文档的主题出现的概率排序)可以用图表表示出所有主题出现的的概率。柱状图。
解决完这七个问题,整个系统基本成型
本文出自 “进阶之路” 博客,请务必保留此出处http://12844768.blog.51cto.com/12834768/1919667
lda舆情监测遇到的问题
声明:以上内容来自用户投稿及互联网公开渠道收集整理发布,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任,若内容有误或涉及侵权可进行投诉: 投诉/举报 工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容。