Python jieba分词如何添加自定义词和去除不需要长尾词
Python jieba分词如何添加自定义词和去除不需要长尾词
作者：虚坏叔叔
博客：https://xuhss.com
早餐店不会开到晚上，想吃的人早就来了！😄
通过如下代码，读取一个txt的高频词汇：
# 找到高频词汇tmp_content = self.getContent(tmp_path)keyword_list = tmp_content.split('\\n')word_count = dict()for keyword in keyword_list:for word,flag in jp.cut(keyword):if word in word_count:word_count[word] = word_count[word] +1else:word_count[word] =1for word, count in word_count.items():print('%s\\t%s' % (word,count))
很多情况下 jieba它不知道一些词汇，比如说获得的词汇如下
建立 和 可视化 是2个独立的单词
一、添加自定义词
通过添加自定义词
import jieba
import jieba.posseg as jpjieba.load_userdict(r'jieba_dict.txt')
就可以看到，统计出来的词是这个自定义词
二、去除不需要长尾词
有时 统计出来的某些词汇jieba认为是一个词汇 但是此时 我想让他变为多个词汇 ，可以通过如下代码实现：
import jieba
import jieba.posseg as jpjieba.del_word('创建活动')
此时 jieba 就会不认定 创建活动 是一个词，它会将它们分开统计
总结
- 本文主要介绍jieba的基础用法。
- 如果觉得文章对你有用处，记得
点赞收藏转发一波哦，博主也支持为铁粉丝制作专属动态壁纸哦~
💬 往期优质文章分享
- C++ QT结合FFmpeg实战开发视频播放器-01环境的安装和项目部署
- 解决QT问题：运行qmake：Project ERROR: Cannot run compiler ‘cl‘. Output:
- 解决安装QT后MSVC2015 64bit配置无编译器和调试器问题
- Qt中的套件提示no complier set in kit和no debugger，出现黄色感叹号问题解决（MSVC2017）
- Python+selenium 自动化 - 实现自动导入、上传外部文件（不弹出windows窗口）
🚀 优质教程分享 🚀
- 🎄如果感觉文章看完了不过瘾，可以来我的其他 专栏 看一下哦~
- 🎄比如以下几个专栏：Python实战微信订餐小程序、Python量化交易实战、C++ QT实战类项目 和 算法学习专栏
- 🎄可以学习更多的关于C++/Python的相关内容哦！直接点击下面颜色字体就可以跳转啦！
| 学习路线指引（点击解锁） | 知识定位 | 人群定位 |
|---|---|---|
| 🧡 Python实战微信订餐小程序 🧡 | 进阶级 | 本课程是python flask+微信小程序的完美结合，从项目搭建到腾讯云部署上线，打造一个全栈订餐系统。 |
| 💛Python量化交易实战 💛 | 入门级 | 手把手带你打造一个易扩展、更安全、效率更高的量化交易系统 |
| ❤️ C++ QT结合FFmpeg实战开发视频播放器❤️ | 难度偏高 | 分享学习QT成品的视频播放器源码，需要有扎实的C++知识！ |
| 💚 游戏爱好者九万人社区💚 | 互助/吹水 | 九万人游戏爱好者社区，聊天互助，白嫖奖品 |
| 💙 Python零基础到入门 💙 | Python初学者 | 针对没有经过系统学习的小伙伴，核心目的就是让我们能够快速学习Python的知识以达到入门 |
🚀 资料白嫖，温馨提示 🚀
关注下面卡片即刻获取更多编程知识，包括各种语言学习资料，上千套PPT模板和各种游戏源码素材等等资料。更多内容可自行查看哦！
