Skip to content

tensorflow TxetCnn TextRNN 使用Textcnn、Textrnn对文本进行分类

Notifications You must be signed in to change notification settings

moxue1314/Easy_TextCnn_Rnn

 
 

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

63 Commits
 
 
 
 
 
 
 
 
 
 

Repository files navigation

Easy_TextCnn_Rnn

tensorflow TxetCnn TextRNN 预训练词向量 分别用Textcnn/Textrnn对中文文本分类

本文博客地址:

Text_Cnn

Text_Rnn

数据集:

本实验是使用THUCNews的一个子集进行训练与测试,数据集请自行到THUCTC:一个高效的中文文本分类工具包下载,请遵循数据提供方的开源协议;

文本类别涉及10个类别:categories = ['体育', '财经', '房产', '家居', '教育', '科技', '时尚', '时政', '游戏', '娱乐'],每个分类6500条数据;

cnews.train.txt: 训练集(5000*10)

cnews.val.txt: 验证集(500*10)

cnews.test.txt: 测试集(1000*10)

训练所用的数据,以及训练好的词向量可以下载:链接: https://pan.baidu.com/s/1daGvDO4UBE5NVrcLaCGeqA 提取码: 9x3i

1.利用TextCnn 进行文本分类

模型参数

parameters.py

预处理

预训练词向量进行embedding

对句子分词,去标点符号

去停用词

文字转数字

padding等

程序在data_processing.py

运行步骤

Training.py

train and test result

predict.py 模型用来对验证文本进行预测

evalutaing result

验证结果表明,5000条文本准确率达96.58%,取前10条语句的测试结果与原标签对比。

网络结构与本文博客图片基本一致

2.利用RNN进行文本分类

1.利用双层RNN进行文本分类

模型参数

parameters_rnn.py

预处理

预训练词向量进行embedding

对句子分词,去标点符号

去停用词

文字转数字

padding

计算每个batch中句子真实长度等

程序在data_processing_rnn.py

运行步骤

Training.py

train and test result

predict.py 模型用来对验证文本进行预测

evalutaing result

验证结果表明,5000条文本准确率达96.7%,取前10条语句的测试结果与原标签对比。

参考

1.Convolutional Neural Networks for Sentence Classification

2.https://github.com/cjymz886/text-cnn

3.http://www.wildml.com/2015/12/implementing-a-cnn-for-text-classification-in-tensorflow

About

tensorflow TxetCnn TextRNN 使用Textcnn、Textrnn对文本进行分类

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages

  • Python 100.0%