Skip to content
Permalink
Fetching contributors…
Cannot retrieve contributors at this time
89 lines (67 sloc) 5.12 KB

HashingTF

HashingTF 完成文本中词的 Term Frequency 的计算,该方法常见于文本数据的特征抽取。需要统计的词必须满足 minTF 和 minDF 两个条件,其中 minTF 指词w在该篇文档中出现的最小次数,minDF 指所有文档中包含词 w 的最小文档数。

输入 支持本地数据和 COS 两种数据源。 输出

  • 索引对应的tf值
    • 格式:|docId index1:tf1 index2:tf2 ...|
    • 说明:每行表示一篇文档中各个词索引对应的 Term Frequency 值。表示索引号为 index1 的词在该篇文档中出现了tf1次,以此类推。docId 表示文档 ID 标识。各索引对之间以空格连接
  • 词汇的索引字典
    • 格式:| index | word |
    • 说明:以空格连接各字段
    • index:词汇索引 index
    • word:索引对应的词汇

参数

  • 文本所在列:待分析文本所在的列,从0开始计数。HDFS 路径无需填写此参数
  • 文档 ID 所在列:文档 ID 所在列,从0开始计数。HDFS 路径无需填写此参数
  • 并行数:训练数据的分区数、spark 的并行数
  • 抽样率:输入数据的采样率
  • 最小词频数:一篇文章中待统计词语出现的最小词频,若为 ≥ 1的整数,表示词语出现的次数,若为[0,1)的 Double 类型值,表示词语出现数目与该篇文章词语总数的比值
  • 最小文本数:待统计词语出现在不同文章中的最小数量,若为 ≥ 1的整数,表示词语出现在不同文章中的数量,若为[0,1)的 Double 类型值,表示词语出现在不同文章中的数量与总文章数的比值

TF-IDF

Term Frequency-Inverse Document Frequency (TF-IDF)是一个实用的文本特征处理算法,它的计算结果可以表示一篇文档中每个词汇在该文档中的相对重要程度,其中,Term Frequency 是指词 w 在该篇文档中出现的次数,Document Frequency 是指所有文档中包含词 w 的文档数。 TF-IDF 的思想是词w在该篇文档中的重要性与 Term Frequency 成正比,与 Document Frequency 成反比,本算法的 TF 值采用 Term Frequency,IDF 值采用公式 log((N+1) / (Document Frequency + 1)),此处的 log 以10为底,N 表示文档总数。实践证明,TF-IDF 是一个非常有效的文本特征。

输入 支持本地数据和 COS 两种数据源(详见3.1数据说明章节)

输出

  • 索引对应的tfidf值

    • 格式:|docId index1:tfidf1 index2:tfidf2 ...|
    • 说明:每行表示一篇文档中各个词索引对应的 TF-IDF 值。表示索引号为 index1 的词对应的 tfidf 值为 tfidf1,以此类推。docId 表示文档 ID 标识。各索引对之间以空格连接。
  • 词汇的索引字典

    • 格式:| index | word |
    • 说明:以空格连接各字段
    • index:词汇索引
    • word:表示 index 对应的该词语

参数

  • 文本所在列:待分析文本所在的列,从0开始计数。HDFS 路径无需填写此参数
  • 文档 ID 所在列:文档 ID 所在列,从0开始计数。HDFS 路径无需填写此参数
  • 并行数:训练数据的分区数、spark 的并行数
  • 抽样率:输入数据的采样率
  • 最小词频数:一篇文章中待统计词语出现的最小词频,若为 ≥ 1的整数,表示词语出现的次数,若为[0,1)的 Double 类型值,表示词语出现数目与该篇文章词语总数的比值
  • 最小文本数:待统计词语出现在不同文章中的最小数量,若为 ≥ 1的整数,表示词语出现在不同文章中的数量,若为[0,1)的 Double 类型值,表示词语出现在不同文章中的数量与总文章数的比值

Word2Vec_spark

Word2Vec_spark 是一种基于 Spark 实现的算法。Word2Vec 将文本中的词语映射到 K 维向量空间中,同时向量空间上的相似度可以用来表示词语语义上的相似度。首先根据 Word2Vec 算法计算词袋中每个词语对应的向量,然后针对每一篇文档中出现的词语,统计其词向量在 K 维空间上的平均值,以此代表该篇文档对应的向量。

输入 支持本地数据和 COS 两种数据源(详见3.1数据说明章节)

输出

  • word2Vec 转换结果

    • 格式:|Vector|
    • 说明:用每篇文档对应的向量代表该篇文档
      • HDFS 路径:向量中的各列以空格连接
      • TDW 路径:向量维数与表的字段个数对应
  • 词汇对应向量的输出

    • 格式:| word | Vector |
    • 说明:以空格连接各字段
    • word:每个选定的词汇
    • Vector:每个 word 对应的向量

参数

  • 文本列:待分析文本所在的列,从0开始计数。HDFS 路径无需填写此参数
  • 并行数:训练数据的分区数、Spark 的并行数
  • 抽样率:输入数据的采样率
  • 向量大小:选择的向量大小
  • 学习率:Double 类型
  • 最大迭代次数:默认为1
  • 随机数种子:默认为1
  • 最少统计次数:词袋中词汇被统计的最少出现次数
  • 训练模型的分区数:默认分区数为1,取值越小越准确
  • 上下文的窗口大小:选择上下文的窗口值
You can’t perform that action at this time.