spark机器学习算法研究和源码分析
本项目对spark ml
包中各种算法的原理加以介绍并且对算法的代码实现进行详细分析,旨在加深自己对机器学习算法的理解,熟悉这些算法的分布式实现方式。
本系列文章支持的spark版本
-
- *spark 2.x * *
本系列的目录结构
本系列目录如下:
- statistics(基本统计)
- summary statistics(概括统计)
- correlations(相关性系数)
- tratified sampling(分层取样)
- hypothesis testing(假设检验)
- random data generation(随机数生成)
- collaborative-filtering (协同过滤)
- 分类和回归
- 线性模型
- SVMs(支持向量机)
- 逻辑回归
- 线性回归
- 朴素贝叶斯
- 决策树
- 组合树
- 随机森林
- 梯度提升树
- 聚类
- k-means算法
- GMM(高斯混合模型)
- PIC(快速迭代聚类)
- LDA(隐式狄利克雷分布)
- 二分k-means算法
- 流式k-means算法
- 最优化算法
- 梯度下降算法
- L-BFGS(限制内存BFGS)
- NNLS(非负最小二乘)
- 降维
- EVD(特征值分解)
- SVD(奇异值分解)
- PCA(主成分分析)
- 特征抽取和转换
- 特征抽取
- TF-IDF
- Word2Vec
- CountVectorizer
- 特征转换
- Tokenizer
- StopWordsRemover
- n-gram
- Binarizer
- PolynomialExpansion
- Discrete Cosine Transform (DCT)
- StringIndexer
- IndexToString
- OneHotEncoder
- VectorIndexer
- Normalizer(规则化)
- StandardScaler(特征缩放)
- MinMaxScaler
- MaxAbsScaler
- Bucketizer
- ElementwiseProduct(元素智能乘积)
- SQLTransformer
- VectorAssembler
- QuantileDiscretizer
- 特征选择
- VectorSlicer
- RFormula
- ChiSqSelector(卡方选择器)
说明
本专题的大部分内容来自spark源码、spark官方文档,并不用于商业用途。转载自网络,个人学习使用。
本专题引用自网络github,如有侵权,请务必邮件通知作者。邮箱地址:davidyjun@gmail.com
。