课程大纲：

Python大数据机器学习实战高级师班

课程学习目标
每个算法模块按照“原理讲解→分析数据→自己动手实现→特征与调参”的顺序。
“Python数据清洗和特征提取”，提升学习深度、降低学习坡度。
增加网络爬虫的原理和编写，从获取数据开始，重视将实践问题转换成实际模型的能力，分享工作中的实际案例或Kaggle案例：广告销量分析、环境数据异常检测和分析、数字图像手写体识别、Titanic乘客存活率预测、用户-电影推荐、真实新闻组数据主题分析、中文分词、股票数据特征分析等。
强化矩阵运算、概率论、数理统计的知识运用，掌握机器学习根本。
阐述机器学习原理，提供配套源码和数据。
以直观解释，增强感性理解。
对比不同的特征选择带来的预测效果差异。
重视项目实践，重视落地。思考不同算法之间的区别和联系，提高在实际工作中选择算法的能力。
涉及和讲解的部分Python库有：Numpy、Scipy、matplotlib、Pandas、scikit-learn、XGBoost、libSVM、LDA、Gensim、NLTK、HMMLearn。

培训内容介绍
模块一：机器学习的数学基础1 - 数学分析
机器学习的一般方法和横向比较
数学是有用的：以SVD为例
机器学习的角度看数学
复习数学分析
直观解释常数
导数/梯度
随机梯度下降
展式的落地应用
系数
凸函数
不等式
组合数与信息熵的关系

模块二：机器学习的数学基础2 - 概率论与贝叶斯先验
概率论基础
古典概型
贝叶斯公式
先验分布/后验分布/共轭分布
常见概率分布
泊松分布和指数分布的物理意义
协方差(矩阵)和相关系数
独立和不相关
大数定律和中心极限定理的实践意义
深刻理解*似然估计MLE和*后验估计
过拟合的数学原理与解决方案

模块三：机器学习的数学基础3 - 矩阵和线性代数
线性代数在数学科学中的地位
马尔科夫模型
矩阵乘法的直观表达
状态转移矩阵
矩阵和向量组
特征向量的思考和实践计算
分解
对称阵、正交阵、正定阵
数据白化及其应用
向量对向量求导
标量对向量求导
标量对矩阵求导工作机制

模块四：Python基础1 - Python及其数学库
解释器Python2.7与IDE：
基础：列表/元组/字典/类/文件
展式的代码实现
的介绍和典型使用
多元高斯分布
泊松分布、幂律分布
典型图像处理
蝴蝶效应
分形与可视化

模块五：Python基础2 - 机器学习库
的介绍和典型使用
损失函数的绘制
多种数学曲线
多项式拟合
快速傅里叶变换
奇异值分解
算子与卷积网络
卷积与(指数)移动平均线
股票数据分析

模块六：Python基础3 - 数据清洗和特征选择
实际生产问题中算法和特征的关系
股票数据的特征提取和应用
一致性检验
缺失数据的处理
环境数据异常检测和分析
模糊数据查询和数据校正方法、算法、应用
朴素贝叶斯用于鸢尾花数据
朴素贝叶斯用于18000+篇/Sogou新闻文本的分类

模块七：回归
线性回归
回归
广义线性回归
正则化
与
梯度下降算法：BGD与
特征选择与过拟合

模块八：Logistic回归
函数的直观解释
回归的概念源头
回归
*熵模型
散度
损失函数
回归的实现与调参

模块九：回归实践
机器学习sklearn库介绍
线性回归代码实现和调参
回归代码实现和调参
回归
回归
广告投入与销售额回归分析
鸢尾花数据集的分类
交叉验证
数据可视化

模块十：决策树和随机森林
熵、联合熵、条件熵、KL散度、互信息
*似然估计与*熵模型
ID3、C4.5、CART详解
决策树的正则化
预剪枝和后剪枝
随机森林
不平衡数据集的处理
利用随机森林做特征选择
使用随机森林计算样本相似度
数据异常值检测

模块十一：随机森林实践
随机森林与特征选择
决策树应用于回归
多标记的决策树回归
决策树和随机森林的可视化
葡萄酒数据集的决策树/随机森林分类
波士顿房价预测

模块十二：提升
提升为什么有效
梯度提升决策树
算法详解
算法
加法模型与指数损失

模块十三：提升实践
用于蘑菇数据分类
与随机森林的比较
库介绍
展式与学习算法
简介
泰坦尼克乘客存活率估计

模块十四：
线性可分支持向量机
软间隔的改进
损失函数的理解
核函数的原理和选择
算法
支持向量回归

模块十五：SVM实践
代码库介绍
原始数据和特征提取
葡萄酒数据分类
数字图像的手写体识别
用于时间序列曲线预测
、Logistic回归、随机森林三者的横向比较

模块十六：聚类（一）
各种相似度度量及其相互关系
相似度和准确率、召回率
相关系数与余弦相似度
与K-Medoids及变种
算法(Sci07)/LPA算法及其应用

模块十七：聚类（二）
密度聚类
谱聚类
聚类评价
算法及其应用

模块十八：聚类实践
算法原理和实现
向量量化VQ及图像近似
并查集的实践应用
密度聚类的代码实现
谱聚类用于图片分割

模块十九：EM算法
*似然估计
不等式
朴素理解EM算法
*推导EM算法
算法的深入理解
混合高斯分布
主题模型

模块二十：EM算法实践
多元高斯分布的EM实现
分类结果的数据可视化
与聚类的比较
过程
三维及等高线等图件的绘制
主题模型pLSA与EM算法

模块二十一：主题模型
贝叶斯学派的模型认识
分布与二项分布
共轭先验分布
分布
平滑
采样详解

模块二十二：LDA实践
网络爬虫的原理和代码实现
停止词和高频词
动手自己实现
开源包的使用和过程分析
算法
与word2vec的比较
算法与实践

模块二十三：隐马尔科夫模型
概率计算问题
前向/后向算法
的参数学习
算法详解
算法详解
隐马尔科夫模型的应用优劣比较

模块二十四：HMM实践
动手自己实现HMM用于中文分词
多个语言分词开源包的使用和过程分析
文件数据格式UFT-8、
停止词和标点符号对分词的影响
前向后向算法计算概率溢出的解决方案
发现新词和分词效果分析
高斯混合模型
用于股票数据特征提取

模块二十五：课堂提问与互动讨论

Python大数据机器学习实战高级师班