老饼|机器学习

机器学习-知识讲解

入门课程

新人专用
入门的普及课程

算法原理

拆解、剖析、重现软件包中各个算法的实现细节,部分文章需要开通VIP

算法应用

机器学习在工作实践中
如何应用和解决问题
(基于python-sklearn)

评分卡

讲解小贷风控中
评分卡模型的完整制作,部分文章需要开通VIP

基础数学

机器学习中涉及到的
一些基础数学问题

线性回归

【内容说明】：线性回归、岭回归、Lasso都是Y=WX的线性模型,本节剖析sklearn源码中的理论，并自写代码复现sklearn算法包一模一样的结果。

【原理】线性回归原理老饼 2022-06-26

【原理】岭回归原理老饼 2022-06-26

【原理】Lasso回归原理老饼 2022-06-26

【推导】Lasso迭代公式推导老饼 2022-06-26

【拓展】线性回归中均方差的意义老饼 2022-08-11

【拓展】线性模型有阈值与无阈值的转化老饼 2022-08-08

【辨析】如何直观理解岭回归不能去掉无效变量老饼 2022-08-11

【辨析】线性回归、岭回归和Lasso的比较老饼 2022-06-26

线性模型原理

【代码】线性回归的代码实现老饼 2023-02-07

【代码】Lasso简单Demo(sklearn) 老饼 2022-06-26

【代码】Lasso自实现代码老饼 2022-06-26

代码实现

逻辑回归

【内容说明】：matlab软件使用牛顿法实现逻辑回归，本节剖析源码中的理论，并自写代码复现matlab逻辑回归包一模一样的模型结果。

【主】逻辑回归模型简介老饼 2022-06-26

【主】逻辑回归求解-牛顿法老饼 2022-06-26

【推】逻辑回归-损失函数推导老饼 2022-06-26

【推】逻辑回归-牛顿法迭代公式推导老饼 2022-06-26

【附】牛顿法求极值老饼 2022-06-26

【附】加权最小二乘法老饼 2022-06-26

【码】逻辑回归-自实现代码(matlab) 老饼 2022-06-26

【码】逻辑回归-自实现代码(python) 老饼 2022-06-26

模型原理

决策树

【内容说明】：本节扒取matlab决策树函数的源码进行解读，并复现出一模一样的决策树结果

【原理】CART分类树构建原理老饼 2022-06-26

【原理】CART分类树构建算法实现老饼 2022-06-26

【原理】什么是CCP后剪枝老饼 2022-06-26

【原理】CCP路径的原理与计算老饼 2022-06-26

【推导】GINI系数的含义与推导老饼 2022-06-26

模型原理

【代码】CART分类树-调包DEMO(matlab) 老饼 2022-06-26

【代码】CART分类树-代码自实现(matlab) 老饼 2022-06-26

【代码】CART分类树-代码自实现(python) 老饼 2022-06-26

【代码】复现sklearn中CCP路径的实现代码(python) 老饼 2022-06-26

代码实现

集成方法

【内容说明】：本节参考sklearn源码，讲解随机森林、adboost、GBDT算法的原理，并自写代码复现出sklearn算法包一模一样的结果

【原理】随机森林原理老饼 2022-06-26

【代码】随机森林简单Demo(sklearn) 老饼 2022-06-26

【代码】随机森林-自实现代码老饼 2022-06-26

集成方法与随机森林

【原理】Adboost原理老饼 2022-06-26

【推导】Adboost公式推导老饼 2022-06-26

【代码】Adboost简单Demo(sklearn) 老饼 2022-06-26

【代码】Adboost-自实现代码老饼 2022-06-26

Adboost

【原理】GBDT原理老饼 2022-06-26

【推导】GBDT公式推导老饼 2022-06-26

【代码】GBDT简单Demo(sklearn) 老饼 2022-06-26

【代码】GBDT-自实现代码老饼 2022-06-26

GBDT

SVM

【硬间隔】SVM硬间隔模型与损失函数老饼 2022-11-23

【硬间隔】SVM硬间隔损失函数的对偶问题老饼 2022-11-23

【软间隔】SVM软间隔模型与损失函数老饼 2022-11-23

【软间隔】SVM软间隔损失函数的对偶问题老饼 2022-11-23

【原理】SVM多类别模型老饼 2023-01-18

【附件】拉格朗日对偶性-解决带约束条件的优化问题老饼 2023-01-18

【附件】如何搭建环境调试libsvm3.25 老饼 2023-01-18

SVM模型

【综述】SVM-SMO求解算法思想老饼 2022-11-23

【原理】SVM-SMO求解算法原理老饼 2022-11-23

【推导】SVM-SMO求解算法原理-αIαJ的优化推导老饼 2022-11-23

【流程】SVM-SMO求解算法流程老饼 2022-11-23

SMO求解SVM

【原理】SVM概率模型原理老饼 2023-01-18

【流程】SVM概率模型算法流程老饼 2023-01-18

【推导】SVM概率模型相关公式推导老饼 2023-01-18

【原理】SVM多类别概率模型原理老饼 2023-01-18

SVM概率模型

【说明】SVM代码说明老饼 2023-01-19

【代码】SVM二分类模型代码-svm_train_one.py 老饼 2023-01-19

【代码】SVM二分类概率模型代码-svm_train_prob_one.py 老饼 2023-01-19

【代码】SVM多分类模型-svm_muti_train.py 老饼 2023-01-19

SVM代码实现

降维算法

【原理】PCA主成份分析原理老饼 2023-01-20

【代码】PCA的求解及代码老饼 2023-01-20

【附件】协方差与相关系数老饼 2023-01-20

【原理】SVD降维老饼 2023-01-20

PCA主成分分析与SVD降维

【概述】LDA系列算法概述老饼 2023-01-12

【基础】基于贝叶斯原理的判别函数老饼 2023-01-03

【原理】LDA线性判别算法原理老饼 2023-01-04

【流程】LDA算法流程老饼 2023-01-05

【原理】Fisher-LDA线性判别算法原理老饼 2023-01-08

【流程】Fisher-LDA算法流程老饼 2023-01-11

【原理】二次判别QDA 老饼 2023-01-11

【附件】类内类间协方差定义及推导老饼 2023-01-06

【代码】LDA线性判别分析Demo(python-sklearn) 老饼 2023-01-14

【代码】LDA代码复现老饼 2023-01-14

【代码】Fisher-LDA代码复现老饼 2023-01-14

【代码】QDA代码复现老饼 2023-01-14

LDA线性判别

【模型】FA因子分析模型介绍老饼 2023-01-25

【原理】FA因子分析模型系数求解老饼 2023-01-20

【推导】FA因子分析W的驻点求解老饼 2023-01-27

【流程】因子分析算法流程老饼 2023-01-23

【附件】线性加噪高斯分布的分析老饼 2023-01-24

【代码】因子分析代码实现老饼 2023-02-07

FA因子分析