{"id":28756837,"url":"https://github.com/wx-chevalier/mathematics-notes","last_synced_at":"2025-06-17T03:08:55.252Z","repository":{"id":105127144,"uuid":"216211831","full_name":"wx-chevalier/Mathematics-Notes","owner":"wx-chevalier","description":":books: [.md \u0026 .ipynb] 人工智能与深度学习实战--数理统计与数据分析篇","archived":false,"fork":false,"pushed_at":"2025-02-04T07:10:52.000Z","size":14784,"stargazers_count":33,"open_issues_count":1,"forks_count":11,"subscribers_count":3,"default_branch":"master","last_synced_at":"2025-02-04T08:20:07.450Z","etag":null,"topics":["ai","machine-learning","mathematics"],"latest_commit_sha":null,"homepage":"https://ng-tech.icu/books/Mathematics-Series","language":"Jupyter Notebook","has_issues":true,"has_wiki":null,"has_pages":null,"mirror_url":null,"source_name":null,"license":"other","status":null,"scm":"git","pull_requests_enabled":true,"icon_url":"https://github.com/wx-chevalier.png","metadata":{"files":{"readme":"README.md","changelog":null,"contributing":null,"funding":null,"license":"LICENSE","code_of_conduct":null,"threat_model":null,"audit":null,"citation":null,"codeowners":null,"security":null,"support":null,"governance":null,"roadmap":null,"authors":null,"dei":null,"publiccode":null,"codemeta":null}},"created_at":"2019-10-19T13:35:56.000Z","updated_at":"2025-02-04T07:10:54.000Z","dependencies_parsed_at":null,"dependency_job_id":"58b8cd63-3d0b-464d-ac7a-bcf22609322a","html_url":"https://github.com/wx-chevalier/Mathematics-Notes","commit_stats":null,"previous_names":[],"tags_count":0,"template":false,"template_full_name":null,"purl":"pkg:github/wx-chevalier/Mathematics-Notes","repository_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub/repositories/wx-chevalier%2FMathematics-Notes","tags_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub/repositories/wx-chevalier%2FMathematics-Notes/tags","releases_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub/repositories/wx-chevalier%2FMathematics-Notes/releases","manifests_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub/repositories/wx-chevalier%2FMathematics-Notes/manifests","owner_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub/owners/wx-chevalier","download_url":"https://codeload.github.com/wx-chevalier/Mathematics-Notes/tar.gz/refs/heads/master","sbom_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub/repositories/wx-chevalier%2FMathematics-Notes/sbom","host":{"name":"GitHub","url":"https://github.com","kind":"github","repositories_count":260281524,"owners_count":22985630,"icon_url":"https://github.com/github.png","version":null,"created_at":"2022-05-30T11:31:42.601Z","updated_at":"2022-07-04T15:15:14.044Z","host_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub","repositories_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub/repositories","repository_names_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub/repository_names","owners_url":"https://repos.ecosyste.ms/api/v1/hosts/GitHub/owners"}},"keywords":["ai","machine-learning","mathematics"],"created_at":"2025-06-17T03:08:54.464Z","updated_at":"2025-06-17T03:08:55.238Z","avatar_url":"https://github.com/wx-chevalier.png","language":"Jupyter Notebook","funding_links":[],"categories":[],"sub_categories":[],"readme":"[![Contributors][contributors-shield]][contributors-url]\n[![Forks][forks-shield]][forks-url]\n[![Stargazers][stars-shield]][stars-url]\n[![Issues][issues-shield]][issues-url]\n[![license: CC BY-NC-SA 4.0](https://img.shields.io/badge/license-CC%20BY--NC--SA%204.0-lightgrey.svg)][license-url]\n\n\u003c!-- PROJECT LOGO --\u003e\n\u003cbr /\u003e\n\u003cp align=\"center\"\u003e\n  \u003ca href=\"https://github.com/wx-chevalier/Mathematics-Notes\"\u003e\n    \u003cimg src=\"https://assets.ng-tech.icu/item/header.svg\" alt=\"Logo\" style=\"width: 100vw;height: 400px\" /\u003e\n  \u003c/a\u003e\n\n  \u003cp align=\"center\"\u003e\n    \u003ca href=\"https://ng-tech.icu/books/Mathematics-Notes\"\u003e\u003cstrong\u003e在线阅读 \u003e\u003e \u003c/strong\u003e\u003c/a\u003e\n    \u003cbr /\u003e\n    \u003cbr /\u003e\n    \u003ca href=\"https://github.com/wx-chevalier\"\u003e代码案例\u003c/a\u003e\n    ·\n       \u003ca href=\"https://github.com/wx-chevalier/Awesome-Lists\"\u003e参考资料\u003c/a\u003e\n\n  \u003c/p\u003e\n\u003c/p\u003e\n\n\u003c!-- ABOUT THE PROJECT --\u003e\n\n# 现代数学体系\n\n![](http://nebula.wsimg.com/9231017c407c70957eb3f708365e7a49?AccessKeyId=05106B70AA8440180999\u0026disposition=0\u0026alloworigin=1)\n\n![数理统计](https://assets.ng-tech.icu/item/20230416205419.png)\n\n```mermaid\ngraph TD\n    A[基础数学] --\u003e B[线性代数]\n    A --\u003e C[微积分]\n    A --\u003e D[离散数学]\n    B --\u003e E[计算几何]\n    C --\u003e E\n    D --\u003e F[图论]\n```\n\n# 应用数学知识体系\n\n## 第一部分：数学基础\n\n### 1. 数理逻辑\n\n#### 1.1 命题逻辑\n\n- 基本命题与联结词\n- 真值表与逻辑等价\n- 推理规则与演算\n- 范式与化简\n- 可满足性问题\n\n#### 1.2 谓词逻辑\n\n- 量词与谓词\n- 谓词公式\n- 推理系统\n- 一阶逻辑\n- 可判定性\n\n#### 1.3 数学证明\n\n- 直接证明法\n- 反证法\n- 数学归纳法\n- 构造性证明\n- 算法正确性证明\n\n### 2. 集合论基础\n\n#### 2.1 集合运算\n\n- 集合的表示方法\n- 并差交补运算\n- 笛卡尔积\n- 幂集\n- 集合代数定律\n\n#### 2.2 关系\n\n- 二元关系\n- 等价关系\n- 偏序关系\n- 良序关系\n- 关系的性质\n\n#### 2.3 映射\n\n- 映射的定义\n- 单射与满射\n- 双射与逆映射\n- 复合映射\n- 映射的应用\n\n### 3. 离散数学\n\n#### 3.1 组合数学\n\n- 加法与乘法原理\n- 排列与组合\n- 二项式定理\n- 生成函数\n- 递推关系\n\n#### 3.2 图论基础\n\n- 图的基本概念\n- 路径与回路\n- 树与生成树\n- 图的遍历\n- 最短路径\n- 网络流\n- 图着色问题\n\n#### 3.3 代数结构\n\n- 群的概念\n- 环与域\n- 同态与同构\n- 置换群\n- 编码理论基础\n\n## 第二部分：线性代数\n\n### 1. 向量空间\n\n#### 1.1 向量运算\n\n- 向量的代数运算\n- 线性组合\n- 内积与范数\n- 正交性与正交化\n- 向量空间的度量\n\n#### 1.2 线性相关性\n\n- 线性相关与无关\n- 向量组的秩\n- 基与维数\n- 坐标系统\n- 基变换\n\n#### 1.3 子空间理论\n\n- 子空间的定义\n- 生成子空间\n- 直和与补空间\n- 正交补\n- 商空间\n\n### 2. 矩阵理论\n\n#### 2.1 矩阵运算\n\n- 矩阵的代数运算\n- 分块矩阵\n- 矩阵乘法\n- 转置与逆矩阵\n- 初等变换\n\n#### 2.2 特殊矩阵\n\n- 对称矩阵\n- 正交矩阵\n- 正定矩阵\n- 稀疏矩阵\n- 随机矩阵\n- Toeplitz 矩阵\n- 循环矩阵\n\n#### 2.3 行列式\n\n- 行列式的定义\n- 行列式的性质\n- 行列式的计算\n- 克莱姆法则\n- 行列式的应用\n\n### 3. 矩阵分解与应用\n\n#### 3.1 基本分解\n\n- 特征值分解\n- 奇异值分解(SVD)\n- LU 分解\n- QR 分解\n- Cholesky 分解\n\n#### 3.2 应用型分解\n\n- 主成分分析(PCA)\n- 非负矩阵分解(NMF)\n- 因子分析\n- 张量分解\n- 谱聚类\n\n#### 3.3 矩阵近似\n\n- 低秩近似\n- 矩阵补全\n- 压缩感知\n- 稀疏表示\n- 字典学习\n\n### 4. 线性变换\n\n#### 4.1 基本理论\n\n- 线性变换的定义\n- 矩阵表示\n- 核空间与像空间\n- 秩-零化度定理\n- 特征空间分解\n\n#### 4.2 几何变换\n\n- 旋转变换\n- 缩放变换\n- 剪切变换\n- 投影变换\n- 仿射变换\n\n#### 4.3 应用\n\n- 线性系统求解\n- 最小二乘问题\n- 线性回归\n- 线性分类\n- 降维技术\n- 核方法\n\n## 第三部分：微积分与分析\n\n### 1. 函数与极限\n\n#### 1.1 函数基础\n\n- 函数的概念\n- 初等函数\n- 复合函数\n- 反函数\n- 隐函数\n- 参数方程\n\n#### 1.2 极限理论\n\n- 数列极限\n- 函数极限\n- ε-δ 语言\n- 极限运算法则\n- 夹逼准则\n- 单调有界准则\n\n#### 1.3 连续性\n\n- 连续性定义\n- 间断点分类\n- 连续函数性质\n- 一致连续\n- 紧集上的连续性\n- Lipschitz 连续\n\n### 2. 微分学\n\n#### 2.1 导数基础\n\n- 导数定义\n- 求导法则\n- 高阶导数\n- 隐函数求导\n- 参数方程求导\n- 方向导数\n\n#### 2.2 偏导数\n\n- 偏导数定义\n- 全微分\n- 链式法则\n- 隐函数定理\n- 雅可比矩阵\n- Hessian 矩阵\n\n#### 2.3 微分应用\n\n- 函数极值\n- 泰勒展开\n- 拉格朗日乘子法\n- 梯度下降\n- 牛顿法\n- 最速下降法\n\n### 3. 积分学\n\n#### 3.1 不定积分\n\n- 原函数概念\n- 基本积分公式\n- 换元积分法\n- 分部积分法\n- 有理函数积分\n- 三角函数积分\n\n#### 3.2 定积分\n\n- Riemann 积分\n- Newton-Leibniz 公式\n- 定积分性质\n- 反常积分\n- 数值积分方法\n- 积分应用\n\n#### 3.3 重积分\n\n- 二重积分\n- 三重积分\n- 曲线积分\n- 曲面积分\n- Green 公式\n- Stokes 公式\n- Gauss 公式\n\n### 4. 级数与变换\n\n#### 4.1 数项级数\n\n- 级数收敛性\n- 正项级数\n- 交错级数\n- 绝对收敛\n- 条件收敛\n- 级数审敛法\n\n#### 4.2 函数项级数\n\n- 幂级数\n- Taylor 级数\n- Fourier 级数\n- 一致收敛性\n- 函数空间\n- 正交系统\n\n#### 4.3 积分变换\n\n- Fourier 变换\n- Laplace 变换\n- Z 变换\n- 小波变换\n- 变换性质\n- 卷积定理\n\n## 第四部分：概率论与统计\n\n### 1. 概率论基础\n\n#### 1.1 概率空间\n\n- 样本空间\n- 事件域\n- 概率测度\n- 概率公理\n- 条件概率\n- 全概率公式\n- Bayes 公式\n\n#### 1.2 随机变量\n\n- 离散随机变量\n- 连续随机变量\n- 分布函数\n- 密度函数\n- 数字特征\n- 特征函数\n- 矩母函数\n\n#### 1.3 多维随机变量\n\n- 联合分布\n- 边缘分布\n- 条件分布\n- 独立性\n- 相关系数\n- Copula 函数\n- 多维变换\n\n### 2. 概率分布与模型\n\n#### 2.1 离散分布\n\n- 伯努利分布\n- 二项分布\n- 泊松分布\n- 几何分布\n- 负二项分布\n- 超几何分布\n- 多项分布\n\n#### 2.2 连续分布\n\n- 均匀分布\n- 正态分布\n- 指数分布\n- Gamma 分布\n- Beta 分布\n- t 分布\n- F 分布\n- χ² 分布\n\n#### 2.3 概率模型\n\n- 多元正态分布\n- 混合模型\n- 指数族分布\n- 共轭先验\n- 隐马尔可夫模型\n- 贝叶斯网络\n- 图模型\n\n### 3. 统计推断\n\n#### 3.1 抽样理论\n\n- 简单随机抽样\n- 统计量\n- 抽样分布\n- 中心极限定理\n- 大数定律\n- Bootstrap 方法\n- 经验分布\n\n#### 3.2 参数估计\n\n- 点估计\n- 区间估计\n- 最大似然估计\n- 最大后验估计\n- 矩估计\n- 贝叶斯估计\n- EM 算法\n- MCMC 方法\n\n#### 3.3 假设检验\n\n- 显著性检验\n- 功效分析\n- 参数检验\n- t 检验\n- χ² 检验\n- 方差分析\n- 多重检验\n- 非参数检验\n\n### 4. 统计建模\n\n#### 4.1 回归分析\n\n- 线性回归\n- 多元回归\n- 广义线性模型\n- 非线性回归\n- 岭回归\n- Lasso 回归\n- 主成分回归\n- 稳健回归\n\n#### 4.2 时间序列\n\n- 平稳过程\n- 自相关函数\n- AR 模型\n- MA 模型\n- ARMA 模型\n- ARIMA 模型\n- GARCH 模型\n- 状态空间模型\n\n## 第五部分：最优化理论\n\n### 1. 最优化基础\n\n#### 1.1 问题形式\n\n- 目标函数\n- 约束条件\n- 可行域\n- 局部最优\n- 全局最优\n- 凸优化问题\n- 非凸优化\n\n#### 1.2 优化理论\n\n- 凸集\n- 凸函数\n- 次梯度\n- KKT 条件\n- 对偶理论\n- 鞍点理论\n- 变分法\n\n#### 1.3 优化模型\n\n- 线性规划\n- 二次规划\n- 整数规划\n- 非线性规划\n- 半定规划\n- 多目标优化\n- 随机优化\n\n### 2. 无约束优化\n\n#### 2.1 一阶方法\n\n- 梯度下降法\n- 最速下降法\n- 随机梯度下降\n- 动量法\n- AdaGrad\n- RMSprop\n- Adam 算法\n- 自适应学习率\n\n#### 2.2 二阶方法\n\n- 牛顿法\n- 拟牛顿法\n- BFGS 算法\n- L-BFGS 算法\n- 共轭梯度法\n- 信赖域方法\n- 拟牛顿-CG 混合\n\n#### 2.3 直接搜索\n\n- 网格搜索\n- 单纯形法\n- 模式搜索\n- 遗传算法\n- 粒子群优化\n- 模拟退火\n- 差分进化\n\n### 3. 约束优化\n\n#### 3.1 等式约束\n\n- 拉格朗日乘子法\n- 罚函数法\n- 增广拉格朗日法\n- 内点法\n- 序列二次规划\n- 可行方向法\n- 障碍函数法\n\n#### 3.2 不等式约束\n\n- 主动集方法\n- 投影梯度法\n- 切平面法\n- 椭球法\n- 内点法变体\n- 外点法\n- 精确惩罚函数\n\n#### 3.3 特殊约束\n\n- 边界约束\n- 线性约束\n- 二次约束\n- 锥约束\n- 半定约束\n- 整数约束\n- 组合约束\n\n### 4. 优化应用\n\n#### 4.1 机器学习优化\n\n- 损失函数设计\n- 正则化优化\n- 稀疏优化\n- 在线学习\n- 分布式优化\n- 随机优化\n- 对抗优化\n\n#### 4.2 工程应用\n\n- 最优控制\n- 轨迹规划\n- 资源分配\n- 网络优化\n- 投资组合\n- 调度问题\n- 设计优化\n\n## 第六部分：数值计算方法\n\n### 1. 数值代数\n\n#### 1.1 线性方程组\n\n- 高斯消元法\n- LU 分解求解\n- Cholesky 分解\n- 迭代法基础\n- Jacobi 迭代\n- Gauss-Seidel 迭代\n- SOR 方法\n- 共轭梯度法\n\n#### 1.2 特征值计算\n\n- 幂法\n- 反幂法\n- QR 算法\n- Lanczos 算法\n- Arnoldi 算法\n- Jacobi 方法\n- 双边 Lanczos\n- 隐式重启\n\n#### 1.3 矩阵计算\n\n- 矩阵范数\n- 条件数\n- 病态问题\n- 预处理技术\n- 稀疏矩阵存储\n- 并行计算基础\n- 误差分析\n- 数值稳定性\n\n### 2. 插值与逼近\n\n#### 2.1 插值方法\n\n- 拉格朗日插值\n- 牛顿插值\n- Hermite 插值\n- 分段线性插值\n- 三次样条插值\n- B 样条\n- 三角插值\n- 多维插值\n\n#### 2.2 函数逼近\n\n- 最小二乘法\n- 正交多项式\n- Chebyshev 多项式\n- Legendre 多项式\n- 傅里叶逼近\n- 有理函数逼近\n- Padé 逼近\n- 小波逼近\n\n#### 2.3 数值微分\n\n- 差分公式\n- Richardson 外推\n- 自动微分\n- 符号微分\n- 高阶导数\n- 偏导数计算\n- 梯度计算\n- Hessian 计算\n\n### 3. 数值积分\n\n#### 3.1 一维积分\n\n- 梯形法则\n- Simpson 法则\n- Newton-Cotes 公式\n- Gauss 求积\n- Romberg 积分\n- 自适应积分\n- 奇异积分\n- 振荡积分\n\n#### 3.2 多维积分\n\n- 重积分计算\n- Monte Carlo 方法\n- 准 Monte Carlo\n- 重要性采样\n- 拒绝采样\n- Metropolis 算法\n- Gibbs 采样\n- 数值路径积分\n\n### 4. 微分方程数值解\n\n#### 4.1 常微分方程\n\n- Euler 方法\n- Runge-Kutta 方法\n- 多步法\n- Adams 方法\n- 预测校正法\n- 刚性问题\n- 边值问题\n- 打靶法\n\n#### 4.2 偏微分方程\n\n- 有限差分法\n- 有限元法\n- 有限体积法\n- 谱方法\n- 边界元法\n- 特征线法\n- 交替方向法\n- 多重网格法\n\n### 5. 优化算法实现\n\n#### 5.1 数值优化基础\n\n- 线搜索方法\n- Wolfe 条件\n- Armijo 准则\n- 步长选择\n- 收敛性分析\n- 数值精度\n- 停止准则\n- 全局化策略\n\n#### 5.2 实践技巧\n\n- 参数调优\n- 数值稳定性\n- 计算效率\n- 内存管理\n- 并行计算\n- GPU 加速\n- 自动微分\n- 混合精度计算\n\n# Nav | 关联导航\n\n# About | 关于\n\n\u003c!-- CONTRIBUTING --\u003e\n\n## Contributing\n\nContributions are what make the open source community such an amazing place to be learn, inspire, and create. Any contributions you make are **greatly appreciated**.\n\n1. Fork the Project\n2. Create your Feature Branch (`git checkout -b feature/AmazingFeature`)\n3. Commit your Changes (`git commit -m 'Add some AmazingFeature'`)\n4. Push to the Branch (`git push origin feature/AmazingFeature`)\n5. Open a Pull Request\n\n\u003c!-- ACKNOWLEDGEMENTS --\u003e\n\n## Acknowledgements\n\n- [Awesome-Lists](https://github.com/wx-chevalier/Awesome-Lists): 📚 Guide to Galaxy, curated, worthy and up-to-date links/reading list for ITCS-Coding/Algorithm/SoftwareArchitecture/AI. 💫 ITCS-编程/算法/软件架构/人工智能等领域的文章/书籍/资料/项目链接精选。\n\n- [Awesome-CS-Books](https://github.com/wx-chevalier/Awesome-CS-Books): :books: Awesome CS Books/Series(.pdf by git lfs) Warehouse for Geeks, ProgrammingLanguage, SoftwareEngineering, Web, AI, ServerSideApplication, Infrastructure, FE etc. :dizzy: 优秀计算机科学与技术领域相关的书籍归档。\n\n## Copyright \u0026 More | 延伸阅读\n\n笔者所有文章遵循[知识共享 署名 - 非商业性使用 - 禁止演绎 4.0 国际许可协议](https://creativecommons.org/licenses/by-nc-nd/4.0/deed.zh)，欢迎转载，尊重版权。您还可以前往 [NGTE Books](https://ng-tech.icu/books-gallery/) 主页浏览包含知识体系、编程语言、软件工程、模式与架构、Web 与大前端、服务端开发实践与工程架构、分布式基础架构、人工智能与深度学习、产品运营与创业等多类目的书籍列表：\n\n[![NGTE Books](https://s2.ax1x.com/2020/01/18/19uXtI.png)](https://ng-tech.icu/books-gallery/)\n\n# Links\n\n\u003c!-- MARKDOWN LINKS \u0026 IMAGES --\u003e\n\u003c!-- https://www.markdownguide.org/basic-syntax/#reference-style-links --\u003e\n\n[contributors-shield]: https://img.shields.io/github/contributors/wx-chevalier/Mathematics-Notes.svg?style=flat-square\n[contributors-url]: https://github.com/wx-chevalier/Mathematics-Notes/graphs/contributors\n[forks-shield]: https://img.shields.io/github/forks/wx-chevalier/Mathematics-Notes.svg?style=flat-square\n[forks-url]: https://github.com/wx-chevalier/Mathematics-Notes/network/members\n[stars-shield]: https://img.shields.io/github/stars/wx-chevalier/Mathematics-Notes.svg?style=flat-square\n[stars-url]: https://github.com/wx-chevalier/Mathematics-Notes/stargazers\n[issues-shield]: https://img.shields.io/github/issues/wx-chevalier/Mathematics-Notes.svg?style=flat-square\n[issues-url]: https://github.com/wx-chevalier/Mathematics-Notes/issues\n[license-shield]: https://img.shields.io/github/license/wx-chevalier/Mathematics-Notes.svg?style=flat-square\n[license-url]: https://github.com/wx-chevalier/Mathematics-Notes/blob/master/LICENSE.txt\n","project_url":"https://awesome.ecosyste.ms/api/v1/projects/github.com%2Fwx-chevalier%2Fmathematics-notes","html_url":"https://awesome.ecosyste.ms/projects/github.com%2Fwx-chevalier%2Fmathematics-notes","lists_url":"https://awesome.ecosyste.ms/api/v1/projects/github.com%2Fwx-chevalier%2Fmathematics-notes/lists"}