https://github.com/snowty/dl_for_sec
《Web安全深度学习实战》的读书笔记
https://github.com/snowty/dl_for_sec
Last synced: 8 months ago
JSON representation
《Web安全深度学习实战》的读书笔记
- Host: GitHub
- URL: https://github.com/snowty/dl_for_sec
- Owner: Snowty
- Created: 2018-03-25T02:36:31.000Z (over 8 years ago)
- Default Branch: master
- Last Pushed: 2018-03-25T04:21:26.000Z (over 8 years ago)
- Last Synced: 2025-07-29T17:35:35.308Z (11 months ago)
- Language: PHP
- Homepage:
- Size: 2.22 MB
- Stars: 0
- Watchers: 1
- Forks: 0
- Open Issues: 0
-
Metadata Files:
- Readme: readme.md
Awesome Lists containing this project
README
# 前言
《Web安全深度学习实战》的读书笔记，源码和数据均来自兜哥的[Git](https://github.com/duoergun0729/2book)，代码可能根据报错进行微调，然后加了一些注释。
运行环境:
MAC 10.13.3
Python 3.6.4 Anaconda
# 数据预处理
[TF-IDF](http://www.ruanyifeng.com/blog/2013/03/tf-idf.html)
[余弦相似性](http://www.ruanyifeng.com/blog/2013/03/cosine_similarity.html)
[TF-IDF、词袋模型与特征工程](https://segmentfault.com/a/1190000011480420)
+ 词袋模型:如果一个单词在文档中出现不止一次，就统计其出现的次数，词袋在词集的基础上加入了频率这个维度，使统计拥有更好的效果，通常我们在应用中都选用词袋模型。
+ TF-IDF:
+ TF意思是词频(Term Frequency):某个词在语料库中出现的次数
+ IDF意思是逆向文件频率(Inverse Document Frequency):某个词在某一类别出现的多，在其他类别出现的少，那IDF的值就会比较大
+ 因此TF-IDF其实就是TF＊IDF
+ 词袋模型与TF-IDF联合使用:用词袋模型筛选出一些高热度词汇，再用tf-idf计算其权值,详情见[BoW_tfidf.py](./forReadme/BoW_tfidf.py)
[N-gram提取特征](https://zhuanlan.zhihu.com/p/29555001)
# 常用算法
[机器学习算法比较](http://www.csuldw.com/2016/02/26/2016-02-26-choosing-a-machine-learning-classifier/)
[机器学习中，模型、算法如何选择？](https://zhuanlan.zhihu.com/p/32953163)
| 算法名 | 简介 | Reference |
| :------------|:-------------- | :---------------------------------------------- |
| 决策树 | if-then | [【机器学习】决策树（上）——从原理到算法实现](https://blog.csdn.net/HerosOfEarth/article/details/52347820)|
| SVM | 二分类 | [支持向量机(SVM)是什么意思？](https://www.zhihu.com/question/21094489) |
| k-means | 聚类 | [从零开始实现Kmeans聚类算法](https://blog.csdn.net/u013719780/article/details/78413770) |
| kNN | 找出最靠近的k个样本 | [机器学习（一）——K-近邻（KNN）算法](https://www.cnblogs.com/ybjourney/p/4702562.html)|
| Naive Bayes | 基于概率论的分类 | [深入理解朴素贝叶斯（Naive Bayes）](https://blog.csdn.net/li8zi8fa/article/details/76176597)|
| AdaBoost | 弱分类器加权集合 | [简单易学的机器学习算法——AdaBoost](https://blog.csdn.net/google19890102/article/details/46376603)|
| gbdt || [简单易学的机器学习算法——梯度提升决策树GBDT](https://blog.csdn.net/google19890102/article/details/51746402)|
| xgboost || [xgboost入门与实战（原理篇）](https://blog.csdn.net/sb19931201/article/details/52557382)|
# 模型评估
[sklearn中的模型评估-构建评估函数](https://www.cnblogs.com/harvey888/p/6964741.html)
+ sklearn中的Metric：
```
- TP，True Positive
- FP，False Positive
- TN，True Negative
- FN，False Negative
```
+ metrics.precision_score:精确度,P = TP / (TP + FP)
+ metrics.recall_score:召回率, R = TP / (TP + FN)
+ metrics.accuracy_score:准确率,A = (TP + TN) / (TP + FP + TN + FN)
+ metrics.f1_score:F = 2*P*R/(P+R)
+ metrics.confusion_matrix:混淆矩阵
# 一些安装包
+ 没写的可能Anaconda已经安装好了或者我之前安装过或者可以pip一键安装
+ [xgboost 安装](https://stackoverflow.com/questions/40747738/importerror-no-module-named-xgboost)
```
git clone --recursive https://github.com/dmlc/xgboost
cd xgboost
sudo cp make/minimum.mk ./config.mk;
sudo make -j4;
sh build.sh
cd python-package
python setup.py install
```