社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  Python

Python 机器学习+深度学习项目实战

机器学习AI算法工程 • 1 年前 • 542 次点击  

向AI转型的程序员都关注了这个号👇👇👇



一 Python运行软件(Pycharm,Anaconda

     注意事项:我们一般用的python版本是python3.5,python3.6和python3.7安装  

     tensorflow时很麻烦,而且各种包也与高版本的python冲突。所以我们统一采

     用python3.5。解释一下:官网安装的是高版本的,但需要在Anaconda下添加  

     python3.5的操作平台。

•Pycharm安装:

https://www.cnblogs.com/dcpeng/p/9031405.html

•Anaconda安装:

https://blog.csdn.net/ITLearnHall/article/details/81708148

 二 :python 环境配置 (Pycharm+Anaconda)

Anaconda环境下可以直接下载安装各种所需的工具包,但要想pycharm中使用这些包,则需要把pycharm的路径配置到Anaconda下的python3.5环境。

https://mp.weixin.qq.com/s/HimUkfCNknQzFbXXuHeAkQ


(1)配置Anaconda路径,添加环境变量,在cmd命令里检查版本信息。

       %\ProgramData\Anaconda3; %\ProgramData\Anaconda3\Library\mingw-

           w64\bin; %\ProgramData\Anaconda3\Library\usr\bin;

https://blog.csdn.net/z2858539804/article/details/81407456

(2)Anaconda下载各种所需的模型库和python扩展包。

          Pip install  (numpy/pandas/matplotlib) 等第三方包。

       (注意:必须在tensorflow路径下安装,cmd / activate tensorflow / pip install

           numpy   才可以将这些包存放在指定路径)

          也可以在Anaconda中直接添加,但往往引起版本冲突,导致报错。


三 :Anaconda+tensorflow+sklearn+python3.5安装

Sklearn和tensorflow简介:

•机器学习算法框架:sklearn(Scikit-learning)等。

•深度学习算法框架:tensorflow, caffe, pytorch, keras等

在使用算法框架之前,配置好算法需要的环境是重中之重。Anaconda自带sklearn包,而深度学习需要的包我们可以通过Anaconda安装,然后将路径配置到pycharm里调用。

•Sklearn官网(案例)

https://scikit-learn.org/stable/auto_examples/plot_kernel_approximation.html#sphx-glr-auto-examples-plot-kernel-approximation-py

•Sklearn库学习文档:                                                                   

http://sklearn.apachecn.org/#/docs/2

•Sklearn和tensorflow的区别

https://www.jianshu.com/p/0837b7c6ce10

•Anaconda配置tensorflow:

https://blog.csdn.net/ebzxw/article/details/80701613


五 :机器学习项目实战

入门项目学习

•机器学习案例——鸢尾花数据集分析

https://blog.csdn.net/heuguangxu/article/details/80426437#commentsedit

Sklearn官网(鸢尾花数据集)

https://scikit-learn.org/stable/auto_examples/plot_kernel_approximation.html#sphx-glr-auto-examples-plot-kernel-approximation-py

•kaggle 泰坦尼克号生存预测

https://blog.csdn.net/aicanghai_smile/article/details/79234172

特征工程

特征工程:用来制作数据集,清洗杂乱无章的数据,制作标签。将清洗后的数据分为训练集合测试集,喂给算法模型。

鸢尾花数据集特征少,不需要继续分析特征与标签的相关性。当输入特征过多时,就需要筛选特征,保留对结果影响最大的特征,去除与输出标签相关性较小的特征。能够大幅度提高模型精度。

在Kaggal大赛里的数据集一般含有较多特征,当我们去除的特征过多时,也会造成结果的精确度差,所以一般需要对这些特征本身进行分析,必要时需要对单一特征进行划分,由一个特征分为几个部分的新建特征,一般采用One-hot(独热)编码实现。泰坦尼克项目里,排名靠前的算法都是对特征进行了更为精确的划分。

机器学习算法

分类算法:

Bayes   (贝叶斯)

Decision Tress  (决策树)

SVM  (支持向量机)

KNN  (K近邻)

Logistic Regression(逻辑回归)

神经网络

https://www.cnblogs.com/mfryf/p/6276943.html


回归算法:

线性回归、多元回归、神经网络

Ridge Regression  (岭回归)

Lasso Regressio

https://blog.csdn.net/yangzhiyouvl/article/details/53955073


聚类算法:

K-means  (K-均值

DBSCAN算法(基于密度的方法)

CLARANS算法(划分方法

GMM(混合高斯模型)

https://www.cnblogs.com/fionacai/p/5873975.html


融合模型:

Boosting、Bagging

结合策略:

平均法、投票法

学习法(stacking、blending)

https://blog.csdn.net/u014248127/article/details/78993753


集成学习算法(融合模型)

集成学习概述

        集成学习在机器学习算法中具有较高的准确率,不足之处就是模型的训练过程可能比较复杂,效率不是很高。目前接触较多的集成学习主要有2种:基于Boosting的和基于Bagging,前者的代表算法有Adaboost、GBDT、XGBOOST、后者的代表算法主要是随机森林


集成学习的主要思

       集成学习的主要思想是利用一定的手段学习出多个分类器,而且这多个分类器要求是弱分类器,然后将多个分类器进行组合公共预测。核心思想就是如何训练处多个弱分类器以及如何将这些弱分类器进行组合。

多个分类器的生成

       可以采用随机选取数据进行分类器的训练,也可以采用不断的调整错误分类的训练数据的权重生成新的分类器。

多个弱分类区如何组合

      基本分类器之间的整合方式,一般有简单多数投票、权重投票,贝叶斯投票,基于D-S证据理论的整合,基于不同的特征子集的整合。

https://www.cnblogs.com/sddai/p/7647731.html


六 :深度学习项目案例(猫狗大战,数字手写体识别)

数字手写体识别(BP神经网络)

https://blog.csdn.net/Finley1991/article/details/81151840

Tesorflow建立CNN神经网络

•Tensorflow-MNIST-手写数字图像识别

https://www.jianshu.com/p/e343758a185e


Minist手写数字识别(CNN实现)

网络层级结构概述:

5层神经网络输入层: 输入数据为原始训练图像(我们在实现中将28*28的灰度图片,改成了28*28的黑白图片)

第一卷积层:6个5*5的过滤器(卷积核),步长Stride为1,不补0,激活函数为sigmoid。在这一层,

                            输入为28*28,深度为1的图片数据,输出为24*24的,深度为6的图片数据。

第一采样层:过滤器(卷积核)为2*2,步长Stride为2。在这一层,输入为24*24的,深度为6的图片数据,输出为12*12的,深度为6的图片数据。

第二卷积层:12个5*5的过滤器(卷积核),步长Stride为1,不补0,激活函数为sigmoid。在这一层,

输入为12*12,深度为6的图片数据,输出为8*8的,深度为12的图片数据。

第二采样层:过滤器(卷积核)为2*2,步长Stride为2。在这一层,输入为8*8的,深度为12的图片数据,输出为4*4的,深度为12的图片数据。


输出层:线性函数输入为宽高为(4*4*12,1)的列向量,输出为10维列向量,激活函数为sigmoid.

https://blog.csdn.net/luanpeng825485697/article/details/79088938


CNN网络模型



猫狗大战(tensorflow)

运行环境:win10,64位,          TensorFlow                      CPU版本

主要用到三个python文件:

1. input_data.py    2. model.py      3. training.py

注意:  运行时,必须在整个文件目录下运行.py文件,这样才能够读取同一路径文件下的所有信息。另外,还要将运行程序的路径设置好

https://blog.csdn.net/qq_16137569/article/details/72802387


机器学习算法AI大数据技术

 搜索公众号添加: datanlp

长按图片,识别二维码




阅读过本文的人还看了以下文章:


TensorFlow 2.0深度学习案例实战


基于40万表格数据集TableBank,用MaskRCNN做表格检测


《基于深度学习的自然语言处理》中/英PDF


Deep Learning 中文版初版-周志华团队


【全套视频课】最全的目标检测算法系列讲解,通俗易懂!


《美团机器学习实践》_美团算法团队.pdf


《深度学习入门:基于Python的理论与实现》高清中文PDF+源码


《深度学习:基于Keras的Python实践》PDF和代码


特征提取与图像处理(第二版).pdf


python就业班学习视频,从入门到实战项目


2019最新《PyTorch自然语言处理》英、中文版PDF+源码


《21个项目玩转深度学习:基于TensorFlow的实践详解》完整版PDF+附书代码


《深度学习之pytorch》pdf+附书源码


PyTorch深度学习快速实战入门《pytorch-handbook》


【下载】豆瓣评分8.1,《机器学习实战:基于Scikit-Learn和TensorFlow》


《Python数据分析与挖掘实战》PDF+完整源码


汽车行业完整知识图谱项目实战视频(全23课)


李沐大神开源《动手学深度学习》,加州伯克利深度学习(2019春)教材


笔记、代码清晰易懂!李航《统计学习方法》最新资源全套!


《神经网络与深度学习》最新2018版中英PDF+源码


将机器学习模型部署为REST API


FashionAI服装属性标签图像识别Top1-5方案分享


重要开源!CNN-RNN-CTC 实现手写汉字识别


yolo3 检测出图像中的不规则汉字


同样是机器学习算法工程师,你的面试为什么过不了?


前海征信大数据算法:风险概率预测


【Keras】完整实现‘交通标志’分类、‘票据’分类两个项目,让你掌握深度学习图像分类


VGG16迁移学习,实现医学图像识别分类工程项目


特征工程(一)


特征工程(二) :文本数据的展开、过滤和分块


特征工程(三):特征缩放,从词袋到 TF-IDF


特征工程(四): 类别特征


特征工程(五): PCA 降维


特征工程(六): 非线性特征提取和模型堆叠


特征工程(七):图像特征提取和深度学习


如何利用全新的决策树集成级联结构gcForest做特征工程并打分?


Machine Learning Yearning 中文翻译稿


蚂蚁金服2018秋招-算法工程师(共四面)通过


全球AI挑战-场景分类的比赛源码(多模型融合)


斯坦福CS230官方指南:CNN、RNN及使用技巧速查(打印收藏)


python+flask搭建CNN在线识别手写中文网站


中科院Kaggle全球文本匹配竞赛华人第1名团队-深度学习与特征工程



不断更新资源

深度学习、机器学习、数据分析、python

 搜索公众号添加: datayx  


Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/161435
 
542 次点击