Python数据分析的流程(python数据分析的流程图)

python如何做数据分析

用Python做数据分析，大致流程如下：

1、数据获取

可以通过SQL查询语句来获取数据库中想要数据。Python已经具有连接sql server、mysql、orcale等主流数据库的接口包，比如pymssql、pymysql、cx_Oracle等。

2、数据存储

企业当中的数据存储，拆渗简通过通过数据库如Mysql来存储与管理，对于非结构化数据的存旅裤储可以使用MongoDB等。对于使用Python进行网络抓取的数据，我们也可以使用pymysql包快速地将其存储到Mysql中去。

3、数据预处理/数据清洗

大多数情况下，原始数据是存在格式不一致，存在异常值、缺失值等问题的，而不同项目数据预处理步骤的方法也不一样。Python做数据清洗，可以喊冲使用Numpy和Pandas这两个工具库。

4、数据建模与分析

常见的数据挖掘模型有：分类、聚类、回归等，这些常见的算法模型，Python也有Scikit-learn和Tensorflow工具库来支持。

5、数据可视化分析

在数据可视化方面，Python有Matplotlib、Seaborn、Pyecharts等工具库可用。

如何利用python进行数据分析

利用python进行数据分析 ?

链接: ?

?pwd=3nfn 提取码: 3nfn

本书也可以作为利用Python实现数据密集型应用的科学计算实践指南。本书适合刚刚启戚接触脊困Python的分析人员以及刚刚接触科学樱旁念计算的Python程序员。

python数据分析的一般步骤是什么

下面是用python进行数据分析的一般步骤：

一：数据抽取

从外部源数据中获取数据

保存为各种格式的文件、数据库等

使用Scrapy爬虫等技术

二：数据加载

从数据库、文件中提取数据，变成DataFrame对象

pandas库的文件读取方法

三：数据处理

数据准备：

对DataFrame对象（多个）进行组装、合并等操作

pandas库的操作

数据转化：

类型转化、羡盯分类（面元等）、异常值检测、过滤等

pandas库的操作

数据聚合：

分组（分类）、函数处理、合并成新的对象

pandas库的操作

四：数据可族雹视化

将pandas的数据结构转化为图表的形式

matplotlib库

五：预测模型的创建和评估

数据挖掘的各种算法：

关联规则挖掘、回归分析、聚类、分类、时序挖掘、序列模式挖掘等

六：部署（得出结果）

从模型和评估中获得知识

知识的兆派帆表示形式：规则、决策树、知识基、网络权值

更多技术请关注python视频教程。

python怎么分析数据

python怎么分析数据？

在不同的场景下通常可以采用不同的数据分析方式，比如对于大部分职场人来说，Excel可以满足大部分数据分析场景，当数据量比较大的时候可以通过学习数据库知识来完成数据分析任务，对于更复杂的数据分析场景可以通过BI工具来完成数据分析。通过工具进行数据分析一方面比较便捷，另一方面也比较容易掌握。

但是针对于更加开放的数据分析场景时，就需要通过编程的方式来进行数据分析了，比如通过机器学习的方式进行数据分析，而Python语言在机器学习领域有广泛的应用。采用机器学习的方式进行数据分析需要经过五个步骤，分别是数据准粗渣宴备、算法设计、岩银算法训练、算法验证和算法应用。

采用机器学习进行数据分析时，首先要了解一下常见的算法，比如knn、决策树、支持向量机、朴素贝叶斯等等，这些算法都是机器学习领域非常常见的算法，也具有比较广泛的应用场景。当然，学习这些算法也需要具备一定的线性代数和概率论基础。学习不同的算法最好结合相应的应用场景进行分析，有的场景也需要结合多个算法进行分析梁嫌。另外，通过场景来学习算法的使用会尽快建立画面感。

采用Python进行数据分析还需要掌握一系列库的使用，包括Numpy（矩阵运算库）、Scipy（统计运算库）、Matplotpb（绘图库）、pandas（数据集操作）、Sympy（数值运算库）等库，这些库在Python进行数据分析时有广泛的应用。

相关推荐：《Python教程》以上就是小编分享的关于python怎么分析数据的详细内容希望对大家有所帮助，更多有关python教程请关注环球青藤其它相关文章！

基于python的prosper借贷平台之数据分析

项目介绍：

p2p 借贷业兄租务具有门槛低，渠道成本低的特性，风险防控对于出借企业来说亩升非常重要。本项目需要

从大量借贷者的数据集中分析出容易违约和不容易违约的人群画像特征，以给业务做贷前决策使

用。同时使用机器学习算法，实现自动识别风险人群（精准率为 89.86%），加快人工审查效率。

项目具体内容：

1、使用 python pandas 工具进行数据清洗、缺失值、异常值处理以及特征指标筛选。

2、使用 python matplotlib 可视化工具进行探索式数据分析，展示用户关键特征如月收入、信用卡

透支情况对于违约率的影响情况。

3、使用机器学习随机森林进行建模分析，使用学习曲线、网格搜索、交叉验证，最终得到了一个评

分为 84.9%、精准率为 89.86%、召回率为 80.70%、auc 面积为 0.9337 数据预测模型。

? ? 本次数据训练使用的模型是随机森林分类算法，通过对预处理过的数据集进行训练，使用学习曲线、网格搜索、交叉验证。最终得到了一个评分为84.9%、精准率为89.86%、召回率为80.70%、 auc面积为0.9337 数据预测模型。?

数据预处理的基本流程与思路：

1、首先要明确有多少特征，哪些是连续的，哪些是类别的。

2、检查有没有缺失值，对确实的特征选择恰当方式进行弥补，使数据完整。

3、对连续的数值型特征进行标准化，使得均值为0，方差为1。

4、对类别型的特征进行one-hot编码。

5、将需要转换成类别型数据的连续型数据进行二值化。

6、为防止过拟合或者其他原因，选择是否要将数据进行正则化。

7、在对数据进行初探之后发现效果不佳，可以尝试使用多项式方法，寻找非线性的关系。

8、根据实际问题分析是否需要对特征进行相应的函数转换。

导入数据集，并查看数据基本情况。可以看到prosper原始数据量比较庞大，一个有113937个样本，80个特征列，1个标签列。

1.1、特征较多，先共删减一部分无用的特征。

1.2?查看数据缺失情况，可以看到有40个特征是存在数据缺失的，缺失率从0.000219-0.882909不等。下面处理缺失数据。

1.2.1?删除缺失值比较多的特征

下面两个特征缺失率太高，且与迅尘老我们要分析的相关性不大，直接删除掉。

1.2.2 获取数据类型是分类变量的所有特征，并使用unknown进行填充

1.2.3 特殊变量使用计算公式进行填充

1.2.4 去掉意义重复列

1.2.5 删除缺失率比较少的特征的缺失数据行

处理完缺失数据后，样本量为106290，特征量为55

1.3 数据过滤

1.3.1 从2009年7月开始，Prosper调整了对客户的评估方式，此次我们只对2009-07-01后的贷款进行分析。

过滤完数据后，样本量变为82931，特征量为54

2.1单变量分析

0为未违约人数，1位违约人数，可以看到2009.07以后，违约率为22.90%

2.1.1不同地区贷款数量分布

从图中可以看到加利福尼亚州贷款数量远比其他州的数量高。由于prosper总部就位于加利福尼亚州，这与实际情况一致。其他排名靠前的分别是得克萨斯、纽约、佛罗里达、伊利诺伊，贷款数据均超过了5000条。根据2015年美国各州的GDP排名，这5个州刚好排名前五，而且顺序也是一致的。说明Prosper平台的用户主要分布在美国经济发达的地区。

2.1.2?贷款人收入情况分布

年薪在25000美金以上在美国属于技术性白领或者有一定学历的职员，50000美金已经是近金领阶层，比如：大学教授，医生等。从图中可以看出Prosper平台用户的收入水平都相对较高，有利于用户还款，利于平台和投资者的风险控制。

2.1.3贷款人职业分布

从图中可以看出，除了不愿意透露具体职业的人，大部分用户是教授、程序员、企业高管等具有一定社会地位的人，这部分人受过高等教育，信用有一定保障。另外，这与之前看到的收入情况相符。

2.1.4贷款人债务收入比分布

大部分用户的债务收入比在0.2左右，超过0.5的占很少部分。说明Prosper平台用户的还款能力还是比较乐观的

2.1.5?贷款者信用卡使用情况

BankcardUtilization代表的是信用卡使用金额和信用卡额度的比值，可以体现用户的资金需求。Prosper用户多是0.5~1之间，说明用户每个月还有信用卡要还，降低了其还款能力。

2.2?相关的关键因素对贷款违约率的影响

2.2.1借贷人收入IncomeRange对违约率的影响

从图中可以看出：

1.一般来说收入越高违约率越低

2.贷款的人员主要集中在中等收入群体

2.2.2?债务收入比DebtToIncomeRatio对违约率的影响

从上图可以看出：

1.债务收入比小于0.6时，违约数明显小于未违约数，

2.当债务收入比大于0.6时，两者的差距不是很明显甚至违约数大于未违约数，说明了债务收入比越大的人越容易违约

2.2.3 借款人BankcardUtilization对违约率的影响

1.总的来说，随着信用卡的透支比例越来越高，违约率也越来越高

2.SuperUse的违约率到了37.5%，这部分人群需要严格了监控，No Use人群也有31%的违约率，当初将信用卡透支比例为0和NA的数据都归类为No Use，显然没有这么简单，应该是大部分人群的NA值是为了隐藏自己的高透支比例而填写的

2.2.4 消费信用分CreditScoreRange对违约率的影响

从上图可以看出：

1.随着信用分数CreditScore的上升，它的违约率在下降

2.大部分贷款者的信用分为650-800，违约率在0.06-0.02

2.2.5 过去7年借款人违约次数DelinquenciesLast7Years对违约率的影响

过去七年违约次数(DelinquenciesLast7Years)能够衡量一个人在过去七年中征信情况，违约一次或以上的人在借款时违约概率更大。

?从上图可以看出：

1.总体来说过去7年违约次数越多，违约率越高

2.过去7年未违约的人数相对来说比其他违约的人数高很多，具体看下面的分析

3.1 数据转化

3.1.1类变量进行哑变量化

样本量变为82931，特征量为127

3.1.2?标签变量进行二分类

已完成贷款的样本量变为26365，特征量为127

未违约率为：0.7709084012895885；违约率为0.22909159871041151

3.2 至此，数据预处理的工作就告一段落，保存预处理好的数据。

?导入经过预处理的prosper借贷数据集

4.1?手工挑选特征查看一下建模效果

准确率为0.7695

4.2?使用模型自己选取特征

准确率为0.7780

4.3?使用学习曲线选取最优n_estimators

在0-200/20内学习，得到最优n_estimators=161,score = 0.8508

在151-171/20内学习，得到最优n_estimators=163,score = 0.8511

4.4?使用网格搜索调其他参数

在0-60/5内学习，得到最优max_depth=41

在0-60/5内学习，得到最优max_features=16

这里由于比较耗时，没有进一步细化选择更高的参数

4.4 最终模型效果

最终准确率 0.8490528905289052

混淆矩阵 :

[[5552? 554]

[1175 4914]]

精准率 : [0.82533076 0.89868325]

召回率 : [0.90926957 0.80702907]

roc和auc面积为0.9337

4.5 查看各特征的重要性

4.6?数据预测

预测的违约率0.0427