大数据应用开发流程

子凡 问答 2019-06-20 11:53:41 阅读(...)

大数据应用开发流程可以分为五个步骤:1、数据采集:也可以说是原始数据;2、数据汇聚:经过清洗可用的数据;3、数据转换和映射:经过分类。提取的专项数据;4、数据分析:模型的应用;5、数据可视化:分析好的数据可视化,更直观。

大数据应用开发流程可以分为五个步骤:1、数据采集:也可以说是原始数据;2、数据汇聚:经过清洗可用的数据;3、数据转换和映射:经过分类。提取的专项数据;4、数据分析:模型的应用;5、数据可视化:分析好的数据可视化,更直观。

大数据

数据采集

数据采集有线上和线下两种方式,线上一般通过爬虫、通过抓取,或者通过已有应用系统的采集,在这个阶段,我们可以做一个大数据采集平台,依托自动爬虫(使用 python 或者 nodejs 制作爬虫软件),ETL 工具、或者自定义的抽取转换引擎,从文件中、数据库中、网页中专项爬取数据,如果这一步通过自动化系统来做的话,可以很方便的管理所有的原始数据,并且从数据的开始对数据进行标签采集,可以规范开发人员的工作。并且目标数据源可以更方便的管理。

数据采集的难点在于多数据源,例如 mysql、postgresql、sqlserver 、 mongodb 、sqllite。还有本地文件、excel 统计文档、甚至是 doc 文件。如何将他们规整的、有方案的整理进我们的大数据流程中也是必不可缺的一环。

数据汇聚

数据的汇聚是大数据流程最关键的一步,你可以在这里加上数据标准化,你也可以在这里做数据清洗,数据合并,还可以在这一步将数据存档,将确认可用的数据经过可监控的流程进行整理归类,这里产出的所有数据就是整个公司的数据资产了,到了一定的量就是一笔固定资产。

数据汇聚的难点在于如何标准化数据,例如表名标准化,表的标签分类,表的用途,数据的量,是否有数据增量?,数据是否可用? 需要在业务上下很大的功夫,必要时还要引入智能化处理,例如根据内容训练结果自动打标签,自动分配推荐表名、表字段名等。还有如何从原始数据中导入数据等。

数据转换和映射

经过数据汇聚的数据资产如何提供给具体的使用方使用?在这一步,主要就是考虑数据如何应用,如何将两个?三个?数据表转换成一张能够提供服务的数据。然后定期更新增量。

经过前面的那几步,在这一步难点并不太多了,如何转换数据与如何清洗数据、标准数据无二,将两个字段的值转换成一个字段,或者根据多个可用表统计出一张图表数据等等。

数据应用

数据的应用方式很多,有对外的、有对内的,如果拥有了前期的大量数据资产,通过 restful API 提供给用户?或者提供流式引擎 KAFKA 给应用消费? 或者直接组成专题数据,供自己的应用查询?这里对数据资产的要求比较高,所以前期的工作做好了,这里的自由度很高。

大数据可视化

大数据可视化不仅仅是图表的展现,大数据可视化不仅仅是图表的展现,大数据可视化不仅仅是图表的展现,重要的事说三遍,大数据可视化归类的数据开发中,有一部分属于应用类,有一部分属于开发类。

在开发中,大数据可视化扮演的是可视化操作的角色, 如何通过可视化的模式建立模型? 如何通过拖拉拽,或者立体操作来实现数据质量的可操作性? 画两个表格加几个按钮实现复杂的操作流程是不现实的。

在可视化应用中,更多的也有如何转换数据,如何展示数据,图表是其中的一部分,平时更多的工作还是对数据的分析,怎么样更直观的表达数据?这需要对数据有深刻的理解,对业务有深刻的理解,才能做出合适的可视化应用。

收藏 0个人收藏
走进科技生活方式

评论交流

泪雪默认头像 请「登录」后参与评论
  1. 加载中..

相关推荐

  • 数据湖 data lake

    数据湖是什么

    数据湖是一个集中式存储库,允许您以任意规模存储所有结构化和非结构化数据。您可以按原样存储数据(无需先对数据进行结构化处理),并运行不同类型的分析 – 从控制面板和可视化到大数据处理、实时分析和机器学习,以指导做出更好的决策。
  • 健康物联网 healthy IoT

    什么是腾讯云物联网边缘计算平台

    腾讯云物联网边缘计算平台(IECP)能够快速地将腾讯云存储、大数据、人工智能、安全等云端计算能力扩展至距离IoT设备数据源头最近的边缘节点,帮助您在本地的计算硬件上,创建可以连接IoT设备,转发、存储、分析设备数据的本地边缘计算节点。
  • 数据挖掘系统是什么

    数据挖掘系统是什么

    数据挖掘系统(data mining system)是指从存放在数据库、数据仓库或其他信息库中的大量数据中挖掘出有趣知识的系统。近年来为了推动数据挖掘在实际中的应用,许多研究者对数据挖掘系统的体系结构做了大量的研究工作。
  • 现场数据采集是什么

    现场数据采集是什么

    信息技术以及智能科技的变革带来了工业企业翻天覆地的变化,传统制造现场的数据采集系统已经阻碍了制造业信息化管理,要求企业通过数据采集系统的方案升级改造,提高生产管理、经营等管理水平。
  • 制造执行系统是什么

    制造执行系统是什么

    制造执行系统 (MES)旨在加强MRP计划的执行功能,把MRP计划同车间作业现场控制,通过执行系统联系起来。帮助企业实现生产计划管理、生产过程控制、产品质量管理、车间库存管理、项目看板管理等,提高企业制造执行能力。
  • 互联网金融是什么

    互联网金融是什么

    互联网金融(ITFIN)是指传统金融机构与互联网企业利用互联网技术和信息通信技术实现资金融通、支付、投资和信息中介服务的新型金融业务模式。