描述
开 本: 16开纸 张: 胶版纸包 装: 平装-胶订是否套装: 否国际标准书号ISBN: 9787568255882
内容简介
《大数据在质检领域的应用》分为上下两篇:上篇是大数据理论,主要是从大数据的概念和发展背景、大数据时代、大数据技术、大数据应用的一般模式和价值提升等方面进行了总结,同时选取了金融、电信、零售、体育及国外质检行业的典型案例进行了分析;下篇是大数据在质检领域的应用,主要是针对质检行业存在的关键问题,采用信息技术与业务研究相结合的方法,设计了质检大数据技术支撑平台,对“12365”热线数据、质量监督抽查数据、检验检疫统计数据、进出口食品化妆品数据、电梯物联网数据、标准题录数据形成的案例进行了分析,并研发了质检领域大数据服务模块,设计了初步的数据开放网站,主要目的是研究如何进一步完善针对生产企业和产品监管的新型质检行业服务体系,提高政府监管水平和效益。
目 录
上篇 大数据理论
第1章 大数据的概念和发展背景
1.1 大数据的发展背景
1.1.1 大数据的产生
1.1.2 标志性事件与技术发展
1.1.3 国家大数据战略
1.2 大数据的概念和特征
1.2.1 大数据的概念
1.2.2 大数据的特征
1.3 大数据背景下的数据类型
1.3.1 结构化数据
1.3.2 半结构化数据
1.3.3 非结构化数据
1.4 大数据的潜在价值与机遇
1.4.1 大数据重组战略资源
1.4.2 大数据推动社会变革
1.4.3 大数据引发思维创新
1.4.4 大数据促进“大搜索”的发展
1.4.5 大数据在质检行业的应用价值
1.5 大数据的挑战
1.5.1 大数据集成
1.5.2 大数据分析
1.5.3 大数据隐私问题
1.5.4 大数据能耗问题
1.5.5 大数据处理与硬件的协同
1.5.6 大数据管理易用性问题
第2章 大数据时代
2.1 大数据时代的概念与特征
2.1.1 大数据时代的概念
2.1.2 大数据时代的基本特征
2.2 大数据时代的发展层次
2.2.1 大数据应用的层次
2.2.2 大数据当前的发展阶段
2.3 大数据时代下的数据思维
2.3.1 大数据思维的内容
2.3.2 大数据思维变革的方向
第3章 大数据技术
3.1 大数据技术的架构体系
3.1.1 数据集成
3.1.2 数据分析
3.1.3 计算框架
3.1.4 数据存储
3.2 大数据平台
3.2.1 平台介绍
3.2.2 平台特点
3.3 数据处理
3.3.1 HDFS
3.3.2 HBase
3.3.3 Hive
3.3.4 Zookeeper
3.3.5 Sqoop
3.3.6 Flume
3.1.7 Kafka
3.4 计算和存储
3.4.1 Storm
3.4.2 Spark
3.5 分布式编程
第4章 大数据应用的一般模式和价值提升
……
第1章 大数据的概念和发展背景
1.1 大数据的发展背景
1.1.1 大数据的产生
1.1.2 标志性事件与技术发展
1.1.3 国家大数据战略
1.2 大数据的概念和特征
1.2.1 大数据的概念
1.2.2 大数据的特征
1.3 大数据背景下的数据类型
1.3.1 结构化数据
1.3.2 半结构化数据
1.3.3 非结构化数据
1.4 大数据的潜在价值与机遇
1.4.1 大数据重组战略资源
1.4.2 大数据推动社会变革
1.4.3 大数据引发思维创新
1.4.4 大数据促进“大搜索”的发展
1.4.5 大数据在质检行业的应用价值
1.5 大数据的挑战
1.5.1 大数据集成
1.5.2 大数据分析
1.5.3 大数据隐私问题
1.5.4 大数据能耗问题
1.5.5 大数据处理与硬件的协同
1.5.6 大数据管理易用性问题
第2章 大数据时代
2.1 大数据时代的概念与特征
2.1.1 大数据时代的概念
2.1.2 大数据时代的基本特征
2.2 大数据时代的发展层次
2.2.1 大数据应用的层次
2.2.2 大数据当前的发展阶段
2.3 大数据时代下的数据思维
2.3.1 大数据思维的内容
2.3.2 大数据思维变革的方向
第3章 大数据技术
3.1 大数据技术的架构体系
3.1.1 数据集成
3.1.2 数据分析
3.1.3 计算框架
3.1.4 数据存储
3.2 大数据平台
3.2.1 平台介绍
3.2.2 平台特点
3.3 数据处理
3.3.1 HDFS
3.3.2 HBase
3.3.3 Hive
3.3.4 Zookeeper
3.3.5 Sqoop
3.3.6 Flume
3.1.7 Kafka
3.4 计算和存储
3.4.1 Storm
3.4.2 Spark
3.5 分布式编程
第4章 大数据应用的一般模式和价值提升
……
下篇 大数据在质检领域的应用
在线试读
《大数据在质检领域的应用》:
在大数据时代,我们能够对事物的进一步发展进行预测,虽然我们还做不到百分之百地掌控。由此可见,大数据的预测能力已经在各行各业崭露头角,并且很快地被大家运用起来。而这种预测能力带给我们的就是思维上的前瞻性和预测性的变化趋势。
大数据不但可以预测事物的发展状况,甚至连人类行为也可以进行预测。美国的艾伯特一拉斯洛·巴拉巴西教授在他的《爆发》一书中表示,人类行为的93%是可以预测的。在之前的研究中,科学家们认为人类的行为是随机的、偶然的、毫无规律的,是根本无法预测的。法国数学家西莫恩·德尼·泊松在1873年发表的《关于刑事案件和民事案件审判概率的研究》中认为,陪审员犯错的概率是可以计算的,他认为如果人类行为是随机的,那么就是可以通过泊松分布来进行预测的。事实上,泊松分布并不能预测人类的行为,而且人类行为也并非随机性的。艾伯特一拉斯洛·巴拉巴西教授通过分析人们发送电子邮件和浏览网页的习惯发现了人类行为符合幂律分布,不断地将一些事物搁置拖延,并在短时间之内爆发,将这些事情迅速处理完毕,并做出了更进一步的研究和阐释。而在大数据时代下的数据监测可以将人们的行为转化为数据,例如我们在网上发布状态,GPS追踪我们的行程,非结构化数据分析可以对这些数据进行分析,经过人类行为预测模型的处理,就可以对人们的行为进行预测,也就是说,人类的大部分行为也可以被预测。
数据可以看到未来这点毋庸置疑,但是预测并非是预言,大数据能做到的是短期内影响因素较少的事物的发展预测,这种预测有着极大的限制,并非是臆想中的无所不能、无所不知。可是,即便如此,大数据的预测能力已经给人们看向未来开了一扇窗,在大数据的帮助下,人们并不再是摸着石头过河,而是可以站得高一些,稍稍看清前方的路。这种转变对人类来说是非常重要的。人们对于未来不再是彷徨无措、一无所知,而是可以通过对大数据的分析进行推测,这是人类思维方式变革的一个大方向。
2.模糊性
世界上许多事物是不能用精确来解决的,过去科技不发达,认为是不够精确,现在发现事物本身就存在模糊性,用精确的手段自然不能够解释和处理。这一点从“模糊数学”学科的兴起便可看出。在大数据时代,我们发现了更多的模糊性事物,那么我们的思维方式也必将从过去的精确性思维方式向模糊性思维方式转变,这样我们才能更好地适应和推动科技的发展和社会的发展。
大数据的模糊性来源于数据的混杂和错误,前面章节里讲到大数据接受错误和混杂,这样就难以保证精确,也不需要再执着于精确,因为大数据的“大”已经可以解决当下许多问题。模糊性就成了人们思维方式上需要变革的方向,对于放弃用简单地某一件事情定性,而学会用概率和数据说话,或许需要一定的时间,但不可否认的是,这终究是我们今后进步的方向。另外,数据的模糊性还来自数据的生长性,大数据时代大多数的数据不是静态的,而是不断生成、不断变化的动态数据,对于这种具备生长性的数据,很难做到精确地、简单地定性,而是需要我们用模糊的和概率的数据来表达。因此,在大数据时代,接受了错误和混杂,认识到数据的动态变化,我们的思维方式必将展现出一种模糊性的变化趋势。
……
在大数据时代,我们能够对事物的进一步发展进行预测,虽然我们还做不到百分之百地掌控。由此可见,大数据的预测能力已经在各行各业崭露头角,并且很快地被大家运用起来。而这种预测能力带给我们的就是思维上的前瞻性和预测性的变化趋势。
大数据不但可以预测事物的发展状况,甚至连人类行为也可以进行预测。美国的艾伯特一拉斯洛·巴拉巴西教授在他的《爆发》一书中表示,人类行为的93%是可以预测的。在之前的研究中,科学家们认为人类的行为是随机的、偶然的、毫无规律的,是根本无法预测的。法国数学家西莫恩·德尼·泊松在1873年发表的《关于刑事案件和民事案件审判概率的研究》中认为,陪审员犯错的概率是可以计算的,他认为如果人类行为是随机的,那么就是可以通过泊松分布来进行预测的。事实上,泊松分布并不能预测人类的行为,而且人类行为也并非随机性的。艾伯特一拉斯洛·巴拉巴西教授通过分析人们发送电子邮件和浏览网页的习惯发现了人类行为符合幂律分布,不断地将一些事物搁置拖延,并在短时间之内爆发,将这些事情迅速处理完毕,并做出了更进一步的研究和阐释。而在大数据时代下的数据监测可以将人们的行为转化为数据,例如我们在网上发布状态,GPS追踪我们的行程,非结构化数据分析可以对这些数据进行分析,经过人类行为预测模型的处理,就可以对人们的行为进行预测,也就是说,人类的大部分行为也可以被预测。
数据可以看到未来这点毋庸置疑,但是预测并非是预言,大数据能做到的是短期内影响因素较少的事物的发展预测,这种预测有着极大的限制,并非是臆想中的无所不能、无所不知。可是,即便如此,大数据的预测能力已经给人们看向未来开了一扇窗,在大数据的帮助下,人们并不再是摸着石头过河,而是可以站得高一些,稍稍看清前方的路。这种转变对人类来说是非常重要的。人们对于未来不再是彷徨无措、一无所知,而是可以通过对大数据的分析进行推测,这是人类思维方式变革的一个大方向。
2.模糊性
世界上许多事物是不能用精确来解决的,过去科技不发达,认为是不够精确,现在发现事物本身就存在模糊性,用精确的手段自然不能够解释和处理。这一点从“模糊数学”学科的兴起便可看出。在大数据时代,我们发现了更多的模糊性事物,那么我们的思维方式也必将从过去的精确性思维方式向模糊性思维方式转变,这样我们才能更好地适应和推动科技的发展和社会的发展。
大数据的模糊性来源于数据的混杂和错误,前面章节里讲到大数据接受错误和混杂,这样就难以保证精确,也不需要再执着于精确,因为大数据的“大”已经可以解决当下许多问题。模糊性就成了人们思维方式上需要变革的方向,对于放弃用简单地某一件事情定性,而学会用概率和数据说话,或许需要一定的时间,但不可否认的是,这终究是我们今后进步的方向。另外,数据的模糊性还来自数据的生长性,大数据时代大多数的数据不是静态的,而是不断生成、不断变化的动态数据,对于这种具备生长性的数据,很难做到精确地、简单地定性,而是需要我们用模糊的和概率的数据来表达。因此,在大数据时代,接受了错误和混杂,认识到数据的动态变化,我们的思维方式必将展现出一种模糊性的变化趋势。
……
评论
还没有评论。