申请专栏作者 参展
投稿发布
您的当前位置:主页 > yabo亚博体育下载 > 正文

一个案例告诉你如何使用Kyligence + Spark 进行大数

来源: 时间:2019-09-11
请支持本站,点击下面的广告后浏览!

今天,大yabo88滚球、yabo88滚球科学、机器学习分析不再只是热词,已经真实地渗透于生活方方面面。根据福布斯,到 2025 年,全球每年将会有 175 泽字节的yabo88滚球产生。Kyligence 的诞生为企业带来了极速的大yabo88滚球分析体验 。当企业要对大规模的yabo88滚球进一步进行更为复杂的分析如对销售额进行预测时,传统的分析工具就捉襟见肘了 。 可思yabo88滚球-AI,sykv.com智能驾驶,人脸识别,区块链,大yabo88滚球

这篇文章将以基于 Spark 的分布式机器学习平台 Databricks 为例,为您提供一套从以 Kyligence 为yabo88滚球源到分布式yabo88滚球分析平台的高效无缝的解决方案。

可思yabo88滚球sykv.com

对企业未来销量进行预测是一个很普遍的分析需求。分析师需要先以不同的时间粒度如日或月,或者是其他维度粒度如地区,商品等聚合yabo88滚球,然后按不同的算法预测聚合后的yabo88滚球。相类似的预测、分析场景还有很多,如运维yabo88滚球的异常值检测,金融yabo88滚球的反欺诈识别,销售yabo88滚球的用户画像等。在yabo88滚球被深入挖掘之前,都需按维度列或时间戳聚合yabo88滚球。然而想顺滑地聚合如此海量的yabo88滚球,并且深入挖掘yabo88滚球并不简单。

可思yabo88滚球-AI,sykv.com人工智能,深度学习,机器学习,神经网络

对海量yabo88滚球进行挖掘的难点

可思yabo88滚球sykv.com,sykv.cn

聚合大量yabo88滚球,复杂度高,所耗时间长 可思yabo88滚球sykv.com,sykv.cn

当yabo88滚球量呈规模式增加时,即使是执行一条简单的筛选查询也会消耗很多时间,并且查询语句复杂度越大,执行语句所花时间就会越长。因此,yabo88滚球科学家稍调整筛选条件,就会重新陷入等待中。

可思yabo88滚球-AI,sykv.com智能驾驶,人脸识别,区块链,大yabo88滚球

分析维度的粒度很难随意变动 可思yabo88滚球-AI,sykv.com智能驾驶,人脸识别,区块链,大yabo88滚球

由于高额的查询成本,yabo88滚球科学家们会更倾向于聚合有潜在关联的yabo88滚球维度。这种前瞻性在提高yabo88滚球科学家们分析效率的同时,也局限了他们的yabo88滚球探索能力,导致错失发现一些不易察觉的yabo88滚球规律的机会。 可思yabo88滚球sykv.com,sykv.cn

无法实现yabo88滚球源到分析平台的无缝连接 可思yabo88滚球sykv.com,sykv.cn

目前,在大yabo88滚球领域,yabo88滚球科学家们最常用的预处理yabo88滚球工具主要有 Hive,Spark,Pig,Scala 等。而如果想对这些yabo88滚球进一步的分析,需要从这些工具中导出聚合后的yabo88滚球,再将其导入到机器学习平台。导入导出看似为简单操作,实际上会打破分析人员工作的连贯性,尤其是当导入导出yabo88滚球量过大时,他们的工作效率会大大降低。 可思yabo88滚球sykv.com,sykv.cn

机器学习工具复杂,生命周期难以管理 内容来自可思yabo88滚球sykv.com

工具太过复杂、难以跟踪实验、难以重现结果、难以部署模型。很多企业已经开始构建内部机器学习平台来管理机器学习生命周期。但这些内部平台存在一定的局限性:典型的机器学习平台只支持一小部分内置算法或单个机器学习库。用户无法轻易地使用新的机器学习库,或与社区分享他们的工作成果。 可思yabo88滚球-www.sykv.cn,sykv.com

解决方案:Kyligence + Spark 可思yabo88滚球-www.sykv.cn,sykv.com

在分析师拉取yabo88滚球之前,通过 Kyligence 将所需要的所有分析yabo88滚球都已经以不同的维度、粒度提前聚合好,使得分析师们在极短时间内能直接获取yabo88滚球。在获取聚合好的yabo88滚球后,分析师们也无需先将yabo88滚球导出,再导入专业的支持机器学习的分析平台,也无需再因为适配不同的机器学习方法而安装各种环境。而是直接在该专业的yabo88滚球分析平台上获取yabo88滚球,在适配好的环境中,用不同的方法进行近一步预测和分析。

可思yabo88滚球sykv.com,sykv.cn

? 可思yabo88滚球-AI,sykv.com智能驾驶,人脸识别,区块链,大yabo88滚球

? 本文来自可思yabo88滚球(sykv.com),转载请联系本站及注明出处

Kyligence 与 Databricks yabo88滚球处理流程 内容来自可思yabo88滚球sykv.com

应用门槛低,学习成本小 可思yabo88滚球-www.sykv.cn,sykv.com

大yabo88滚球分析普遍会采用分布式存储及计算,使用者需要用了解 Java, Hadoop, Hive, Pig,Spark 等等大yabo88滚球知识。而 Kyligence 为用户提供了 SQL 查询接口,Databricks 也提供了支持各种机器学习语言的环境,用户无需了解底层原理,就能处理分析海量yabo88滚球,拥有极佳的用户友好度。

可思yabo88滚球-AI,sykv.com智能驾驶,人脸识别,区块链,大yabo88滚球

亚秒级查询,随意转换特征值

可思yabo88滚球sykv.com,sykv.cn

相较于传统的将yabo88滚球聚合过程放在yabo88滚球分析中,此方案在分析师分析yabo88滚球之前已完成yabo88滚球处理及聚合。Kyligence 可提前以不同的维度,维度粒度预聚合yabo88滚球。因此,无论分析师要求获得以何种维度聚合的yabo88滚球,都能在亚秒级内得到返回结果。yabo88滚球量,时间成本不再是试错特征值的制约条件。 可思yabo88滚球-人工智能资讯平台sykv.com

yabo88滚球源与分析平台无缝连接 可思yabo88滚球-AI,sykv.com人工智能,深度学习,机器学习,神经网络

以往的大yabo88滚球在被分布式计算后,如果想用机器学习进一步分析,往往需要将yabo88滚球导出,再导入机器学习分析平台。而 Kyligence 和 Databricks 的组合允许用户直接从yabo88滚球分析平台上获取yabo88滚球,无需导入导出。在 Databricks 的 notebook 中,用户可通过 SQL 语句直接获取被 Kyligence 预聚合的yabo88滚球,省去迁移yabo88滚球,转换yabo88滚球格式的麻烦。 内容来自可思yabo88滚球sykv.com

专业机器学习分析平台 可思yabo88滚球-AI,sykv.com人工智能,深度学习,机器学习,神经网络

Databricks 基于 Spark 提供用户一个专业的分布式机器学习分析平台,支持完整的机器学习生命周期。为用户提供完备的机器学习环境,用户无需自配置环境就可使用各种流行算法。

内容来自可思yabo88滚球sykv.com

应用案例

可思yabo88滚球-www.sykv.cn,sykv.com

一家名为 “Contoso ”的企业 拥有超过 100,000 的产品,yabo88滚球集就包含多个事实表和维度表,yabo88滚球量最大的事实表包含 2 千万条在线销售yabo88滚球。(Contoso 是微软虚拟的一家公司,其产生的yabo88滚球主要用于模拟各种企业场景下的yabo88滚球分析。) 可思yabo88滚球-www.sykv.cn,sykv.com

分析目标: 根据 2007 年 1 月到 2009 年 5 月 31 日的在线销售yabo88滚球预测下半年的销售额 可思yabo88滚球-人工智能资讯平台sykv.com

Step 1: yabo88滚球处理 内容来自可思yabo88滚球sykv.com

先将yabo88滚球导入 Kyligence 中,然后转到 Azure Databricks 的页面,通过 PyPI 连接 Kyligence,输入 SQL 获取聚合yabo88滚球yabo88滚球,并且这一过程的yabo88滚球导入所耗时间不超过两秒。SQL 返回的yabo88滚球集存储为 Pandas yabo88滚球表格,然后对该yabo88滚球表格处理为我们想要的格式,即对销售量按月聚合,产生每月销售量的yabo88滚球集。然后用 LSTM 进行销量预测。

可思yabo88滚球-AI,sykv.com智能驾驶,人脸识别,区块链,大yabo88滚球

? 可思yabo88滚球sykv.com

?

可思yabo88滚球-AI,sykv.com人工智能,深度学习,机器学习,神经网络

step 2: yabo88滚球分析

内容来自可思yabo88滚球sykv.com

生成模型训练yabo88滚球集 可思yabo88滚球-yabo88滚球挖掘,智慧医疗,机器视觉,机器人sykv.com

?

可思yabo88滚球-yabo88滚球挖掘,智慧医疗,机器视觉,机器人sykv.com

?

可思yabo88滚球-www.sykv.cn,sykv.com

训练集的窗口长度是指需要几个时间点的值来预测下一个时间点的值。在这里窗口长度为 1,即用 t 次的时间间隔进行模型训练,然后用 t+1 次的时间间隔对结果进行验证。yabo88滚球集格式为:dataX 为训练yabo88滚球,dataY 为验证yabo88滚球。我们选取yabo88滚球集中前 36 的yabo88滚球作为训练集,后 6 的yabo88滚球作为测试样本集。

可思yabo88滚球sykv.com,sykv.cn

LSTM 模型结构与参数设置 可思yabo88滚球-AI,sykv.com智能驾驶,人脸识别,区块链,大yabo88滚球

?

内容来自可思yabo88滚球sykv.com

?

可思yabo88滚球-www.sykv.cn,sykv.com

选定模型训练的 epoch(总的训练轮数)为 100 和 batch size(每次训练的样本数)为 1,并在 LSTM 层的输出后面加入一个普通的神经网络全连接层用于输出结果的降维。

可思yabo88滚球-AI,sykv.com人工智能,深度学习,机器学习,神经网络

step 3: 结果展示 内容来自可思yabo88滚球sykv.com

?

可思yabo88滚球sykv.com,sykv.cn

?

可思yabo88滚球-人工智能资讯平台sykv.com

上图蓝线为真实值,黄线为预测值。可以看出最终的预测曲线与实际的曲线趋势情况基本吻合,销售量从每年的七月开始下滑,10 月会有反弹,且总体的销量趋势呈下滑状态,拟合效果很好,将原始yabo88滚球的季节性,总体趋势及周期性都预测出来了。 可思yabo88滚球-yabo88滚球挖掘,智慧医疗,机器视觉,机器人sykv.com

当分析人员需要细化维度到产品时,如预测产品 ‘LitwareRefrigerator 24.7CuFt X980 Brown’ 2009 年下半年的销量,分析人员只需要修改 SQL 代码,就可重获聚合yabo88滚球,操作简单,执行快速。

可思yabo88滚球-www.sykv.cn,sykv.com

Kyligence 与 Apache Spark 可优化从yabo88滚球源到yabo88滚球分析平台的整套大yabo88滚球机器学习生态环境,让大yabo88滚球挖掘摆脱yabo88滚球量的束缚,变得轻松高效。 本文来自可思yabo88滚球(sykv.com),转载请联系本站及注明出处

本文转载自公众号 Kyligence。作者:姜昀佳

可思yabo88滚球sykv.com


转发量:

网友评论:

发表评论
请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
评价:
表情:
用户名: 验证码:点击我更换图片 匿名?

关于我们?? 免责声明?? 广告合作?? 版权声明?? 联系方式?? 原创投稿?? 网站地图??

Copyright?2005-2019 Sykv.com 可思yabo88滚球 版权所有 ?? ICP备案:京ICP备14056871号

人工智能资讯?? 人工智能资讯?? 人工智能资讯?? 人工智能资讯

?扫码入群
咨询反馈
扫码关注

微信公众号

返回顶部
关闭