iso file download
文库搜索
切换导航
文件分类
频道
仅15元无限下载
联系我们
问题反馈
文件分类
仅15元无限下载
联系我们
问题反馈
批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211329273.1 (22)申请日 2022.10.27 (71)申请人 上海云从 企业发展 有限公司 地址 201203 上海市浦东 新区中国 (上海) 自由贸易试验区上科路366号、 川 和路 55弄11号、 12号 (72)发明人 姜迅 彭健 (74)专利代理 机构 北京瀚仁知识产权代理事务 所(普通合伙) 11482 专利代理师 宋宝库 (51)Int.Cl. G06F 16/28(2019.01) G06F 16/242(2019.01) G06F 16/2453(2019.01) G06N 20/00(2019.01) (54)发明名称 数据处理方法、 装置以及计算机可读存储介 质 (57)摘要 本发明涉及计算机处理技术领域, 具体提供 一种数据处理方法、 装置以及计算机可读存储介 质, 该方法包括: 获取用户提交的数据处理请求; 根据数据处理请求, 生成数据处理任务; 将数据 处理任务发送至具有用于处理数据处理任务的 计算引擎的计算节点; 调用计算引 擎, 从数据湖 中获取数据处理任务使用的数据并执行数据处 理任务; 从计算节点获取数据处理任务的数据处 理结果, 将数据处理结果返回给用户。 本发明对 计算和存储进行了分离, 计算依赖于部署在多个 计算节点上的计算引擎, 而存储依赖于统一汇聚 存储多种数据的数据湖, 确保了更容易对计算和 存储能力进行扩容, 建立了统一的数据处理过 程, 避免产生 技术栈割裂的情况。 权利要求书2页 说明书6页 附图3页 CN 115544182 A 2022.12.30 CN 115544182 A 1.一种数据处 理方法, 其特 征在于, 包括: 获取用户提交的数据处 理请求; 根据所述数据处 理请求, 生成数据处 理任务; 将所述数据处 理任务发送至具有用于处 理所述数据处 理任务的计算引擎的计算节点; 调用所述计算引擎, 从数据湖中获取所述数据处理任务使用的数据并执行所述数据处 理任务; 从所述计算节点获取所述数据处理任务的数据处理结果, 将所述数据处理结果返回给 所述用户。 2.根据权利要求1所述的数据处理方法, 其特征在于, 所述数据处理请求为SQL语句, “根据所述数据处 理请求, 生成数据处 理任务”的步骤包括: 解析所述数据处理请求对应的SQL语句得到语法树, 根据所述语法树生成SQL执行计 划, 根据所述SQ L执行计划生成所述数据处 理任务。 3.根据权利要求2所述的数据处理方法, 其特征在于, 在 “根据所述SQL执行计划生成所 述数据处 理任务”的步骤之前, 还 包括: 根据预设的多个 计算节点的分布情况, 对所述SQ L执行计划进行优化。 4.根据权利要求1所述的数据处理方法, 其特征在于, 在 “将所述数据处理任务发送至 具有用于处 理所述数据处 理任务的计算引擎的计算节点 ”的步骤之前, 还 包括: 根据所述数据处理任务的类型, 查找具有用于处理所述类型数据处理任务的所述计算 节点。 5.根据权利要求 4所述的数据处 理方法, 其特 征在于, 在所述数据处 理任务的类型为AI 解析任务时, 所述计算引擎 为AI计算引擎。 6.根据权利要求 4所述的数据处 理方法, 其特 征在于, 在所述数据处 理任务的类型为SQ L执行任务时, 所述计算引擎 为SQL执行引擎。 7.根据权利要求1所述的数据处理方法, 其特征在于, 所述数据处理任务为多个, 所述 计算节点为多个, “从所述计算节点获取所述数据处理任务的数据处理结果 ”的步骤还包 括: 对来自多个 计算节点的数据处 理结果进行整合。 8.一种数据处 理装置, 其特 征在于, 包括: 请求获取模块, 获取用户提交的数据处 理请求; 任务生成模块, 根据所述数据处 理请求, 生成数据处 理任务; 任务发送模块, 将所述数据处理任务发送至具有用于处理所述数据处理任务的计算引 擎的计算节点; 任务执行模块, 调用所述计算引擎, 从数据湖中获取所述数据处理任务使用的数据并 执行所述数据处 理任务; 结果获取模块, 从所述计算节点获取所述数据处理任务的数据处理结果, 将所述数据 处理结果返回给 所述用户。 9.一种控制装置, 包括处理器和存储装置, 所述存储装置适于存储多条程序代码, 其特 征在于, 所述程序 代码适于由所述处理器加载并运行以执行权利要求 1至7中任一项 所述的 数据处理方法。权 利 要 求 书 1/2 页 2 CN 115544182 A 210.一种计算机可读存储介质, 其中存储有多条程序代码, 其特征在于, 所述程序代码 适于由处 理器加载并运行以执 行权利要求1至7中任一项所述的数据处 理方法。权 利 要 求 书 2/2 页 3 CN 115544182 A 3
专利 数据处理方法、装置以及计算机可读存储介质
文档预览
中文文档
12 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
赞助3元下载(无需注册)
温馨提示:本文档共12页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
下载文档到电脑,方便使用
赞助3元下载
本文档由 人生无常 于
2024-03-18 12:13:36
上传分享
举报
下载
原文档
(568.8 KB)
分享
友情链接
GB-T 7092-2021 半导体集成电路外形尺寸.pdf
DB11-T 1855-2021 固定资产投资项目节能审查验收技术规范 北京市.pdf
GB-T 20239-2023 体育馆用木质地板.pdf
GB-Z 38649-2020 信息安全技术 智慧城市建设信息安全保障指南.pdf
GB-T 31958-2015 薄膜晶体管液晶显示器用基板玻璃.pdf
安全牛 AI防火墙技术白皮书.pdf
GB-T 33222-2016 机械产品生命周期管理系统通用技术规范.pdf
GB-T 37972-2019 信息安全技术 云计算服务运行监管框架.pdf
GB-T 41013-2021 电机系统能效评价.pdf
GB-T 33207-2016 无损检测 在役金属管内氧化皮堆积的磁性检测方法.pdf
DB-T 64-2016 强震动观测技术规程.pdf
GB-T 34079.3-2017 基于云计算的电子政务公共平台服务规范 第3部分:数据管理.pdf
GB-T 5585.1-2018 电工用铜、铝及其合金母线 第1部分:铜和铜合金母线.pdf
DB31-T 1109-2022 乡村振兴示范村建设指南 上海市.pdf
思度安全-DSMM-015 元数据安全管理规范V1.0.pdf
深信服 网络安全法解读.pdf
生成式大模型安全与隐私白皮书-之江实验室.pdf
GB-T 20204-2006 水利水文自动化系统设备检验测试通用技术规范.pdf
T-ZZB 0786—2018 台式钻床用直接驱动电机.pdf
T-HSCA 001—2018 体育场馆钢结构检测与鉴定规程.pdf
1
/
3
12
评价文档
赞助3元 点击下载(568.8 KB)
回到顶部
×
微信扫码支付
3
元 自动下载
官方客服微信:siduwenku
支付 完成后 如未跳转 点击这里 下载
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们
微信(点击查看客服)
,我们将及时删除相关资源。