iso file download
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211329273.1 (22)申请日 2022.10.27 (71)申请人 上海云从 企业发展 有限公司 地址 201203 上海市浦东 新区中国 (上海) 自由贸易试验区上科路366号、 川 和路 55弄11号、 12号 (72)发明人 姜迅 彭健  (74)专利代理 机构 北京瀚仁知识产权代理事务 所(普通合伙) 11482 专利代理师 宋宝库 (51)Int.Cl. G06F 16/28(2019.01) G06F 16/242(2019.01) G06F 16/2453(2019.01) G06N 20/00(2019.01) (54)发明名称 数据处理方法、 装置以及计算机可读存储介 质 (57)摘要 本发明涉及计算机处理技术领域, 具体提供 一种数据处理方法、 装置以及计算机可读存储介 质, 该方法包括: 获取用户提交的数据处理请求; 根据数据处理请求, 生成数据处理任务; 将数据 处理任务发送至具有用于处理数据处理任务的 计算引擎的计算节点; 调用计算引 擎, 从数据湖 中获取数据处理任务使用的数据并执行数据处 理任务; 从计算节点获取数据处理任务的数据处 理结果, 将数据处理结果返回给用户。 本发明对 计算和存储进行了分离, 计算依赖于部署在多个 计算节点上的计算引擎, 而存储依赖于统一汇聚 存储多种数据的数据湖, 确保了更容易对计算和 存储能力进行扩容, 建立了统一的数据处理过 程, 避免产生 技术栈割裂的情况。 权利要求书2页 说明书6页 附图3页 CN 115544182 A 2022.12.30 CN 115544182 A 1.一种数据处 理方法, 其特 征在于, 包括: 获取用户提交的数据处 理请求; 根据所述数据处 理请求, 生成数据处 理任务; 将所述数据处 理任务发送至具有用于处 理所述数据处 理任务的计算引擎的计算节点; 调用所述计算引擎, 从数据湖中获取所述数据处理任务使用的数据并执行所述数据处 理任务; 从所述计算节点获取所述数据处理任务的数据处理结果, 将所述数据处理结果返回给 所述用户。 2.根据权利要求1所述的数据处理方法, 其特征在于, 所述数据处理请求为SQL语句, “根据所述数据处 理请求, 生成数据处 理任务”的步骤包括: 解析所述数据处理请求对应的SQL语句得到语法树, 根据所述语法树生成SQL执行计 划, 根据所述SQ L执行计划生成所述数据处 理任务。 3.根据权利要求2所述的数据处理方法, 其特征在于, 在 “根据所述SQL执行计划生成所 述数据处 理任务”的步骤之前, 还 包括: 根据预设的多个 计算节点的分布情况, 对所述SQ L执行计划进行优化。 4.根据权利要求1所述的数据处理方法, 其特征在于, 在 “将所述数据处理任务发送至 具有用于处 理所述数据处 理任务的计算引擎的计算节点 ”的步骤之前, 还 包括: 根据所述数据处理任务的类型, 查找具有用于处理所述类型数据处理任务的所述计算 节点。 5.根据权利要求 4所述的数据处 理方法, 其特 征在于, 在所述数据处 理任务的类型为AI 解析任务时, 所述计算引擎 为AI计算引擎。 6.根据权利要求 4所述的数据处 理方法, 其特 征在于, 在所述数据处 理任务的类型为SQ L执行任务时, 所述计算引擎 为SQL执行引擎。 7.根据权利要求1所述的数据处理方法, 其特征在于, 所述数据处理任务为多个, 所述 计算节点为多个, “从所述计算节点获取所述数据处理任务的数据处理结果 ”的步骤还包 括: 对来自多个 计算节点的数据处 理结果进行整合。 8.一种数据处 理装置, 其特 征在于, 包括: 请求获取模块, 获取用户提交的数据处 理请求; 任务生成模块, 根据所述数据处 理请求, 生成数据处 理任务; 任务发送模块, 将所述数据处理任务发送至具有用于处理所述数据处理任务的计算引 擎的计算节点; 任务执行模块, 调用所述计算引擎, 从数据湖中获取所述数据处理任务使用的数据并 执行所述数据处 理任务; 结果获取模块, 从所述计算节点获取所述数据处理任务的数据处理结果, 将所述数据 处理结果返回给 所述用户。 9.一种控制装置, 包括处理器和存储装置, 所述存储装置适于存储多条程序代码, 其特 征在于, 所述程序 代码适于由所述处理器加载并运行以执行权利要求 1至7中任一项 所述的 数据处理方法。权 利 要 求 书 1/2 页 2 CN 115544182 A 210.一种计算机可读存储介质, 其中存储有多条程序代码, 其特征在于, 所述程序代码 适于由处 理器加载并运行以执 行权利要求1至7中任一项所述的数据处 理方法。权 利 要 求 书 2/2 页 3 CN 115544182 A 3

.PDF文档 专利 数据处理方法、装置以及计算机可读存储介质

文档预览
中文文档 12 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共12页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 数据处理方法、装置以及计算机可读存储介质 第 1 页 专利 数据处理方法、装置以及计算机可读存储介质 第 2 页 专利 数据处理方法、装置以及计算机可读存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 12:13:36上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。