文件名称:PoseidonX:poseidonX 是一个基于jstorm和flink的一体化实时计算服务平台
文件大小:7.39MB
文件格式:ZIP
更新时间:2024-05-19 07:30:48
Java
PoseidonX 一、实时计算简介 随着互联网应用的Swift普及,需要进行处理的数据不仅在数量上Swift增长,在数据处理的时效性上也比之前有更加强烈的需求。在传统的数据处理流程中,一般是先收集数据并且将数据存储到数据存储介质中。然后当需要的时候通过对存储好的数据进行相关处理得到分析后的结果。这样的做法虽然能保证处理数据的准确性和完整性,但是却不能保证很好的时效性。导致人们无法及时的根据最新的数据分析结果做出正确的决策,从而数据的价值也随着时间的流逝而失去价值。 为了解决这些问题, 相对于保证数据分析的准确性,完整性而忽视时效性的传统批处理而言,产生了更加注重时效性的实时计算的概念。与一次性处理全部数据的批量计算不同,实时计算一般是对无限的数据流进行持续不断的连续运算,并对外输出运算结果供用户使用。 二、 关于统一实时计算平台 目前常用的实时计算技术包括storm,jstorm,spa