风暴中的分布式缓存

维杰·伊纳姆努里(Vijay Innamuri)

如何在Apache Storm中存储临时数据?

在风暴拓扑中,bolt需要访问先前处理的数据。

Eg: if the bolt processes varaiable1 with result as 20 at 10:00 AM.

并再次varaiable1收到5010:15 AM则结果应为30 (50-20)

稍后,如果varaiable1收到,70则结果应20 (70-50)10:30

如何实现此功能。

卡蒂克

简而言之,您想对Storm的运行元组进行微分批计算。首先,您需要在元组集中定义/查找键。使用该键在螺栓之间进行字段分组(不要使用随机分组)。这将确保相关的元组将始终发送给同一键的下游螺栓相同的任务。定义类级别集合List / Map来维护旧值并在其中添加新值以进行计算,不必担心它们在同一螺栓的不同执行者实例之间是线程安全的。

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

Elixir中的分布式缓存

来自分类Dev

.NET中的分布式缓存

来自分类Dev

Hadoop中的分布式缓存概念

来自分类Dev

什么是分布式缓存?

来自分类Dev

什么是分布式缓存?

来自分类Dev

Hadoop分布式缓存

来自分类Dev

Pig分布式缓存

来自分类Dev

Hadoop分布式文件系统与分布式缓存

来自分类Dev

关于Hadoop中的分布式缓存的困惑

来自分类Dev

在Hadoop分布式缓存中创建和放置文件

来自分类Dev

使用分布式缓存进行锁定

来自分类Dev

使用分布式缓存-HIVE流

来自分类Dev

使用memcached进行分布式缓存

来自分类Dev

使用分布式缓存-HIVE流

来自分类Dev

分布式缓存机制如何工作?

来自分类Dev

Map Reduce分布式缓存

来自分类Dev

从分布式缓存或HDFS输出读取

来自分类Dev

Hadoop 1.2.1 - 使用分布式缓存

来自分类Dev

内存缓存VS。分布式系统中的集中式缓存

来自分类Dev

可以将Odata元数据缓存在分布式缓存中吗?

来自分类Dev

内存缓存VS。分布式系统中的集中式缓存

来自分类Dev

如何从存储在HDFS分布式缓存中的文件的路径中获取文件名

来自分类Dev

非常并发环境中NoSQL +分布式缓存的数据一致性

来自分类Dev

使用分布式缓存访问Hadoop中的Maxmind Geo API

来自分类Dev

分布式呼叫刷新了umbraco 7中的缓存后引发事件

来自分类Dev

infinispan.xml中的分布式缓存infinispan和varibale属性

来自分类Dev

infinispan-用热棒锁定在分布式缓存中,这可能吗?

来自分类Dev

通过分布式缓存在Mapper中访问文件

来自分类Dev

使用HDFS分布式缓存中存储的python脚本访问文件