MR减速器中的输出HBase增量

塔克

我有一个写入到HBase的mapreduce作业。我知道您可以使用输出PutDelete从减速器输出TableMapReduceUtil

是否有可能Increment使HBase表中的值递增而不是使Putsand发出Gets如果是,该如何做?如果不这样做,为什么?

我正在使用CDH3

public static class TheReducer extends TableReducer<Text, Text, ImmutableBytesWritable>  {  
    public void reduce(Text key, Iterable<Text> values, Context context) throws IOException, InterruptedException {         
        ///....DO SOME STUFF HERE
        Increment increment = new Increment(row);
        increment.addColumn(col,qual,1L);
        context.write(null, increment); //<--- I want to be able to do this                             
        }
}

谢谢

Arnon rotem-gal-oz

据我所知,您不能在上下文中使用Increment-但您始终可以打开与HBase的连接,并在任何位置(映射器,映射器清理,Reducer等)写入Increment。

请注意,增量不是幂等的,因此如果部分成功完成map / reduce作业和/或对M / R进行推测性执行(例如,多个映射器执行相同的工作),则结果可能会出现问题

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

将大容量减速器输出写入HBase

来自分类Dev

将大容量减速器输出写入HBase

来自分类Dev

MapReduce减速器输出错误

来自分类Dev

MapReduce减速器输出错误

来自分类Dev

Hadoop MapReduce 访问映射器在减速器中的输出数量

来自分类Dev

Redux:区分减速器中的对象

来自分类Dev

在减速器中删除动态属性

来自分类Dev

减速器未在hadoop中执行

来自分类Dev

清理未在减速器中运行

来自分类Dev

redux 减速器中的打字稿

来自分类Dev

减速器异常

来自分类Dev

反应在父级减速器与子级减速器中完成的Redux逻辑

来自分类Dev

在 react-native 中从另一个减速器更新减速器

来自分类Dev

动态计算oozie参数(用于MR作用的减速器数量)

来自分类Dev

无法在组合减速器中使用减速器

来自分类常见问题

减速器中的打字稿类型问题

来自分类Dev

在redux中是否可以嵌套化径减速器?

来自分类Dev

了解以下减速器中的扩散和破坏用途

来自分类Dev

减速器中CRUD的“ U”(更新)部分的问题

来自分类Dev

减速器未在Redux中接收动作

来自分类Dev

在Redux中嵌套/组合合并的减速器?

来自分类Dev

减速器中Redux有效负载的问题

来自分类Dev

减速器中的打字稿类型问题

来自分类Dev

在Typescripted Redux中,如何找到根减速器的类型?

来自分类Dev

无法在反应中显示来自减速器的消息

来自分类Dev

如何在地图对象中渲染减速器

来自分类Dev

在减速器中设置状态会产生类型错误

来自分类Dev

减速器中的 Redux 状态不是最新的?

来自分类Dev

在减速器或组件中过滤数据?哪个更好?