博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
关于hive同一个脚本运行多次而每次结果都不相同
阅读量:2395 次
发布时间:2019-05-10

本文共 440 字,大约阅读时间需要 1 分钟。

最近在新的统计脚本中发现了,同一个脚本运行多次而每次结果都不相同的场景。

今天好像找到了原因,为了保险起见,先测试运行几天后再做决定。

2012-10-18号 

通过昨晚的运行,结果正常了。

导致此原因的情况如下:

首先该脚本执行的时候涉及到的记录有8千多万,在执行的过程当中,map=100%的时候,过一会又降下来了,变成map=97%这样,然后再升到map=100%,反复有两三次。

但最终job还是正常执行完成。

通过hadoop的MR管理界面看到的情况是:有几个子map运行失败,报错信息是Too many fetch failure

根据这个错误信息,我查看了下所有的slave机器上的/etc/hosts文件里,前面的两行记录没注释掉,内容如下:

127.0.0.1 localhost.localdomain localhost

::1             localhost6.localdomain6 localhost6

当我注释掉后,多次执行该脚本,再也没出现了之前描述的情况了。

转载地址:http://qozob.baihongyu.com/

你可能感兴趣的文章
Tensorflow-Python-API-翻译(constant_op)
查看>>
Tensorflow-Python-API-翻译(framework)
查看>>
Tensorflow-Python-API-翻译(math_ops)(第二部分)
查看>>
Tensorflow-Python-API-翻译(math_ops)(第一部分)
查看>>
论文阅读---An-Artificial-Neural-Network-based-Stock-Trading-System-Using-T
查看>>
A-Paper-A-Day--#1-Convolutional-Sequence-to-Sequence-Learning
查看>>
7个很棒的-chatbot-应用场景
查看>>
标记问题:词性标注(POS)和命名实体识别(NER)
查看>>
标记问题:介绍
查看>>
标记问题:生成模型和噪声通道模型
查看>>
机器学习算法在文本分类中的应用综述
查看>>
利用-TensorFlow-构建卷积神经网络
查看>>
利用-TensorFlow-实现排序和搜索算法
查看>>
利用TensorFlow实现卷积神经网络做文本分类
查看>>
如何构建高可读性和高可重用的-TensorFlow-模型
查看>>
使用TensorFlow识别交通标志
查看>>
122. Best Time to Buy and Sell Stock II [medium] (Python)
查看>>
推荐-线下AUC提升,线上CTR无提升
查看>>
Ubuntu 安装 pylucene 踩坑还原记,并安装 SmartChineseAnalyzer
查看>>
Java编程思想学习笔记(10)
查看>>