热门标签 | HotTags
当前位置:  开发笔记 > 运维 > 正文

关闭hadoopHDFS后数据丢失了吗?

如何解决《关闭hadoopHDFS后数据丢失了吗?》经验,为你挑选了1个好方法。

嗨,我正在学习hadoop,我有一个简单的愚蠢问题:关闭HDFS后(通过调用hadoop_home/sbin/stop-dfs.sh),HDFS上的数据丢失了还是我能把它取回来?



1> Ashrith..:

如果停止HDFS,数据不会丢失,前提是将NameNode和DataNode的数据存储在使用属性指定的持久位置:

dfs.namenode.name.dir - >确定本地文件系统上DFS名称节点应存储名称表(fsimage)的位置.如果这是逗号分隔的目录列表,那么名称表将在所有目录中复制,以实现冗余.默认值:file://${hadoop.tmp.dir}/dfs/name

dfs.datanode.data.dir - >确定DFS数据节点应在何处存储其块的本地文件系统.如果这是逗号分隔的目录列表,则数据将存储在所有命名目录中,通常位于不同设备上.不存在的目录将被忽略.默认值:file://${hadoop.tmp.dir}/dfs/data

正如你可以看到,这两个属性的默认值指向${hadoop.tmp.dir}默认为/tmp.您可能已经知道/tmp基于Unix的系统中的数据在重启时已被清除.

因此,如果您指定dir位置,/tmp那么重启后的Hadoop HDFS守护程序将能够读回数据,因此即使在群集重启时也不会丢失数据.


推荐阅读
  • Hadoop 源码学习笔记(4)Hdfs 数据读写流程分析
    Hdfs的数据模型在对读写流程进行分析之前,我们需要先对Hdfs的数据模型有一个简单的认知。数据模型如上图所示,在NameNode中有一个唯一的FSDirectory类负责维护文件 ... [详细]
  • Azkaban(三)Azkaban的使用
    界面介绍首页有四个菜单projects:最重要的部分,创建一个工程,所有flows将在工程中运行。scheduling:显示定时任务executing:显示当前运行的任务histo ... [详细]
  • 一、Hadoop来历Hadoop的思想来源于Google在做搜索引擎的时候出现一个很大的问题就是这么多网页我如何才能以最快的速度来搜索到,由于这个问题Google发明 ... [详细]
  • HDFS2.x新特性
    一、集群间数据拷贝scp实现两个远程主机之间的文件复制scp-rhello.txtroothadoop103:useratguiguhello.txt推pushscp-rr ... [详细]
  • ZooKeeper 学习
    前言相信大家对ZooKeeper应该不算陌生。但是你真的了解ZooKeeper是个什么东西吗?如果别人面试官让你给他讲讲ZooKeeper是个什么东西, ... [详细]
  • 对于开源的东东,尤其是刚出来不久,我认为最好的学习方式就是能够看源代码和doc,測试它的样例为了方便查看源代码,关联导入源代 ... [详细]
  • 如何在mysqlshell命令中执行sql命令行本文介绍MySQL8.0shell子模块Util的两个导入特性importTableimport_table(JS和python版本 ... [详细]
  • MR程序的几种提交运行模式本地模型运行1在windows的eclipse里面直接运行main方法,就会将job提交给本地执行器localjobrunner执行-- ... [详细]
  •        在搭建Hadoop环境之前,请先阅读如下博文,把搭建Hadoop环境之前的准备工作做好,博文如下:       1、CentOS6.7下安装JDK,地址:http:b ... [详细]
  • 前言折腾了一段时间hadoop的部署管理,写下此系列博客记录一下。为了避免各位做部署这种重复性的劳动,我已经把部署的步骤写成脚本,各位只需要按着本文把脚本执行完,整个环境基本就部署 ... [详细]
  • 我们在之前的文章中已经初步介绍了Cloudera。hadoop基础----hadoop实战(零)-----hadoop的平台版本选择从版本选择这篇文章中我们了解到除了hadoop官方版本外很多 ... [详细]
  • MapReduce工作流程最详细解释
    MapReduce是我们再进行离线大数据处理的时候经常要使用的计算模型,MapReduce的计算过程被封装的很好,我们只用使用Map和Reduce函数,所以对其整体的计算过程不是太 ... [详细]
  • 既然HDFS是存取数据的分布式文件系统,那么对HDFS的操作,就是文件系统的基本操作,比如文件的创建、修改、删除、修改权限等,文件夹的创建、删除、重命名等。对HDFS的操作命令类似于Linux的she ... [详细]
  • Hadoop之Yarn
    目录1Hadoop1.x和Hadoop2.x架构区别2Yarn概述3Yarn基本架构4Yarn工作机制5作业提交全过程6资源调度器7任务的推测执行1Hadoop1.x和Hadoo ... [详细]
  • 本文由编程笔记#小编为大家整理,主要介绍了HDFS数据完整性相关的知识,希望对你有一定的参考价值。数据完整性Hadoop用户肯定都希望系统在存储和处理 ... [详细]
author-avatar
邵小辕_669
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有