大数据 HDFS(七)
大数据-HDFS(七) DataNode工作机制以及数据存储 DataNode工作机制 1)一个数据块在datanode上以文件形式存储在磁盘上,包括两个文件,一个是数据本身,一个是元数据包括数据块的长度,块数据的校验和,以及时间戳。 2)DataNode启动后向namenode注册,通过后,周期性(1小时)的向namenode上报所有的块信息。 3)心跳是每3秒一次,心跳返回结果带有namenode给该datanode的命令如复制块数据到另一台机器,或删除某个数据块。如果超过10分钟没有收到某个datanode的心跳,则认为该节点不可用。 4)集群运行中可以安全加入和退出一些机器 数据完整性
用户评论
推荐下载
-
大数据术语
大数据基础术语国家标准,分布式、数据仓库、数据集、流处理、元数据等概念一并做出清晰定义,形成行业标准。
51 2019-03-07 -
网络大数据
网络大数据是指"人、机、物"三元世界在网络空间(Cyberspace)中交互、融合所产生并在互联网上可获得的大数据
24 2019-03-12 -
大数据架构
大数据架构图
54 2019-03-29 -
华为大数据
建设统一的数据平面,助力高校科研信息化-华为大数据解决方案
40 2019-05-16 -
大数据SQLandpySpark
大数据--SQLandpySpark对比分析
13 2019-05-22 -
大数据框架
大数据架构,大数据结构模式,大数据解决方案
23 2019-05-19 -
大数据教程
很全的黑马javaee和Hadoop的教程,助学习javaee和Hadoop的同学借鉴
15 2019-05-20 -
大数据问题
大数据应用行业、大数据日常问题、大数据应用环境、大数据解析
20 2019-05-20 -
白话大数据
最新版白话大数据与机器学习 高清 中文 PDF 全网最清晰版
37 2019-04-16 -
大数据安全
大数据安全
20 2019-04-15
暂无评论