网站首页
手机版

hdfs工作原理 hdfs工作原理图

更新时间:2022-06-22 09:58:09作者:未知

hdfs工作原理 hdfs工作原理图

hdfs工作原理如下:


  1、客户端通过调用FileSystem对象的open括号来读取希望打开的文件。对于HDFS来说,这个对象是分布式文件系统的一个实例。


  2、DistributedFileSystem通过RPC来调用namenode,以确定文件的开头部分的块位置。对于每一块,namenode返回具有该块副本的datanode地址。此外,这些datanode根据他们与client的距离来排序(根据网络集群的拓扑)。如果该client本身就是一个datanode,便从本地datanode中读取。DistributedFileSystem返回一个FSDataInputStream对象给client读取数据,FSDataInputStream转而包装了一个DFSInputStream对象。


  3、接着client对这个输入流调用read()。存储着文件开头部分的块的数据节点的地址DFSInputStream随即与这些块最近的datanode相连接。


  4、通过在数据流中反复调用read(),数据会从datanode返回client。


  5、到达块的末端时,DFSInputStream会关闭与datanode间的联系,然后为下一个块找到最佳的datanode。client端只需要读取一个连续的流,这些对于client来说都是透明的。


  6、在读取的时候,如果client与datanode通信时遇到一个错误,那么它就会去尝试对这个块来说下一个最近的块。它也会记住那个故障节点的datanode,以保证不会再对之后的块进行徒劳无益的尝试。 client也会确认datanode发来的数据的校验和。如果发现一个损坏的块,它就会在client试图从别的datanode中读取一个块的副本之前报告给namenode。


  7、这个设计的一个重点是,client直接联系datanode去检索数据,并被namenode指引到块中最好的datanode。因为数据流在此集群中是在所有datanode分散进行的。


  

本文标签: 工作原理  标签  简介  hdfs  

为您推荐

平行四边形怎么判定(平行四边形怎么判定成菱形)

1、一个四边形如果它的一组对边平行且相等那么它就是平行四边形。2、一个四边形如果它的两组对边相等那么它就是平行四边形。3、一个

2024-09-18 11:05

金燕西和冷清秋结局(金燕西和冷清秋的结局)

金粉世家中金燕西是金府最小的儿子,从小众星捧月般长大,他厌倦了花花世界里的你来我往,渴望得到一份纯真的爱情。在这样的情况下他遇见

2024-09-18 11:02

属蛇女和属鼠男的婚姻配吗(属鼠男跟属蛇女婚姻相配吗)

属相配对,相合则顺风顺水,家业有成,那属蛇女和属鼠男的婚姻配吗?属蛇女和属鼠男的婚姻配吗。十二属相中,巳蛇与子鼠不相合,亦不相克,故属蛇

2024-09-18 10:51

2021端午节还有多少天(2021端午节还有多少天?)

2021年端午节日期是6月14日。端午节,又称端阳节、龙舟节、重午节、龙节、正阳节、天中节等,源自天象崇拜,由上古时代祭龙演变而来。仲夏

2024-09-18 10:49

荣耀手环怎么连接手机 荣耀手环怎么连接手机微信

1、首先保证手环处于开机状态且有一定的电量。2、之后打开华为穿戴APP,在“我的”界面中找到“添加设备”的功能选项。3、在“全部设

2024-09-18 10:47

黑砖窑是什么 黑砖窑是什么电视

黑砖窑案,又名黑窑案,黑砖窑事件。是指发生在2007年前后,那些非法拘禁并强迫农民工从事危重劳动、非法收买和使用被拐骗儿童、恶意拖欠

2024-09-18 10:44