网站首页
手机版

hdfs工作原理 hdfs工作原理图

更新时间:2022-06-22 09:58:09作者:未知

hdfs工作原理 hdfs工作原理图

hdfs工作原理如下:


  1、客户端通过调用FileSystem对象的open括号来读取希望打开的文件。对于HDFS来说,这个对象是分布式文件系统的一个实例。


  2、DistributedFileSystem通过RPC来调用namenode,以确定文件的开头部分的块位置。对于每一块,namenode返回具有该块副本的datanode地址。此外,这些datanode根据他们与client的距离来排序(根据网络集群的拓扑)。如果该client本身就是一个datanode,便从本地datanode中读取。DistributedFileSystem返回一个FSDataInputStream对象给client读取数据,FSDataInputStream转而包装了一个DFSInputStream对象。


  3、接着client对这个输入流调用read()。存储着文件开头部分的块的数据节点的地址DFSInputStream随即与这些块最近的datanode相连接。


  4、通过在数据流中反复调用read(),数据会从datanode返回client。


  5、到达块的末端时,DFSInputStream会关闭与datanode间的联系,然后为下一个块找到最佳的datanode。client端只需要读取一个连续的流,这些对于client来说都是透明的。


  6、在读取的时候,如果client与datanode通信时遇到一个错误,那么它就会去尝试对这个块来说下一个最近的块。它也会记住那个故障节点的datanode,以保证不会再对之后的块进行徒劳无益的尝试。 client也会确认datanode发来的数据的校验和。如果发现一个损坏的块,它就会在client试图从别的datanode中读取一个块的副本之前报告给namenode。


  7、这个设计的一个重点是,client直接联系datanode去检索数据,并被namenode指引到块中最好的datanode。因为数据流在此集群中是在所有datanode分散进行的。


  

本文标签: 工作原理  标签  简介  hdfs  

为您推荐

≌是什么意思数学符号(√3是什么意思)

数学符号≌是全等于的意思,表示两个图形能完全重合,包括形状和面积,全等于是程序设计的一种逻辑运算符。数学符号的发明及使用比数字要

2024-10-07 15:30

数学符号≡是什么意思(数学符号θ是什么意思)

数学符号≡是恒等的意思,≡是无条件等于,不论条件怎么变,都是成立的。恒等式是无论其变量如何取值,等式永远成立的算式。恒等式成立的范

2024-10-07 15:26

数学期望可以是负数吗 期望值能为负数吗

数学期望可以是负数,期望等于随机变量乘以相应的概率,随机变量可以取负,因此期望就可能为负。期望值并不一定等同于常识中的“期望”,“

2024-10-07 15:12

数学感叹号是什么意思 数学上感叹号是什么意思

数学感叹号是阶乘的意思,阶乘是基斯顿·卡曼于1808年发明的运算符号,是数学术语。一个正整数的阶乘是所有小于及等于该数的正整数的积,

2024-10-07 15:10

数学信息是什么意思(数学信息是什么意思和已知条件一个意思吗)

数学信息是指从题干的叙述中挖掘出的和解答本数学题有关的信息,数学题是透过抽象化和逻辑推理的使用,由计数,计算,量度和对物体形状及运

2024-10-07 15:07

0是任何数的倍数吗 0是什么的倍数

数学中的0不是任何数的倍数,一个整数能够被另一个整数整除,这个整数就是另一整数的倍数。同样的,一个数除以另一数所得的商。如a/b=c,就

2024-10-07 15:05