在hadoop项目结构中,hdfs指的是什么

Question

如题所述

Answer 1

hadoop是做什么的?

1、既可以是Hadoop集群的一部分，也可以是一个独立的分布式文件系统，是开源免费的大数据处理文件存储系统。

2、Hadoop实现了一个分布式文件系统（HadoopDistributedFileSystem），简称HDFS。

3、提供海量数据存储和计算的。需要java语言基础。Hadoop实现了一个分布式文件系统（HadoopDistributedFileSystem），简称HDFS。

hdfs是什么意思?

1、Hadoop分布式文件系统是指被设计成适合运行在通用硬件上的分布式文件系统。它和现有的分布式文件系统有很多共同点。但同时，它和其他的分布式文件系统的区别也是很明显的。HDFS是一个高度容错性的系统，适合部署在廉价的机器上。

2、hadoop是什么意思？Hadoop是具体的开源框架，是工具，用来做海量数据的存储和计算的。

3、HDFS为海量的数据提供了存储，而MapReduce则为海量的数据提供了计算。

hdfs的定义

1、通过hdfsdfs-ls命令可以查看分布式文件系统中的文件，就像本地的ls命令一样。HDFS在客户端上提供了查询、新增和删除的指令，可以实现将分布在多台机器上的文件系统进行统一的管理。

2、HDFS被设计用于在一个大规模集群上跨机器可靠地存储巨大的文件。它以一序列的块的方式存储文件。每个文件都可以配置块尺寸和复制因子。一个文件除了最后一个块外，其他的块一样大。

3、HDFS是ApacheHadoopCore项目的一部分。Hadoop分布式文件系统架构1NameNode（名称节点）HDFS命名空间采用层次化（树状——译者注）的结构存放文件和目录。

4、HDFS定义HDFS(hadoopDistributedFileSystem)，它是一个文件系统，用于存储文件，通过目录树来定位文件，其次，它是分布式的，由很多服务器联合起来来实现其功能，集群中的服务器有各自的角色。

5、fs.default.name属性用于定义HDFS的名称节点和其默认的文件系统，其值是一个URI，即NameNode的RPC服务器监听的地址(可以是主机名)和端口(默认为8020)。其默认值为file：///，即本地文件系统。

6、在特定的日期范围内改造存储的数据、以及网友排名等。所有这些任务都可以通过Hadoop中的多种工具和技术如MapReduce、Hive、Pig、Giraph和Mahout等来解决。这些工具在自定义例程的帮助下可以灵活地扩展它们的能力。

Hadoop是什么?能不能给点具体的解释?怎么用?

1、Hadoop是一个分布式系统基础架构，由Apache基金会开发。用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群的威力高速运算和存储。Hadoop实现了一个分布式文件系统(HadoopDistributedFileSystem)，简称HDFS。

2、Hadoop是一个用于运行应用程序在大型集群的廉价硬件设备上的框架。Hadoop为应用程序透明的提供了一组稳定/可靠的接口和数据运动。

3、Hadoop这个名字不是一个缩写，而是一个虚构的名字。该项目的创建者，DougCutting解释Hadoop的得名：“这个名字是我孩子给一个棕黄色的大象玩具命名的。Hadoop是一个能够让用户轻松架构和使用的分布式计算平台。

4、既可以是Hadoop集群的一部分，也可以是一个独立的分布式文件系统，是开源免费的大数据处理文件存储系统。

Hadoop系列之HDFS架构

HadoopDistributedFileSystem(HDFS)是高容错、高吞吐量、用于处理海量数据的分布式文件系统。HDFS一般由成百上千的机器组成，每个机器存储整个数据集的一部分数据，机器故障的快速发现与恢复是HDFS的核心目标。

HDFS典型的块大小是128MB.。因此，HDFS文件被分割为128MB的块，可能的话每个块都位于不同的DataNode上。当客户端以复制因子3写入HDFS文件时，NameNode以复制目标选择算法replicationtargetchoosingalgorithm检索DataNodes列表。

HDFS（HadoopDistributedFileSystem）是Hadoop项目的核心子项目，是分布式计算中数据存储管理的基础，是基于流数据模式访问和处理超大文件的需求而开发的，可以运行于廉价的商用服务器上。

在配置好Hadoop集群之后，可以通过浏览器访问http：//[NameNodeIP]：9870，查询HDFS文件系统。通过该Web界面，可以查看当前文件系统中各个节点的分布信息。

Hadoop有哪几个组成部分?-ITJOB

HadoopCommon：Hadoop体系最底层的一个模块，为Hadoop各子项目提供各种工具，如：配置文件和日志操作等。HDFS：分布式文件系统，提供高吞吐量的应用程序数据访问，对外部客户机而言，HDFS就像一个传统的分级文件系统。

目前支持hadoopx(MRv1)、Hadoopx(MRv2)、Hadoopx(Yarn)三个版本的Hadoop集群的日志数据源收集，在日志管理运维方面还是处于一个国际领先的地位，目前国内有部分的数据驱动型公司也正在采用Splunk的日志管理运维服务。

(2)Hadoop的核心是MapReduce(映射和化简编程模型)引擎，Map意为将单个任务分解为多个，而Reduce则意为将分解后的多任务结果汇总，该引擎由JobTrackers(工作追踪，对应命名节点)和TaskTrackers(任务追踪，对应数据节点)组成。

在hadoop1中核心组成部分是HDFS、MapReduce，到了Hadoop2，核心变为HDFS、Yarn，而且新的HDFS中可以有多个NameNode，每个都有相同的职能。

用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布式文件系统(HadoopDistributedFileSystem)，简称HDFS。

MapReduce主要也是一个主节点JOPtracker和testtracker组成，主要是负责hadoop中的数据处理过程中的计算问题。