hadoop的几个问题 1.将本地文件复制到hdfs中，那么在hdfs中这个文件是存放在namenode还是分开放在datanode
2.程序运行时InputFormat类的对像是在namenode还是在datanode还是都有？如果都有那么如果在inputFormat类中引用了其它自定义的类对像，那么各个datanode上也有吗？如果这个对像是一个静态的呢，各个datanode上的怎么去同步或是保持一致？
3.在reducer处理完后的数据如果是放在hdfs文本中，那么这些数据是分开放在datanode上的，namenode只存有其分块地址?还是这些数据都是放在namenode上的？
4.outputFormat的执行时间的问题，是每个reducer的结果都会有一个outputformat对像去接收数据，还是所有的reducer的结果都是由一个outputFormat对像去接收数据？
刚学hadoop，被这个几问题深深的困扰，望解答，先谢过了
第1个回答 2012-11-10
试着回答：
先说明一下：
1. namenode负责管理目录和文件信息，真正的文件块是存放在datanode上。
2. 每个map和reduce（即task)都是java进程，默认是有单独的jvm的，所以不可能同一个类的对象会在不同节点上。
看你的描述是把namenode,datanode和jobtracker,tasktracker有点混了。
所以：
问题1. 分块存放在datanode上
问题2.inputformat是在datanode上，确切的说是在tasktracker中。每个map和reduce都会有自己的对象，当多个map读入一个文件时，实际上不同的map是读的文件不同的块，reduce也是一样，各个任务读入的数据是不相交的。
问题3.reduce输出肯定是在hdfs上，和普通文件一样在datanode上。
问题4.每个reducer会有自己的outputformat对象，与前面inputformat原因一样。本回答被提问者和网友采纳
先说明一下：
1. namenode负责管理目录和文件信息，真正的文件块是存放在datanode上。
2. 每个map和reduce（即task)都是java进程，默认是有单独的jvm的，所以不可能同一个类的对象会在不同节点上。
看你的描述是把namenode,datanode和jobtracker,tasktracker有点混了。
所以：
问题1. 分块存放在datanode上
问题2.inputformat是在datanode上，确切的说是在tasktracker中。每个map和reduce都会有自己的对象，当多个map读入一个文件时，实际上不同的map是读的文件不同的块，reduce也是一样，各个任务读入的数据是不相交的。
问题3.reduce输出肯定是在hdfs上，和普通文件一样在datanode上。
问题4.每个reducer会有自己的outputformat对象，与前面inputformat原因一样。本回答被提问者和网友采纳
相似回答
