首页 > 代码库 > java管理hdfs文件的常用类小结
java管理hdfs文件的常用类小结
最近在写一些hadoop的运维工具,考虑到hadoop本身是java编写的,api比较方便,可以直接拿来就用
准备用java来写。
今天测试了几个fs相关的类。
主要有FileStatus,FileSystem,DistributedFileSystem,DatanodeInfo,BlockLocation
FileStatus是和文件的属性相关的类,比如文件的名称,大小,属主等
主要的取值方法有:
getPath,getLen,getModificationTime,getAccessTime,getReplication,getOwner,getGroup,getPermission等,通过字面意思就可以很容易的理解其功能
FileSystem是一个抽象类,常见的具体实现类是LocalFileSystem和DistributedFileSystem
常见的方法:
listStatus 查看目录下的文件属性,返回FileStatus数组,getFileStatus 查看一个文件的属性,返回FileStatus
copyToLocalFile hdfs到本地复制,copyFromLocalFile 本地到hdfs复制,exists 判断文件是否存在,参数为Path,getLocal 返回本地文件系统,LocalFileSystem
getFileBlockLocations ,返回BlockLocation的数组,参数是FileStatus 等
DatanodeInfo是和datanode有关的类,主要是包含了datanode的相关信息,主要有容量,打开文件数,主机名,ip等信息,比如查看整个hdfs集群的存储状态(dfsadmin report)就是调用了
getDatanodeReport方法。
BlockLocation包含了block所在的datanode的信息,可以用来查看一个文件的block的具体信息,比如大小,所在主机,是否为坏块等
综上,可以用FileStatus来获取文件的属性,FileSystem的具体实现类来对文件做操作,用DatanodeInfo来获取datanode的信息,BlockLocation来看文件到block的对应关系
下面列举两个例子:
例1:
import java.io.IOException; import java.util.ArrayList; import java.util.List; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileStatus; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path; import org.apache.hadoop.hdfs.DistributedFileSystem; import org.apache.hadoop.hdfs.protocol.DatanodeInfo; import org.apache.hadoop.fs.BlockLocation; import static java.lang.System.out; public class FileStatusTest { private static Configuration config = new Configuration(); private static FileSystem hdfs = null ; private static FileStatus[] status = null ; public static void main(String[] args) throws IOException{ List<String> namelist = new ArrayList<String>(); config.addResource("hdfs-site.xml" ); config.addResource("core-site.xml" ); out.println(config.get("dfs.namenode.name.dir")); out.println(config.get("fs.defaultFS")); FileSystem hdfs = FileSystem.get( config); out.println(hdfs.getClass().getName()); String file = args[0]; try { if(!hdfs.exists(new Path (file))){ return; } status = hdfs.listStatus(new Path (file)); out.println("file num is " + status.length); for(FileStatus f: status) { namelist.add(f.getPath().toString()); out.println("file name is " + f.getPath()); } } catch(Exception e){ e.printStackTrace(); } } }
例2:
import java.io.IOException; import java.util.ArrayList; import java.util.List; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileStatus; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path; import org.apache.hadoop.hdfs.DistributedFileSystem; import org.apache.hadoop.hdfs.protocol.DatanodeInfo; import org.apache.hadoop.fs.BlockLocation; import static java.lang.System.out; public class FileStatusTest { private static Configuration config = new Configuration(); private static FileSystem hdfs = null ; private static FileStatus[] status = null ; public static void main(String[] args) throws IOException{ List<String> namelist = new ArrayList<String>(); List<String> hostlist = new ArrayList<String>(); config.addResource("hdfs-site.xml" ); config.addResource("core-site.xml" ); out.println(config.get("dfs.namenode.name.dir")); out.println(config.get("fs.defaultFS")); FileSystem hdfs = FileSystem.get( config); try{ DistributedFileSystem dishdfs = (DistributedFileSystem) hdfs; DatanodeInfo[] nodeStats = dishdfs.getDataNodeStats(); String[] names = new String[nodeStats.length]; for (int i = 0; i < nodeStats.length; i++) { out.println("hostname is " + nodeStats[i].getName()); out.println("dfs used is " + nodeStats[i].getDfsUsed()); out.println(nodeStats[i].getDatanodeReport()); } } catch(Exception e){ e.printStackTrace(); } out.println(hdfs.getClass().getName()); String file = args[0]; try { if(!hdfs.exists(new Path (file))){ return; } status = hdfs.listStatus(new Path (file)); out.println("file num is " + status.length); for(FileStatus f: status) { namelist.add(f.getPath().toString()); out.println("file name is " + f.getPath()); BlockLocation[] blks = hdfs.getFileBlockLocations(f, 0, f.getLen()); for (BlockLocation blk:blks){ out.println("blk name is " + blk.toString()); out.println("length is " + blk.getLength()); } } } catch(Exception e){ e.printStackTrace(); } } }
本文出自 “菜光光的博客” 博客,请务必保留此出处http://caiguangguang.blog.51cto.com/1652935/1528510
java管理hdfs文件的常用类小结