使用Java连接到Hadoop

般若

如何在Java程序中连接到Hadoop。以下是一些详细信息:我正在以html表单的形式接受用户的输入,并使用JSP处理表单数据。我想连接到hadoop以基于表单输入获取一些数据。在这种情况下,如何使用Java连接到Hadoop?

麦克斯

取决于您对Hadoop的了解。Hadoop的可以通过多种方式存储数据,它可以在短短的一个文件hdfs(Hadoop分布式文件系统),也可以是一个表HiveHbase有一个最简单的代码可以从hdfs中读取文件:

import org.apache.commons.io.IOUtils;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;

import java.io.IOException;
import java.net.URI;
import java.net.URISyntaxException;

public class HdfsFileReader {

    private static final String NAME_NODE = "hdfs://nameNomeHost:8020";//nameNomeHost = localhost if you use hadoop in local mode

    public static void main(String[] args) throws URISyntaxException, IOException {
        String fileInHdfs = args[0];
        FileSystem fs = FileSystem.get(new URI(NAME_NODE), new Configuration());
        String fileContent = IOUtils.toString(fs.open(new Path(fileInHdfs)), "UTF-8");
        System.out.println("File content - " + fileContent);
    }

}

您需要的Maven依赖项:

<dependency>
    <groupId>commons-io</groupId>
    <artifactId>commons-io</artifactId>
    <version>2.4</version>
</dependency>
<dependency>
    <groupId>org.apache.hadoop</groupId>
    <artifactId>hadoop-common</artifactId>
    <version>2.6.0</version>
</dependency>

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

使用Hadoop从Spark连接到ElasticSearch无效

来自分类Dev

连接到Hortonworks Hadoop / Hive

来自分类Dev

使用JDBC从Java连接到Hive

来自分类Dev

使用Java Spring连接到MongoDB 3.0

来自分类Dev

无法使用Java API连接到Hbase

来自分类Dev

如何使用Java连接到mariadb?

来自分类Dev

使用Soap Java连接到Magento API

来自分类Dev

使用Java连接到Hbase Mapr

来自分类Dev

使用Java蓝牙连接到nxt

来自分类Dev

无法使用Java连接到Hbase

来自分类Dev

使用Plain JAVA API连接到JIRA

来自分类Dev

使用Java API连接到本地TFS

来自分类Dev

使用Java FTP连接到Localhost

来自分类Dev

无法使用java连接到sql server

来自分类Dev

Java 使用 JDBC 连接到 Postgres - SQLException

来自分类Dev

如何使用Java连接到数据库连接

来自分类Dev

如何使用Java连接到数据库连接

来自分类Dev

我无法连接到Hadoop端口9000

来自分类Dev

Hadoop无法连接到Google Cloud Storage

来自分类Dev

我无法连接到Hadoop端口9000

来自分类Dev

Hadoop:无法连接到 Web GUI

来自分类Dev

从Java连接到PickBasic

来自分类Dev

从Java连接到PickBasic

来自分类Dev

使用spring数据hadoop连接到Cloudera QuickStart VM Hbase时,未知的主机异常

来自分类Dev

使用Java 1.6使用JMS连接到SQS

来自分类Dev

Hadoop如何工作?客户端如何连接到hadoop

来自分类Dev

如何将hadoop配置为使用非默认端口:“ 0.0.0.0:ssh:连接到主机0.0.0.0端口22:连接被拒绝”

来自分类Dev

Java-使用SSH隧道连接到网页

来自分类Dev

无法使用Java SSH连接到Amazon AWS实例