FetchHDFS
描述:
从HDFS读取文件内容作为数据流输出。读取的文件不做任何更改并保持HDFS中的文件的完整性。
标签:
hadoop, hdfs, get, ingest, fetch, source, 获取, 读取
参数:
如下列表中，必填参数则标识为加粗. 其他未加粗参数，则表示为可选参数。表中同时提到参数默认值设置, 并且 参数还支持 表达式语言.
| 名字 | 默认值 | 允许值列表 | 描述 |
|---|---|---|---|
| Hadoop配置 | 指定由逗号分隔符分隔的多个Hadoop配置文件。如果不设置，则Hadoop将搜索类路径(classpath)查找'core-site.xml' 和 'hdfs-site.xml'文件，或还原为默认配置。 为了使用 swebhdfs, 可查看 '高级设置' 的 PutHDFS 文档 支持表达式语言 (仅支持变量) | ||
| Kerberos证书服务 | 控制器服务API: KerberosCredentialsService 实现: KeytabCredentialsService | 指定用于Kerberos授权的证书服务配置 | |
| Kerberos Principal | 指定用于认证的Kerberos principal。 需要设置在 orchsym.properties 配置文件中设置 orchsym.kerberos.krb5.file 支持表达式语言 (仅支持变量) | ||
| Kerberos Keytab | 指定用于关联Principal认证的Kerberos keytab。 需要设置在 orchsym.properties 配置文件中设置 orchsym.kerberos.krb5.file 支持表达式语言 (仅支持变量) | ||
| Kerberos重新登录时长 | 4 hours | 尝试Kerberos重新登录的时长。注：该参数以被弃用,并组件执行没有影响。现在重新登录将自动发生 支持表达式语言 (仅支持变量) | |
| 额外类路径 | 指定将添加到类路径的并以逗号分隔的多个文件或目录。 当指定目录时，所有目录下的文件将被添加到类路径中，但并不迭代包含子目录中的文件 | ||
| HDFS文件 | ${path}/${filename} | 指定要读取的HDFS文件名 支持表达式语言 (支持流属性和变量) | |
| 压缩编码 | 原始 | - 原始  - 默认 - BZIP - GZIP - LZ4 - LZO - SNAPPY - 自动发现 | 指定创建序列文件的文件压缩编码 |
连线:
| 名字 | 描述 |
|---|---|
| success | 成功读取文件将输出到此连线 |
| comms.failure | 由于通信问题导致读取文件失败将路由到此连线。这通常表示可再次尝试读取 |
| failure | 如果文件读取失败且重新尝试仍没有帮助将路由到此连线。发送这种情况，一般是由于文件没有找到或权限问题 |
读取属性:
未提供。
写入属性:
| 名字 | 描述 |
|---|---|
| hdfs.failure.reason | 当数据流输出到失败连线，该属性表示不能读取文件的原因 |
状态管理:
该组件不保存状态。
限制:
| 要求权限 | 说明 |
|---|---|
| 读文件系统 | 基于当前平台可访问的权限，提供相应的读取文件操作权限。 |
输入流要求:
组件必须提供输入流。
系统资源考量:
未提供。