1. 程式人生 > >hadoop三個配置檔案的引數含義說明

hadoop三個配置檔案的引數含義說明

hadoop常用埠配置

1. HDFS埠

引數

描述

預設

配置檔案

例子值

fs.default.name

namenode RPC互動埠

8020

core-site.xml

hdfs://master:8020/

dfs.http.address 

NameNode web管理埠

50070

hdfs- site.xml

0.0.0.0:50070

dfs.datanode.address

datanode 控制埠

50010 

hdfs -site.xml 

0.0.0.0:50010

dfs.datanode.ipc.address

datanodeRPC伺服器地址和埠

50020

hdfs-site.xml

0.0.0.0:50020

dfs.datanode.http.address

datanodeHTTP伺服器和埠

50075

hdfs-site.xml 

0.0.0.0:50075

2. MR埠

引數

描述

預設

配置檔案

例子值

mapred.job.tracker

job-tracker互動埠

8021

mapred-site.xml

hdfs://master:8021/

job

trackerweb管理埠

50030

mapred-site.xml

0.0.0.0:50030

mapred.task.tracker.http.address

task-tracker

HTTP

50060

mapred-site.xml

0.0.0.0:50060

3. 其他埠

引數

描述

預設

配置檔案

例子值

dfs.secondary.http.address

secondary NameNode web管理埠

50090

hdfs-site.xml

0.0.0.0:50090

預設配置參考檔案說明

1. core-default.xml

序號

引數名

引數值

引數說明

1

hadoop.tmp.dir                      

/tmp/hadoop-${user.name}                        

臨時目錄設定

2

hadoop.native.lib                  

true                                                 

使用本地hadoop庫標識。

3

hadoop.http.filter.initializers    

http伺服器過濾鏈設定

4

hadoop.security.group.mapping   

org.apache.hadoop.security.ShellBasedUnixGroupsMapping

組內使用者的列表的類設定

5

hadoop.security.authorization      

false                                                

服務端認證開啟

6

hadoop.security.authentication     

simple                                                

無認證或認證設定

7

hadoop.security.token.service.use_ip

true                                                 

是否開啟使用IP地址作為連線的開關

8

hadoop.logfile.size                

10000000                                             

日誌檔案最大為10M

9

hadoop.logfile.count

10                                                    

日誌檔案數量為10

10

io.file.buffer.size

4096

流檔案的緩衝區為4K

11

io.bytes.per.checksum

512 

校驗位數為512位元組

12

io.skip.checksum.errors

false

校驗出錯後是丟擲異常還是略過標識。True則略過。

13

io.compression.codecs

org.apache.hadoop.io.compress.DefaultCodec,

org.apache.hadoop.io.compress.GzipCodec,

org.apache.hadoop.io.compress.BZip2Codec,

org.apache.hadoop.io.compress.SnappyCodec

壓縮和解壓的方式設定

14

io.serializations

org.apache.hadoop.io.serializer.WritableSerialization

序例化和反序列化的類設定

15

相關推薦

hadoop配置檔案引數含義說明

hadoop常用埠配置 1. HDFS埠 引數 描述 預設 配置檔案 例子值 fs.default.name namenode RPC互動埠

Quartz 監控學習記錄(配置檔案配置項的含義

quartz.properties #org.quartz.jobStore.class = org.quartz.simpl.RAMJobStore #=================================================

Hadoop》之"踽踽獨行"(九)Hadoop叢集的四配置檔案的屬性解析

在啟動hadoop叢集的守護執行緒時,一定會載入並執行相關的class位元組碼檔案。通過common模組和hdfs模組裡的原始碼可以看到,它們讀取了相關的配置檔案。 hadoop-common-2.7.3-sources.jar下的org.apache.hadoop.conf.Configura

Spring的ApplicationContext載入多配置檔案種方式

1.第一種,使用陣列殘燭  ApplicationContext contex=new ClassXmlApplicationContext(bew String["a1.xml","a2.xml"]);2.第二種,只用萬用字元  ApplicationContext co

hadoop引數彙總配置檔案引數詳解

Hadoop引數彙總 @(hadoop)[配置] linux引數 以下引數最好優化一下: 檔案描述符ulimit -n使用者最大程序 nproc (hbase需要 hbse book)關閉swap分割槽設定合理的預讀取緩衝區Linux的核心的I

部署FTP服務、FTP服務主配置檔案引數詳解

FTP服務 概述: FTP(File Transfer Protocol),是檔案傳輸協議的簡稱。用於Internet上的控制檔案的雙向傳輸。同時, 它也是一個應用程式(Application),使用者可以通過它把自己的PC機與世界各地所有執行FTP協議的伺服器相連, 訪問伺服器上的

springboot配置檔案上傳下載大小的配置

配置檔案為application.yml格式: spring: http: multipart: enabled: true max-file-size: 30MB max-request-size: 30MB第二種: package com.haiyiso

springboot匯入多配置檔案

springboot匯入配置檔案的類如下: package com.upin.config; import org.springframework.context.annotation.Configuration; import org.springframework.context.anno

為應用指定多配置檔案

包含關係 <?xml version="1.0" encoding="UTF-8"?> <beans xmlns="http://www.springframework.org/schema/beans" xmlns:xsi="http://www.w3.org/2

瞭解Ubuntu中的幾配置檔案profile和bash.bashrc

一、profile 使用者登入載入該配置檔案或者說是shell指令碼 二、bash.bashrc 當開啟終端時會載入改配置檔案 注意:這兩個配置檔案都是shell指令碼,也就是說你可以在裡面新增一些自己的風格,比如開啟終端先來個動畫愉悅一下^^    

my.cnf 配置檔案引數解釋

      my.cnf 配置檔案引數解釋: #*** client options 相關選項 ***# #以下選項會被MySQL客戶端應用讀取。注意只有MySQL附帶的客戶端應用程式保證可以讀取這段內容。如果你想你自己的MySQL應用程式獲取這些值

ELK6.0日誌從收集到處理完整版教程(配置檔案講解

FIlebeat 配置檔案內容詳解: vi filebeat.yml filebeat.prospectors: #日誌型別 - type: log enabled: True # 日誌路徑可以寫多個,支援萬用字元 paths: - /tmp/test.

Hadoop高可用配置檔案hdfs-site.xml之dfs.ha.fencing.methods說明

dfs.ha.fencing.methods配置有sshfence和shell兩種方法: sshfence:防止namenode腦裂,當腦裂時,會自動通過ssh到old-active將其殺掉,將standby切換為active。         &nb

SpringBoot中對多配置檔案中的屬性進行提取的簡易方法

我們要提取一下屬性: 首先建立一個GirlProperties類 package com.springboot.properties; import org.springframework.boot.context.properties.ConfigurationPropertie

Struts2學習筆記:DMI,多配置檔案,預設Action,字尾

動態方法呼叫有三種方法: 1.同一Action多次對映,每個action標籤的method對應要呼叫的方法。 當要呼叫的方法多了就會增加struts.xml檔案的複雜性。 2.struts.DynamicMethodInvocation=true (struts.properties檔案) 或<

keepalived 配置檔案引數詳解

global_defs 全域性配置vrrpd 1. vrrp_script新增一個週期性執行的指令碼。指令碼的退出狀態碼會被呼叫它的所有的VRRP Instance記錄。 2. vrrp_sync_group將所有相關的VRRP例項定義在一起,作為一個VRRP Group,如果組內的任意一個例項出現問題,都可

SpringBoot-配置檔案詳解之多配置檔案

在現實的開發環境中,我們需要不同的配置環境。比如開發環境用於開發,測試環境用於測試,預生產環境用於釋出測試。那麼對於多個環境的配置檔案,其檔案格式為:application-{profile}.properties,其中{profile}對應我們的環境標識。比如我們這裡定義了

Linux環境下多庫svn安裝與配置(獨立庫,多配置檔案

[先在伺服器中開啟放行 3690 埠!!!] (1)檢視是否已經安裝了svn 命令:svnserve --version 沒有安裝,出現下面資訊-> 已經安裝,出現下面版本資訊-> 檢視安裝svn的路徑資訊:rpm -ql subversion

springboot多配置檔案配置application.properties的配置 版本 sprigboot2.1

注意副配置檔案的命名方式是application-XXX.properties spring.profiles.active=druid spring.profiles.active=druid server.address=127.0.0.1 s

LVS原理詳解 && 配置檔案引數詳解

LVS原理詳解   LVS原理詳解 LVS簡介 LVS結構與工作原理 一.LVS的結構 二.LVS核心模型 三.LVS的包轉發模型 1.NAT模型: 2.DR模型: