Elasticsearch 单机 & 集群_elasticsearch集群启动

单机 & 集群

单台 Elasticsearch 服务器提供服务,往往都有最大的负载能力,超过这个阈值,服务器 性能就会大大降低甚至不可用,所以生产环境中,一般都是运行在指定服务器集群中。除了负载能力,单点服务器也存在其他问题:

  • 单台机器存储容量有限
  • 单服务器容易出现单点故障,无法实现高可用
  • 单服务的并发处理能力有限

集群 Cluster

一个集群就是由一个或多个服务器节点组织在一起,共同持有整个的数据,并一起提供索引和搜索功能。一个 Elasticsearch 集群有一个唯一的名字标识,这个名字默认就是”elasticsearch”。这个名字是重要的,因为一个节点只能通过指定某个集群的名字,来加入这个集群。

节点 Node

集群中包含很多服务器,一个节点就是其中的一个服务器。作为集群的一部分,它存储数据,参与集群的索引和搜索功能。

一个节点也是由一个名字来标识的,默认情况下,这个名字是一个随机的漫威漫画角色的名字,这个名字会在启动的时候赋予节点。这个名字对于管理工作来说挺重要的,因为在这个管理过程中,你会去确定网络中的哪些服务器对应于 Elasticsearch 集群中的哪些节点。

一个节点可以通过配置集群名称的方式来加入一个指定的集群。默认情况下,每个节点都会被安排加入到一个叫做“elasticsearch”的集群中,这意味着,如果你在你的网络中启动了若干个节点,并假定它们能够相互发现彼此,它们将会自动地形成并加入到一个叫做“elasticsearch”的集群中。

Windows 集群示例

部署集群

1) 创建 elasticsearch-cluster 文件夹,在内部复制三个 elasticsearch 服务

2) 修改集群文件目录中每个节点的 config/elasticsearch.yml 配置文件

  • node-1001 节点
#节点 1 的配置信息:
#集群名称,节点之间要保持一致
cluster.name: my-elasticsearch
#节点名称,集群内要唯一
node.name: node-1001
node.master: true
node.data: true
#ip 地址
network.host: localhost
#http 端口
http.port: 1001
#tcp 监听端口
transport.tcp.port: 9301
#discovery.seed_hosts: ["localhost:9301", "localhost:9302","localhost:9303"]
#discovery.zen.fd.ping_timeout: 1m
#discovery.zen.fd.ping_retries: 5
#集群内的可以被选为主节点的节点列表
#cluster.initial_master_nodes: ["node-1", "node-2","node-3"]
#跨域配置
#action.destructive_requires_name: true
http.cors.enabled: true
http.cors.allow-origin: "*"
  • node-1002 节点
#节点 2 的配置信息:
#集群名称,节点之间要保持一致
cluster.name: my-elasticsearch
#节点名称,集群内要唯一
node.name: node-1002
node.master: true
node.data: true
#ip 地址
network.host: localhost
#http 端口
http.port: 1002
#tcp 监听端口
transport.tcp.port: 9302
discovery.seed_hosts: ["localhost:9301"]
discovery.zen.fd.ping_timeout: 1m
discovery.zen.fd.ping_retries: 5
#集群内的可以被选为主节点的节点列表
#cluster.initial_master_nodes: ["node-1", "node-2","node-3"]
#跨域配置
#action.destructive_requires_name: true
http.cors.enabled: true
http.cors.allow-origin: "*"
  • node-1003 节点
#节点 3 的配置信息:
#集群名称,节点之间要保持一致
cluster.name: my-elasticsearch
#节点名称,集群内要唯一
node.name: node-1003
node.master: true
node.data: true
#ip 地址
network.host: localhost
#http 端口
http.port: 1003
#tcp 监听端口
transport.tcp.port: 9303
#候选主节点的地址,在开启服务后可以被选为主节点
discovery.seed_hosts: ["localhost:9301", "localhost:9302"]
discovery.zen.fd.ping_timeout: 1m
discovery.zen.fd.ping_retries: 5
#集群内的可以被选为主节点的节点列表
#cluster.initial_master_nodes: ["node-1", "node-2","node-3"]
#跨域配置
#action.destructive_requires_name: true
http.cors.enabled: true
http.cors.allow-origin: "*"

启动集群

1) 启动前先删除每个节点中的 data 目录中所有内容(如果存在),否则会影响启动

2) 分别双击执行 bin/elasticsearch.bat, 启动节点服务器,启动后,会自动加入指定名称的集群

测试集群

查看集群状态

  • node-1001 节点
  • node-1002 节点

向集群中的 node-1001 节点增加索引,向集群中的 node-1002 节点查询索引

linux 环境单机配置

linux环境下的配置,基本和window是一样,只不过会有一些注意事项,下面就列出一些要注意的事项。

创建用户

因为安全问题,Elasticsearch 不允许 root 用户直接运行,所以要创建新用户,在 root 用户中创建新用户/

useradd es #新增 es 用户
passwd es #为 es 用户设置密码
userdel -r es #如果错了,可以删除再加
chown -R es:es /opt/module/es #文件夹所有者

修改配置文件

修改
/opt/module/es/config/elasticsearch.yml 文件

# 加入如下配置
cluster.name: elasticsearch
node.name: node-1
network.host: 0.0.0.0
http.port: 9200
cluster.initial_master_nodes: ["node-1"]

修改/etc/security/limits.conf

# 在文件末尾中增加下面内容
# 每个进程可以打开的文件数的限制
es soft nofile 65536
es hard nofile 65536

修改
/etc/security/limits.d/20-nproc.conf

# 在文件末尾中增加下面内容
# 每个进程可以打开的文件数的限制
es soft nofile 65536
es hard nofile 65536
# 操作系统级别对每个用户创建的进程数的限制
* hard nproc 4096
# 注:* 带表 Linux 所有用户名称

修改/etc/sysctl.conf

# 在文件中增加下面内容
# 一个进程可以拥有的 VMA(虚拟内存区域)的数量,默认值为 65536
vm.max_map_count=655360

重新加载

sysctl -p 

linux 环境集群配置

node-4

# 集群名称
cluster.name: hnxxpt-es-cluster
# 节点名称                   
node.name: node-4
node.master: true
node.data: true
#最大集群节点数
# node.max_local_storage_nodes: 1

# 数据的默认存放路径
path.data: /home/ecs-user/elasticsearch/data
# 日志的默认存放路径                
path.logs: /home/ecs-user/elasticsearch/log 

# 当前节点的IP地址
network.bind_host: 172.25.242.43
network.publish_host: 47.94.1.137
#对外提供服务的端口,9300为集群服务的端口                           
http.port: 9200        
transport.tcp.port: 9300
  
#es7.x 之后新增的配置,写入候选主节点的设备地址,在开启服务后可以被选为主节点
discovery.seed_hosts: ["47.94.1.137:9300","60.205.231.95:9300","47.93.4.186:9300"]
#es7.x 之后新增的配置,初始化一个新的集群时需要此配置来选举master  
#cluster.initial_master_nodes: ["xxpt-node-2"]
cluster.initial_master_nodes: ["node-4", "node-5", "node-6"]

#避免出现跨域问题
http.cors.enabled: true
http.cors.allow-origin: "*"
http.cors.allow-headers: "Authorization"
http.cors.allow-credentials: true

#注意:配置文件上方需要更改两个参数,在Memory下更改:
bootstrap.memory_lock: false
bootstrap.system_call_filter: false

#是否启用es的安全设置,启用安全设置后es各节点、客户端的传输都会加密,并需要账号密码 设置证书
xpack.security.enabled: true
xpack.security.transport.ssl.enabled: true
xpack.security.transport.ssl.verification_mode: certificate
xpack.security.transport.ssl.keystore.path: certs/elastic-certificates.p12
xpack.security.transport.ssl.truststore.path: certs/elastic-certificates.p12
#xpack.security.authc.api_key.enabled: true

node-5

# 集群名称
cluster.name: hnxxpt-es-cluster
# 节点名称                   
node.name: node-5
node.master: true
node.data: true
#最大集群节点数
# node.max_local_storage_nodes: 1

# 数据的默认存放路径
path.data: /home/ecs-user/elasticsearch/data
# 日志的默认存放路径                
path.logs: /home/ecs-user/elasticsearch/log 

# 当前节点的IP地址
#network.host: 172.25.242.42
network.bind_host: 172.25.242.42
network.publish_host: 60.205.231.95
#对外提供服务的端口,9300为集群服务的端口                           
http.port: 9200        
transport.tcp.port: 9300

 
#es7.x 之后新增的配置,写入候选主节点的设备地址,在开启服务后可以被选为主节点
discovery.seed_hosts: ["47.94.1.137:9300","60.205.231.95:9300","47.93.4.186:9300"]
#es7.x 之后新增的配置,初始化一个新的集群时需要此配置来选举master  
cluster.initial_master_nodes: ["node-4", "node-5", "node-6"]

#避免出现跨域问题
http.cors.enabled: true
http.cors.allow-origin: "*"
http.cors.allow-headers: "Authorization"
http.cors.allow-credentials: true

#注意:配置文件上方需要更改两个参数,在Memory下更改:
bootstrap.memory_lock: false
bootstrap.system_call_filter: false

#是否启用es的安全设置,启用安全设置后es各节点、客户端的传输都会加密,并需要账号密码 设置证书
xpack.security.enabled: true
xpack.security.transport.ssl.enabled: true
xpack.security.transport.ssl.verification_mode: certificate
xpack.security.transport.ssl.keystore.path: certs/elastic-certificates.p12
xpack.security.transport.ssl.truststore.path: certs/elastic-certificates.p12
#xpack.security.authc.api_key.enabled: true

node-6

# 集群名称
cluster.name: hnxxpt-es-cluster
# 节点名称                   
node.name: node-6
node.master: true
node.data: true
#最大集群节点数
#node.max_local_storage_nodes: 1

# 数据的默认存放路径
path.data: /home/ecs-user/elasticsearch/data
# 日志的默认存放路径                
path.logs: /home/ecs-user/elasticsearch/log 

# 当前节点的IP地址
network.bind_host: 172.25.242.41
network.publish_host: 47.93.4.186
#对外提供服务的端口,9300为集群服务的端口                           
http.port: 9200        
transport.tcp.port: 9300

 
#es7.x 之后新增的配置,写入候选主节点的设备地址,在开启服务后可以被选为主节点
#discovery.seed_hosts: ["47.93.4.186:9300"]
discovery.seed_hosts: ["47.94.1.137:9300","60.205.231.95:9300","47.93.4.186:9300"]
#es7.x 之后新增的配置,初始化一个新的集群时需要此配置来选举master  
#cluster.initial_master_nodes: ["node-6"]
cluster.initial_master_nodes: ["node-4", "node-5", "node-6"]

#避免出现跨域问题
http.cors.enabled: true
http.cors.allow-origin: "*"
http.cors.allow-headers: "Authorization"
http.cors.allow-credentials: true

#注意:配置文件上方需要更改两个参数,在Memory下更改:
bootstrap.memory_lock: false
bootstrap.system_call_filter: false

#是否启用es的安全设置,启用安全设置后es各节点、客户端的传输都会加密,并需要账号密码 设置证书
xpack.security.enabled: true
xpack.security.transport.ssl.enabled: true
xpack.security.transport.ssl.verification_mode: certificate
xpack.security.transport.ssl.keystore.path: certs/elastic-certificates.p12
xpack.security.transport.ssl.truststore.path: certs/elastic-certificates.p12
#xpack.security.authc.api_key.enabled: true
原文链接:,转发请注明来源!