百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

ELK集群部署 - elasticsearch-7.9.3

nanshan 2025-01-13 16:33 10 浏览 0 评论

介绍:

  1. Elasticsearch(ES) 是个开源分布式搜索引擎,提供搜集、分析、存储数据三大功能。它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。
  2. Logstash 主要是用来日志的搜集、分析、过滤日志的工具,支持大量的数据获取方式。一般工作方式为c/s架构,client端安装在需要收集日志的主机上,server端负责将收到的各节点日志进行过滤、修改等操作在一并发往elasticsearch上去。
  3. Kibana 也是一个开源和免费的工具,Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的Web 界面,可以帮助汇总、分析和搜索重要数据日志。

注:部署ELK版本要一致

  • 本篇elasticsearch-7.9.3安装部署

1、LINUX服务器3台:

# 3台部署步骤都一样(下面配置中有指定主节点)
主节点: 127.18.9.30 
从节点: 127.18.9.31
从节点: 127.18.9.32

2、环境要求:

JDK:jdk-11.0.9
ES:  elasticsearch-7.9.3  #  (jdk版本不得低于JDK11)
#  es也有内嵌jdk,根据自己情况选择(建议安装jdk环境,后面其他服务需要用到)。
#  三台服务都需要安装ES和JDK。

3、安装&下载

jdk安装配置请参考:

jdk安装参考:https://www.toutiao.com/i6892997105107862027

方式1:下载

ES下载:https://www.elastic.co/cn/downloads/elasticsearch

方式2:wget命令下载:

#进入目录
在opt路径下 /opt
mkdir service
cd  /opt/serice
# elasticsearch-7.9.3
wget  https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.9.3-linux-x86_64.tar.gz

解压文件:

[dmsadmin@prod-dms-0930 elk]$ tar -zxvf  elasticsearch-7.9.3-linux-x86_64.tar.gz

4、参数配置

4.1 调整内核参数

[root@prod-dms-0930 ~]$ vim  /etc/sysctl.conf
 # 修改以下参数
vm.max_map_count= 262144
 
 # 保存退出 :  !wq   ,继续修改
 [root@prod-dms-0930 ~]$ vim  /etc/security/limits.conf

# 最下方添加以下参数
*              soft    nproc          65536
*              hard    nproc          65536
*              soft    nofile          65536
*              hard    nofile          65536

保存退出后,让修改的文件生效:

 [root@prod-dms-0930 ~]$ sysctl -p

4.2 修改 jvm.options文件参数

[root@prod-dms-0930 ~]$ cd  /opt/elk/elasticsearch-7.9.3/config
 vim  jvm.options

# 改为以下参数:
-Xms512m
-Xmx512m

4.3 修改 elasticsearch.yml文件

#  进入目录
[root@prod-dms-0930 ~]$ cd  /opt/elk/elasticsearch-7.9.3/config
#  编辑文件
[root@prod-dms-0930 config]$ vim  elasticsearch.yml


---------------------------在最下方添加以下参数----------------------
#我是3台服务
discovery.seed_hosts : [ "127.18.9.30:9300" , "127.18.9.31:9300" , "127.18.9.32:9300" ]
cluster.initial_master_nodes : ["127.18.9.30:9300"]
# 集群的名字  
cluster.name : elasticsearch
# 节点名字  
node.name : node-1
# 数据存储目录(多个路径用逗号分隔)  
path.data : /opt/es/data
# 日志目录  
path.logs : /opt/es/logs
# 修改一下ES的监听地址,这样别的机器才可以访问  
network.host : 0.0.0.0
# 设置节点间交互的tcp端口(集群),默认是9300  
transport.tcp.port : 9300
# 监听端口(默认的就好)
http.port : 9200
# true主节点,子节点可无需配置此项
node.master : true
# 增加新的参数,这样head插件才可以访问es  
http.cors.enabled : true
http.cors.allow-origin : "*"

保存退出 : :wq

到这里,配置已经ok了,继续 ↓↓↓

5、创建用户(用来启动es)

ES默认不允许使用root用户运行,如果使用root会报如下图的错误:

创建用户:

# 创建一个用户名为:elasticsearch
[root@prod-dms-0930 ~]$ useradd  elasticsearch
# 为elasticsearch用户创建密码
[root@prod-dms-0930 ~]$ passwd  elasticsearch

# 接下来输入两次密码 就ok了,
# 为了方便记,我的用户名和密码是一样的

# 用root用户给elasticsearch用户授权
[root@prod-dms-0930 ~]$ chown -R  elasticsearch@elasticsearch  /opt
  
#  给需要操作的目录添加权限,根据情况而定
# 比如:日志输出目录,opt目录等
  
# 切换用户
[root@prod-dms-0930 ~]$ su elasticsearch
   
# 进入bin目录
[elasticsearch@prod-dms-0930  ~]$ cd  /opt/elk/elasticsearch-7.9.3/bin

# 启动
 [elasticsearch@prod-dms-0930  bin]$  ./elasticsearch -d &


elasticsearch的默认端口为9200,启动成功后,执行以下命令:

在浏览器中访问: http://127.18.9.30:9200

返回以下的信息,则证明启动成功:

{
 "name" : "VM_0_5_centos",
 "cluster_name" : "elasticsearch",
 "cluster_uuid" : "gst98AuET6a648YmAkXyMw",
 "version" : {
 "number" : "7.2.0",
 "build_flavor" : "default",
 "build_type" : "rpm",
 "build_hash" : "508c38a",
 "build_date" : "2019-06-20T15:54:18.811730Z",
 "build_snapshot" : false,
 "lucene_version" : "8.0.0",
 "minimum_wire_compatibility_version" : "6.8.0",
 "minimum_index_compatibility_version" : "6.0.0-beta1"
 },
 "tagline" : "You Know, for Search"
}

注:三台服务部署步骤、配置一样


9300端口是使用tcp客户端连接使用的端口;(es之间通讯的端口)

9200端口是通过http协议连接es使用的端口;(外部与es通讯的端口)


ELK的本质:

elasticsearch是做存储的,
kibana是做展示的,
logstash是抽取日志到elasticsearch的.


es启动报错的一些问题请参考:

https://blog.csdn.net/u013641234/article/details/80792416

相关推荐

Let’s Encrypt免费搭建HTTPS网站

HTTPS(全称:HyperTextTransferProtocoloverSecureSocketLayer),是以安全为目标的HTTP通道,简单讲是HTTP的安全版。即HTTP下加入...

使用Nginx配置TCP负载均衡(nginx tcp负载)

假设Kubernetes集群已经配置好,我们将基于CentOS为Nginx创建一个虚拟机。以下是实验种设置的详细信息:Nginx(CenOS8Minimal)-192.168.1.50Kube...

Nginx负载均衡及支持HTTPS与申请免费SSL证书

背景有两台minio文件服务器已做好集群配置,一台是192.168.56.41:9000;另一台是192.168.56.42:9000。应用程序通过Nginx负载均衡调用这两台minio服务,减轻单点...

HTTPS配置实战(https配置文件)

原因现在网站使用HTTPS是规范操作之一,前些日子买了腾讯云服务,同时申请了域名http://www.asap2me.top/,目前该域名只支持HTTP,想升级为HTTPS。关于HTTPS的链接过程大...

只有IP地址没有域名实现HTTPS访问方法

一般来说,要实现HTTPS,得有个注册好的域名才行。但有时候呢,咱只有服务器的IP地址,没注册域名,这种特殊情况下,也能照样实现HTTPS安全访问,按下面这些步骤来就行:第一步,先确认公网...

超详解:HTTPS及配置Django+HTTPS开发环境

众所周知HTTP协议是以TCP协议为基石诞生的一个用于传输Web内容的一个网络协议,在“网络分层模型”中属于“应用层协议”的一种。在这里我们并不研究该协议标准本身,而是从安全角度去探究使用该协议传输数...

Godaddy购买SSL之后Nginx配置流程以及各种错误的解决

完整流程:参考地址:https://sg.godaddy.com/zh/help/nginx-generate-csrs-certificate-signing-requests-3601生成NGI...

Nginx从安装到高可用,一篇搞定(nginx安装与配置详解)

一、Nginx安装1、去官网http://nginx.org/下载对应的nginx包,推荐使用稳定版本2、上传nginx到linux系统3、安装依赖环境(1)安装gcc环境yuminstallgc...

阿里云免费证书申请,配置安装,使用tomcat,支持http/https访问

参数说明商品类型默认已选择云盾证书服务(无需修改)。云盾证书服务类型SSL证书服务的类型。默认已选择云盾SSL证书(无需修改),表示付费版SSL证书。如果您需要免费领取或付费扩容DV单域名证书【免费试...

你试过两步实现Nginx的规范配置吗?极速生成Nginx配置小工具

NGINX是一款轻量级的Web服务器,最强大的功能之一是能够有效地提供HTML和媒体文件等静态内容。NGINX使用异步事件驱动模型,在负载下提供可预测的性能。是当下最受欢迎的高性能的Web...

从零开始搭建HTTPS服务(搭建https网站)

搭建HTTPS服务的最初目的是为了开发微信小程序,因为wx.request只允许发起HTTPS请求,并且还必须和指定的域名进行网络通信。要从零开始搭建一个HTTPS的服务需要下面4...

群晖NAS使用官网域名和自己的域名配置SSL实现HTTPS访问

安全第一步,群晖NAS使用官网域名和自己的域名配置SSL实现HTTPS访问【新手导向】NAS本质还是一个可以随时随地访问的个人数据存储中心,我们在外网访问的时候,特别是在公网IP下,其实会面临着很多安...

让网站快速升级HTTPS协议提高安全性

为什么用HTTPS网络安全越来越受到重视,很多互联网服务网站,都已经升级改造为https协议。https协议下数据包是ssl/tcl加密的,而http包是明文传输。如果请求一旦被拦截,数据就会泄露产生...

用Https方式访问Harbor-1.9版本(https访问流程)

我上周在头条号写过一篇原创文章《Docker-Harbor&Docker-kitematic史上最详细双系统配置手册》,这篇算是它的姊妹篇吧。这篇文章也将用到我在头条写的另一篇原创文章的...

如何启用 HTTPS 并配置免费的 SSL 证书

在Linux服务器上启用HTTPS并配置免费的SSL证书(以Let'sEncrypt为例)可以通过以下步骤完成:---###**一、准备工作**1.**确保域名已解析**...

取消回复欢迎 发表评论: