
[[416439]]
本文转载自微信公众号「无敌码农」,作家无敌码农。转载本文请干系无敌码农公众号。
今天的著述给群众先容下Elasticsearch这一现在在“搜索”和“分析”范畴使用十分无为的技艺组件。并演示何如快速构建一个Elasticsearch集群。
Elasticsearch详细Elasticsearch是一款终点雄伟的开源“搜索”及“分析”引擎。除了搜索,蚁集Kibana、Logstash、Beats,以及Elastic Stack的技艺生态,Elasticsearch还被无为利用在大数据及时辰析范畴——包括日记分析(ELK)、规划监控、信息安全等范畴。
Elasticsearch发源于开源搜索引擎类库Lucene,Elasticsearch的创举东谈主Shay Banon于2004年基于Lucene拓荒了“Compass”,并在2010年重写“Compass”样式之后,将其负责定名为“Elasticsearch”。
现在在搜索引擎分类名次中Elasticsearch名列第一,除此除外,同类的居品还有Solor(Apache开源样式)和Splunk(交易样式),它们三者提供的功能终点相似。关联词在步调员开源社区中Elasticsearch的活跃度最高。
Elasticsearch的功能特点Elasticsearchs是一种典型的散布式系统,支抓水平推广。当数据范畴变大的时候,Elasticsearch的集群节点不错从单个推广到数百个。
Elasticsearch集群还支抓建立不同的节点类型。举例针对日记类的应用不错支抓Hot&Warm架构——冷热架构部署。Elasticsearch的散布式架构如下图所示:

除此除外,Elasticsearch还支抓多种状貌集成接入。举例,不错被多种谈话简单的集成(Java、.Net、Python、PHP..);纯果真RESTful API;最新版块致使还支抓JDBC&ODBC状貌的接入。
Elastic Stack眷属成员Elasticsearch之是以如斯流行,处理活跃的社区外,很进击的少量就在于其背后还有一个雄伟的交易公司——Elastic在因循。Elastic Stack的生态圈,如下图所示:

接下来分别先容下Elastic Stack各技艺组件的用途,具体如下:
Logstash开源的奇迹器端数据处理管谈,支抓从不同开首聚集数据,调遣数据,并将数据发送到不同的存储库中。2013年被Elasticsearch收购。
Logstash支抓及时贯通和调遣数据,举例,从IP地址破译出地舆坐标,以及将
PII数据匿名化,总共遗弃明锐字段等。此外,Logstash还支抓插件的推广状貌,现在大致有200多个插件,不错贬责日记、数据库等多种场景的本色需求。
另外,Logstash的可靠性及安全性也很高。Logstash和会过抓久化队伍来保证至少将运行中的事件投递一次,以及支抓数据传输加密。
Kibana基于Logstash的数据可视化分析器用。
Beats轻量的数据聚集器,Go谈话拓荒,运行速率终点快。场景的Beats插件有:Filebeat(日记文献插件)、Packetbeat、Heartbeat等。
X-Pack(交易化套件-已开源)X-Pack开源之后,部分X-Pack功能支抓免费使用,举例6.8和7.1版块运行,Security功能不错免费使用。
Elastic Stack应用场景Elastic Stack技艺栈常见的应用场景如下:
(1)搜索场景下的Elasticsearch与数据库的集成
在搜索场景下不错径直孤独使用Elasticsearch来存储数据,但关于绝大大宗业务系统来说皆是用的是传统数据库,是以Elasticsearch竣事搜索一般聘任与数据库集成的决策。如下图所示:

(2)规永诀析与日记分析
除了搜索场景外,Elastic Stask还被无为应用在规永诀析及日记分析范畴。如下图所示:

通过代码和Beats状貌聚集数据,并将聚集的数据发送至数据缓冲区(举例Kafka,主淌若为了减少Elasticsearch的并发压力),然后通过Logstash完成数据的调遣团聚,并将数据存储至Elasticsearch。终末,就不错使用Kibana或Grafana来可视化查询Elasticsearch中的数据了。
搭建一个Elasticsearch集群接下来演示部署一个Elasticsearch集群。门径如下。
(1)下载Elasticsearch装置包。
从Elastic官网下载最新版块的Elasticsearch的二进制装置包。大喊如下:
wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.14.0-darwin-x86_64.tar.gz
这里下载的是最新7.14.0的版块,因为是在Mac装置,是以聘任的是MacOS版块。之后,将二进制装置文献解压至奇迹器指定目次,大喊如下:
$ tar zxvf elasticsearch-7.14.0-darwin-x86_64.tar.gz
解压后的装置目次结构讲解如下:

修改JVM建树——config/jvm.options。最新版块会默许凭据机器的可用内存自动建立。建树提议如下:
Xmx和Xms建立成相同。 Xmx不要逾越机器内存的50%。 不要逾越30GB(2)运行多个Elasticsearch实例的集群。
Elasticsearch不错在多个不同的机器节点运行多个实例,从而构成一个大的集群。为了下一步学习Elasticsearch集群责任的机制,接下来演示在土产货同期启动多个Elasticsearch实例,来构成一个集群。
启动大喊如下:
./bin/elasticsearch -E node.name=node0 -E node.master=true -E node.ingest=false -E node.data=false -E cluster.name=mafengwoEs -E http.port=9201 -E path.data=node0_data -d ./bin/elasticsearch -E node.name=node1 -E node.master=false -E node.ingest=false -E node.data=true -E cluster.name=mafengwoEs -E http.port=9202 -E path.data=node1_data -d ./bin/elasticsearch -E node.name=node3 -E node.master=false -E node.ingest=false -E node.data=false -E cluster.name=mafengwoEs -E http.port=9204 -E path.data=node3_data -d
-E参数用于设定“config/elasticsearch.yml”文献中的参数,在本机不同端口分别启动多个elasticsearch实例,并分别建立不同的节点脚色类型。本机资源有限,只可run 3个节点!
(2)浏览器通过API巡逻Elasticserach集群节点信息
运行胜仗后,不错使用浏览器通过API来巡逻Elasticsearch的集群信息,大喊如下:
http://127.0.0.1:9201/_cat/nodes 127.0.0.1 47 100 45 15.15 cdfhilmrstw - node1 127.0.0.1 11 100 45 15.15 cdfhilmrstw * node0 127.0.0.1 32 100 45 15.15 cdfhilmrstw - node3 127.0.0.1 15 100 45 15.15 cdfhilmrstw - node2
不错看到多个实例的Elasticsearch集群就部署胜仗了!
装置Kibana可视化界面接下来装置Kibanka可视化器用,来考察Elasticsearch集群。门径如下。
(1)下载Kibana装置包
大喊如下:
$ wget https://artifacts.elastic.co/downloads/kibana/kibana-7.14.0-darwin-x86_64.tar.gz
下载最新的7.14.0版块的MacOS二进制装置包。之后解压下载的装置包,大喊如下:
$ tar zxvf kibana-7.14.0-darwin-x86_64.tar.gz
(2)裁剪conf/kibana.yaml文献,指定elasticsearch集群实例的地址
裁剪建树文献,指定Elasticsearch的集群地址,修改的内容如下:
# The URLs of the Elasticsearch instances to use for all your queries. elasticsearch.hosts: ["http://localhost:9204","http://localhost:9201","http://localhost:9203"]
(3)启动Kibana
启动Kibana,大喊如下:
$ ./bin/kibana
此时,掀开浏览器插足Kibana的首页,如下图所示:

如上图所示,不错向Elasticsearch集群中添加Kibana提供的样例数据。
(4)使用Kibana的“Dev Tools”器用
Kibana的“Dev Tools”器用,豪爽匡助咱们很简单履行一些elasticsearch的API。如下图所示:

具体的查询大喊如下:
#履行查询集群节点现象的API。 get /_cat/nodes/?v跋文
Elasticsearch现在使用的终点无为,本文仅仅约略先容了Elasticsearch的基本情况,并约略搭建了一个Elasticsearch的多实例集群。在背面的著述中,作家将不如期共享一些Elasticsearch的学问及履行。
Powered by 国产精品天仙tv在线观看 RSS地图 HTML地图
Copyright Powered by站群 © 2013-2025