ES搜索框架--低配置服务器部署ES导致崩溃的解决

省流:修改jvm.options,降低堆大小

一、服务器情况

最近es会突然stop,查看日志后发现经常是因为报错:Native controller process has stopped - no new native processes can be started,无法开启新的进程,可能是由于内存不足--因为服务器内存只有2G,而且仅仅启动es和java项目后就已经占用了97%,一再进行查询等操作,多半完蛋。于是开始查看服务器的内存使用情况:

1.free -m查看整体内存情况

数值详情:https://blog.csdn.net/weixin_42434700/article/details/124249579

PS:这里启用交换内存,可以把不常用的进程移出内存,本来想通过这种方式来缓解被es占满的内存,但是阅读es的文档后发现官方建议生产环境需要设置bootstrap.memory_lock: true

原因:

发生系统swapping的时候ES节点的性能会非常差,也会影响节点的稳定性。所以要不惜一切代价来避免swapping。swapping会导致Java GC的周期延迟从毫秒级恶化到分钟,更严重的是会引起节点响应延迟甚至脱离集群。

步骤:

要在节点上启用内存锁定,请将以下行添加到每个节点上的 yaml 配置文件中:'bootstrap.memory_lock: true'。该标志会将进程地址空间锁定到 RAM 中,防止任何进程内存被换出。更改每个节点的配置并执行滚动重启。

其他操作:

博客: https://blog.csdn.net/weixin_40392053/article/details/105172673

官方文档: https://www.elastic.co/guide/en/elasticsearch/reference/current/setup-configuration-memory.html

image

2.top查看具体占用情况

输入top后,按m使进程按照内存占用排序,按c使进程按CPU占用排序,按q退出(top –p 进程pid可以查看具体进程的占用情况,pid可以通过端口查询得到:netstat -anp |grep 9200)

数值详情: https://blog.csdn.net/sunny_day_day/article/details/119462077

image

image

可以看到res列,即进程当前使用的内存大小,但不包括swap内存(按f进入列的可视化选择,按照介绍选择swap按d选中显示,然后按q退出),swap为0(禁止es交换)

image

image

可以发现es的占用太大,多半是这个原因导致系统内存不足,就把es给关掉了,因此下面想办法进行解决。

二、修改ES配置

1.前人的实践

高配置优化: https://blog.csdn.net/star1210644725/article/details/127035551

低配置部署: https://cloud.tencent.com/developer/article/2065698

image

可以看到在低配置服务器上安装es确实是一个不太妙的选择,但这个暂时解决不了,那么可以修改的就是ES的JVM设置了,具体设置多少呢,参考 官方文档:建议保留至少 50% 的机器内存未分配并可供操作系统使用,因为分片查询会利用文件系统缓存。

image

2.修改配置

于是结论就出来了:

image

将es的jvm设置为available的一半,也就是590M,留点余地设为470M:

vim /user/es/elasticsearch-7.10.2/config/jvm.options

image

开启es后:

image

image

暂时服务器方面就这样了,应该不会崩溃了。。后续如果再崩溃或者有性能方面的瓶颈,就考虑提高服务器配置了。

3.解决提示reason: [shards started [[policy_index][0]]

参考: https://www.jianshu.com/p/491761c66d40

原因:分片太多,节点不够。单机es,1个节点但分片的副本数超过1个了,每个主分片的副本数少于群集中的节点数,所以要调整为0。

curl -XPUT http://127.0.0.1:9200/_settings?pretty -d '{ "index": { "number_of_replicas": 0 } }' -H "Content-Type: application/json"

一些关于此问题的讨论:

https://discuss.circleci.com/t/elasticsearch-container-got-killed/17654

https://github.com/elastic/elasticsearch/issues/25067

https://github.com/10up/wp-local-docker/issues/6

https://help.aliyun.com/ask/question_detail/3632

脑袋凉凉
关注 关注
  • 1
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
GooglePlay代码及服务器部署
02-22
6. **监控与日志**:通过如Prometheus、Grafana等工具监控服务器性能,使用ELK Stack(Elasticsearch、Logstash、Kibana)收集和分析日志,及时发现并解决问题。 7. **自动化部署**:使用CI/CD(持续集成/持续部署...
elasticsearch启动报错: Native controller process has stopped - no new native processes can be started
K_Lily的博客
04-04 1万+
问题: [2018-12-12T21:54:57,353][INFO ][o.e.n.Node ] [PlbSkhz] stopping ... [2018-12-12T21:54:57,413][INFO ][o.e.n.Node ] [PlbSkhz] stopped [2018-12-12T21:54:57,413][INFO ]...
ES报错Native controller process has stopped - no new native processes can be started
My52Hz
01-31 1万+
一、问题描述 在Linux中启动ES发现如下错误: Native controller process has stopped - no new native processes can be started,问题如下所示: [2022-01-30T23:37:59,659][INFO ][o.e.x.m.p.NativeController] [node-1] Native controller process has stopped - no new native proces ses can be
es集群详解
最新发布
chuige2013的博客
08-28 1226
1、集群的介绍:1、集群的介绍:1.1、单机的elasticsearch做数据存储必然面临两个问题:海量数据存储问题、单点故障问题。海量数据存储问题:将索引库从逻辑上拆分为N个分片(shard),存储到多个节点。从逻辑上,将索引库上面的数据,拆分成N份,每一份叫做分片,也就是将索引库上面的数据拆分N个分片,从而存储到多个节点上面。那么从存储能力就是多个节点能力之和。从而理论上讲,节点越多,存储容量越大。单点故障问题:将分片数据在不同节点备份(replica )主分片和副分片,不能放在统一节点上面。
MAC的ES修改network后出现:Native controller process has stopped - no new native processes can be started
qq_38680405的博客
06-26 1756
问题场景: MAC为了配置elasticsearch-head,使用这个插件检查各个节点的健康度。 配置过程: 第一步:进入es安装目录下的config目录,修改elasticsearch.yml文件.在文件的末尾加入以下代码 http.cors.enabled: true http.cors.allow-origin: "*" node.master: true node.data: true 然后去掉network.host: 192.168.0.1的注释并改为network.host:.
【大数据】es启动报错: Native controller process has stopped - no new native processes can be started
热门推荐
roshy的专栏
09-20 2万+
主要出现下面三个错误 ERROR: [3] bootstrap checks failed [1]: max file descriptors [4096] for elasticsearch process is too low, increase to at least [65536] [2]: max number of threads [3780] for user [esyonghu]...
windows下docker启动es报错Native controller process has stopped - no new native processes can be started
qq_45995427的博客
09-13 2109
windows下docker安装es启动报错遇到的一个问题: Native controller process has stopped - no new native processes can be started 原因:由于我是在开发模式下运行elasticsearch的,因此需要使用discovery.type=single-node来避免产生引导并检查,这导致elasticsearch自动退出。 如注释中所述,添加解决了问题的刚面,下面是完整的命令。 docker run -p 9200:9200
elasticsearch错题本
epitomizelu的专栏
05-16 2072
一,集群启动报错 [node-1] master not discovered yet, this node has not previously joined a bootstrapped (v7+) cluster, and this node must discover master-eligible nodes [node-1, node-2, node-3, node-4, node-5, node-6] to bootstrap a cluster: have discovered [{node
microservice-cloud-config:微服务云配置
03-29
如果配置服务器不可用,Cloud Config客户端通常会缓存最近获取的配置,以防止因配置服务器故障导致整个微服务系统崩溃。同时,它还支持断路器模式,当服务器无法连接时,客户端会进入降级模式,使用预设的默认配置...
ElasticSearch中文学习教程
02-23
ElasticSearch的目标是提供快速、零配置、完全免费的搜索解决方案,使得用户可以通过简单的JSON和HTTP接口来索引数据。此外,它还确保搜索服务器始终保持可用性,支持从单一节点轻松扩展到数百个节点,实现实时搜索...
崩溃:快速的网站和服务器正常运行时间监控
02-19
结合ELK Stack(Elasticsearch、Logstash、Kibana)或Graylog等日志管理解决方案,我们可以实时查看、搜索和分析日志,快速定位故障点。 3. **性能指标**:监控CPU、内存、磁盘I/O和网络带宽等资源使用情况至关重要...
seckill-parent:秒杀项目的工程
05-14
- **Elasticsearch+Kibana**:日志收集分析,监控系统运行状态。 - **Prometheus+Grafana**:性能指标监控,及时发现并解决问题。 7. **持续集成与部署** - **Git版本控制**:协同开发,版本管理。 - **Jenkins...
Native controller process has stopped - no new native processes can be started
qq213123as的博客
06-24 4100
。记一次 docker-compose 配置 7 版本es 启动报错问题 原因 看 大牛说是 docker限制了容器 的内存大小。导致的。 see https://github.com/elastic/elasticsearch/issues/25067?tdsourcetag=s_pctim_aiomsg 简单来说 ulimits: memlock: soft: -1 hard: -1 environment:
上个厕所的功夫弄清楚了ES搜索服务器
weixin_42222436的博客
02-27 2404
1、概念 ElasticSearch是一个基于Lucene的搜索服务器 是一个分布式、高扩展、高实时的搜索与数据分析引擎 基于RESTful web接口 Elasticsearch是用Java语言开发的,底层就是Lucene 常用于海量信息的查询 补充知识: Elasticsearch是ELK的一个组成,是其中的一个产品,而且是非常完善的产品,ELK代表的是:E就是ElasticSearch,L就是Logstach(数据采集和同步,操作日志),K就是kibana(数据可视化分析) 2、Elasti
es启动错误:controller process has stopped - no new native processes can be started
qq_20790447的博客
04-11 1万+
问题描述 修改 /config/elasticsearch.yml 但修改后,es启动失败了(注意:elasticsearch 无法用 root 用户启动,请切换到普通用户) 解决方法 https://www.cnblogs.com/phpper/p/9803934.html ...
ElasticSearch 启动报错
Oak_Komorebi的博客
09-23 1704
单机启动elasticsearch时报以下错误: [2021-09-23T12:06:53,553][INFO ][o.e.b.BootstrapChecks ] [XCVt0xH] bound or publishing to a non-loopback address, enforcing bootstrap checks ERROR: [2] bootstrap checks failed [1]: max file descriptors [4096] for elasticsearch
【ELK】elasticsearch启动异常报错“access denied (“java.lang.RuntimePermission“ “modifyThread“)”解决一列
运维呆子 的博客
04-12 1588
经验之谈,问题解决笔记
Elasticsearch7.6 环境部署
qq_30665009的博客
11-28 406
系统版本:CentOS Linux release 7.3.1611 (Core)一、 安装 Elasticsearch只允许普通用户操作,不允许root用户注意:因为elasticsearch有远程执行脚本的功能所以容易中木马病毒,所以不允许用root用户启动,root用户是起不来的,赋权限,用一般的用户启动要配置network.host才能别的机器或者网卡访问,否则只能是127.0.0.1或...
轻松开发Elasticsearch应用:介绍Easy-Es
作为一款由国内开发者打造的完全开源的ElasticSearch-ORM框,它对降ElasticSearch搜索引擎的使用门槛和学习成本具有显著效果,从而大幅减少开发者的日常劳动量,帮助企业有效降开发成本和提升工作效率。...
写文章

热门文章

  • 配置Python解释器 16627
  • OpenStack云平台搭建 6228
  • 大数据--python远程连接Hive 5004
  • vue前端部署到服务器 3948
  • 大数据--pyspark远程连接hive 3690

分类专栏

  • 大数据 10篇

最新评论

  • 大数据--python远程连接Hive

    万物具理: 搞不了啊

  • ES搜索框架--自定义评分规则

    Simon_胡: 大佬,请收下我的膝盖。

  • vue前端部署到服务器

    脑袋凉凉: 额linux服务器到根目录下面就可以看到这个文件夹了

  • vue前端部署到服务器

    @码上行动: 你好,请问博主,usr/local是在哪里呢,怎么找

  • 大数据--python远程连接Hive

    脑袋凉凉: 这个不清楚呢,建议先测试hive本身运行没问题后,再尝试使用python连接,并确定连接的地址等都没有写错

最新文章

  • ES框架--ES评分规则详解
  • ES搜索框架--自定义评分规则
  • ES搜索框架--设置IK分词器
2023年13篇
2022年41篇

目录

目录

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值

深圳坪山网站建设公司福州网站排名优化营销网站的优化不包括什么沧州优化网站怎么样汕尾网站优化开发思明区网站首页优化网站排名优化分享易速达小金口网站优化哪家便宜智能营销网站优化公司淄博很好的网站优化用户体验淮安盐城网站优化方案车企网站优化湖北专业网站优化平台福州市网站seo优化哪家强香格里拉网站优化哪家好为什么做网站优化推广广东网站优化排名海网站关键词优化在什么地方白云网站关键词优化哪家好永州网站制作优化网站优化指导国外优化网站网站优化营销公司怎么做新网站优化低价珠宝行业网站优化优化网站建设及脚丿云速捷灰色行业怎么优化网站宁德市网站seo优化方案网站结构优化有什么作用排名好的网站核心词优化代理免费网站自动优化软件香港通过《维护国家安全条例》两大学生合买彩票中奖一人不认账让美丽中国“从细节出发”19岁小伙救下5人后溺亡 多方发声卫健委通报少年有偿捐血浆16次猝死汪小菲曝离婚始末何赛飞追着代拍打雅江山火三名扑火人员牺牲系谣言男子被猫抓伤后确诊“猫抓病”周杰伦一审败诉网易中国拥有亿元资产的家庭达13.3万户315晚会后胖东来又人满为患了高校汽车撞人致3死16伤 司机系学生张家界的山上“长”满了韩国人?张立群任西安交通大学校长手机成瘾是影响睡眠质量重要因素网友洛杉矶偶遇贾玲“重生之我在北大当嫡校长”单亲妈妈陷入热恋 14岁儿子报警倪萍分享减重40斤方法杨倩无缘巴黎奥运考生莫言也上北大硕士复试名单了许家印被限制高消费奥巴马现身唐宁街 黑色着装引猜测专访95后高颜值猪保姆男孩8年未见母亲被告知被遗忘七年后宇文玥被薅头发捞上岸郑州一火锅店爆改成麻辣烫店西双版纳热带植物园回应蜉蝣大爆发沉迷短剧的人就像掉进了杀猪盘当地回应沈阳致3死车祸车主疑毒驾开除党籍5年后 原水城县长再被查凯特王妃现身!外出购物视频曝光初中生遭15人围殴自卫刺伤3人判无罪事业单位女子向同事水杯投不明物质男子被流浪猫绊倒 投喂者赔24万外国人感慨凌晨的中国很安全路边卖淀粉肠阿姨主动出示声明书胖东来员工每周单休无小长假王树国卸任西安交大校长 师生送别小米汽车超级工厂正式揭幕黑马情侣提车了妈妈回应孩子在校撞护栏坠楼校方回应护栏损坏小学生课间坠楼房客欠租失踪 房东直发愁专家建议不必谈骨泥色变老人退休金被冒领16年 金额超20万西藏招商引资投资者子女可当地高考特朗普无法缴纳4.54亿美元罚金浙江一高校内汽车冲撞行人 多人受伤

深圳坪山网站建设公司 XML地图 TXT地图 虚拟主机 SEO 网站制作 网站优化