Linux 系统内存不足导致服务崩溃的排查方法

Linux 系统内存不足会导致服务崩溃、系统变慢甚至无法正常运行。以下是内存不足问题的详细排查方法,包括问题症状、原因分析及解决步骤。


1. 内存不足的常见症状

  1. 服务崩溃
  2. 应用程序(如 Web 服务、数据库)无法正常运行,出现崩溃或拒绝服务。
  3. 日志中可能提示 Out of Memory 或 Killed。
  4. 系统性能下降
  5. 系统响应缓慢,SSH 登录延迟高。
  6. 执行命令时卡顿,例如 ls 或 top。
  7. 高 Swap 使用
  8. 系统频繁使用交换分区(Swap),导致磁盘 IO 增加,性能大幅下降。
  9. 内存不足的系统日志
  10. 在 /var/log/messages 或 /var/log/syslog 中,可能发现与内存不足相关的日志,例如:
  11. 复制
  12. Out of memory: Kill process 12345 (my_service) score 1234 or sacrifice child Killed process 12345 (my_service) total-vm:123456kB, anon-rss:12345kB

2. 排查内存不足的原因

2.1 检查系统内存使用情况

  1. 查看内存和 Swap 使用情况
  2. 运行以下命令:
  3. bash
  4. 复制
  5. free -h
  6. 输出示例:
  7. apache
  8. 复制
  9. total used free shared buff/cache available Mem: 8.0G 7.5G 100M 300M 400M 150M Swap: 2.0G 1.8G 200M
  10. used:已使用内存。
  11. free:剩余内存。
  12. Swap:交换分区使用情况。
  13. 分析内存分配
  14. 查看内存是否被缓存占用(buff/cache)。
  15. 如果 available 值非常低,说明内存不足。

2.2 找出内存占用高的进程

  1. 使用 top 命令
  2. 运行以下命令:
  3. bash
  4. 复制
  5. top
  6. 按 M 键,按照内存占用排序: 找出内存占用最高的进程。
  7. 使用 ps 命令
  8. 按内存排序列出进程:
  9. bash
  10. 复制
  11. ps aux --sort=-%mem | head -n 10
  12. 输出示例:
  13. apache
  14. 复制
  15. USER PID %CPU %MEM VSZ RSS TTY STAT START TIME COMMAND root 12345 5.0 75.6 123456 654321 ? S 10:00 5:00 java -Xmx4G myapp.jar
  16. 使用 smem 工具(更详细的内存分析)
  17. 如果未安装,可以通过以下命令安装:
  18. bash
  19. 复制
  20. sudo apt install smem # Ubuntu/Debian sudo yum install smem # CentOS/RHEL
  21. 查看实际内存占用:
  22. bash
  23. 复制
  24. smem -tk

2.3 检查系统日志

  1. 查看 OOM(Out of Memory)日志
  2. 检查 /var/log/messages 或 /var/log/syslog 中是否有 OOM 相关记录:
  3. bash
  4. 复制
  5. grep -i "Out of memory" /var/log/messages grep -i "Out of memory" /var/log/syslog
  6. 查看被杀死的进程
  7. 如果某些服务被系统内存管理器(OOM Killer)强制终止,日志中会提示被杀进程的名称和 PID。

2.4 检查系统内存泄漏

  1. 查找内存泄漏的进程
  2. 如果某个进程的内存使用量不断增加,可能存在内存泄漏。
  3. 使用 top 或 ps 命令定期查看内存增长趋势。
  4. 检查内核内存泄漏
  5. 查看 slab 缓存是否异常增长:
  6. bash
  7. 复制
  8. slabtop
  9. 如果某些对象(如 dentry 或 inode)占用大量内存,可能是内核内存泄漏。

2.5 检查缓存和缓冲

  1. 查看缓存占用情况
  2. 缓存和缓冲区可能占用大部分内存,但这些内存是可释放的。
  3. 使用 free -h 查看 buff/cache。
  4. 清理缓存
  5. 如果缓存占用过高,可以手动释放(谨慎操作):
  6. bash
  7. 复制
  8. sudo sync sudo echo 3 > /proc/sys/vm/drop_caches

2.6 检查 Swap 使用

  1. 查看 Swap 使用情况
  2. 如果内存不足,系统会使用 Swap 作为虚拟内存。
  3. Swap 使用过高时,会导致性能下降(磁盘 IO 增加)。
  4. 运行以下命令查看:
  5. bash
  6. 复制
  7. swapon --show
  8. 增加 Swap 空间
  9. 如果 Swap 空间不足,可以扩展 Swap 分区:
  10. bash
  11. 复制
  12. sudo fallocate -l 2G /swapfile sudo chmod 600 /swapfile sudo mkswap /swapfile sudo swapon /swapfile

3. 解决内存不足问题的方法

3.1 优化服务配置

  1. 调整服务的内存限制
  2. 检查服务的配置文件,调整内存占用的限制。
  3. 例如,优化 Java 应用的最大堆内存:
  4. bash
  5. 复制
  6. java -Xmx2G -Xms1G -jar myapp.jar
  7. 限制进程的内存使用
  8. 使用 ulimit 命令限制单个进程的内存占用:
  9. bash
  10. 复制
  11. ulimit -v [memory_limit_in_kb]

3.2 增加系统内存

  • 如果系统物理内存不足,可以通过以下方式增加: 升级服务器:增加物理内存(RAM)。 增加 Swap:扩展虚拟内存缓解压力。

3.3 优化系统配置

  1. 调整 OOM Killer 优先级
  2. 配置某些关键服务不被 OOM Killer 优先杀死:
  3. bash
  4. 复制
  5. echo -17 > /proc/<PID>/oom_score_adj
  6. 优化内存管理参数
  7. 调整虚拟内存的触发阈值:
  8. bash
  9. 复制
  10. sysctl vm.swappiness=10

3.4 清理系统资源

  1. 清理无用的进程
  2. 使用 kill 或 pkill 终止占用内存过高的非必要进程:
  3. bash
  4. 复制
  5. kill -9 <PID>
  6. 卸载无用服务
  7. 停止和卸载占用内存的无用服务:
  8. bash
  9. 复制
  10. systemctl stop [service_name] systemctl disable [service_name]

3.5 使用监控工具

  1. 实时监控内存使用
  2. 部署监控工具(如 Zabbix、Prometheus、Grafana)跟踪内存使用情况。
  3. 设置报警机制
  4. 配置内存使用超过阈值时触发报警,提前发现问题。

4. 总结

排查 Linux 系统内存不足的流程如下:

  1. 检查内存和 Swap 使用情况:使用 free 和 top 查找问题根源。
  2. 定位占用内存的进程:使用 ps 或 smem 找出高内存占用进程。
  3. 分析日志信息:检查 OOM Killer 是否终止了关键服务。
  4. 优化系统和服务:调整服务配置、增加内存或清理无用进程。
  5. 部署监控工具:持续监控和优化系统资源使用。

通过合理的排查和优化,可以有效解决内存不足导致的服务崩溃问题,并提升系统稳定性和性能。

原文链接:,转发请注明来源!