监控图展示

一、elk架构简介

• 首先 logstash 具有日志采集、过滤、筛选等功能，功能完善但同时体量也会比较大，消耗系统资源自然也多。filebeat作为一个轻量级日志采集工具，虽然没有过滤筛选功能，但是仅仅部署在应用服务器作为我们采集日志的工具可以是说最好的选择。但我们有些时候可能又需要logstash的过滤筛选功能，所以我们在采集日志时用filebeat，然后交给logstash过滤筛选。
• 其次，logstash的吞吐量是有限的，一旦短时间内filebeat传过来的日志过多会产生堆积和堵塞，对日志的采集也会受到影响，所以在filebeat与logstash中间又加了一层kafka消息队列来缓存或者说解耦，当然redis也是可以的。这样当众多filebeat节点采集大量日志直接放到kafka中，logstash慢慢的进行消费，两边互不干扰。
• 至于zookeeper，分布式服务管理神器，监控管理kafka的节点注册，topic管理等，同时弥补了kafka集群节点对外界无法感知的问题，kafka实际已经自带了zookeeper，这里将会使用独立的zookeeper进行管理，方便后期zookeeper集群的扩展。

二、环境

• 阿里云ECS：5台部署ES节点，3台分别部署logstash、kafka、zookeeper和kibana等服务。
• 阿里云ECS配置：5台 4核16G 2TB SSD磁盘。3台 4核16G 200G SSD磁盘。都是 Centos7.8系统
• 安装 docker 和 docker-compose
• ELK版本7.10.1；zookeeper版本3.6.2；kafka版本2.13-2.6.0；

前言

【译】The Almighty Pause Container

当我们检查 kubernetes 集群的 node 节点时，我们使用 docker ps 查看时会发现一些名为 pause 的容器在节点上运行。

1
2
3
4
5
6
7
8
9
10

$ docker ps
CONTAINER ID IMAGE COMMAND ...
...
3b45e983c859 gcr.io/google_containers/pause-amd64:3.0 "/pause" ...
...
dbfc35b00062 gcr.io/google_containers/pause-amd64:3.0 "/pause" ...
...
c4e998ec4d5d gcr.io/google_containers/pause-amd64:3.0 "/pause" ...
...
508102acf1e7 gcr.io/google_containers/pause-amd64:3.0 "/pause" ...

• 这些 pause 容器是什么？
• 为什么会有这么多 pause 容器？
• 这是怎么回事呢？

一、kubectl 命令参数自动补全

使用 Kubernetes，就一定会使用 Kubectl 命令，默认安装好 Kubectl 命令不支持自动补全参数。下面配置 Kubectl 命令参数自动补全方法：

Linux 上，比如 Centos

1
2
3
4

$ yum install -y bash-completion
$ source /usr/share/bash-completion/bash_completion
$ source <(kubectl completion bash)
$ echo "source <(kubectl completion bash)" >> ~/.bashrc

MAC 上

1
2
3
4

$ brew install bash-completion
$ source $(brew --prefix)/etc/bash_completion
$ source <(kubectl completion zsh)
$ echo 'source <(kubectl completion zsh)' >> ~/.zshrc

前言

• Kubelet 中对 Docker 支持被弃用，并将在以后的版本中删除。Kubelet 使用一个名为 dockershim 的模块，该模块实现了对Docker的 CRI 支持，在此PR后续版本将删除dockershim。
• Kubectl 弃用 --delete-local-data 参数。

什么是 Kind

kind：是一种使用Docker容器节点运行本地Kubernetes集群的工具。该类型主要用于测试Kubernetes，但可用于本地开发或CI。

注意：kind仍在开发中

部署

Mac & Linux

1
2
3

$ curl -Lo ./kind "https://kind.sigs.k8s.io/dl/v0.9.0/kind-$(uname)-amd64"
$ chmod +x ./kind
$ mv ./kind /some-dir-in-your-PATH/kind

前言

这篇文章的全称应该叫：[在某些内核版本上，cgroup 的 kmem account 特性有内存泄露问题]，如果你遇到过 pod 的 cannot allocated memory 报错，node 内核日志的 SLUB: Unable to allocate memory on node -1 报错，那么恭喜你中招了。

这个问题在 pingcap 文章 和腾讯云的官方修复都发过，原因也讲的很清楚，不过因为版本差异，文章里的方法有所变动，这里做下总结。

Nextcloud 优点

• 完全开源
• 支持web界面、手机ios系统、手机安卓系统
• 容器化部署

准备环境

• 部署 docker、docker-compose (本文不讲docker、docker-compose部署)

概述

在k8s中节点会通过docker pull机制获取外部的镜像，那么什么时候清除镜像呢？k8s运行的容器又是什么时候清除呢?

• api-server: 运行在master，无状态组件，go自动内存垃圾回收
• controller-manager: 运行在master,无状态组件，go自动内存垃圾回收，owner机制提供resource垃圾回收
• scheduler: 运行在master，无状态组件，go自动内存垃圾回收
• kube-proxy: 运行在node，无状态组件，无垃圾收集需要
• kubelet：运行在node,无状态组件,需要管理宿主机的image和container

Kubelet：会定期进行垃圾回收（Garbage Collection），以清理节点上的无用镜像和容器。

• 每隔 1 分钟进行一次容器清理
• 每隔 5 分钟进行一次镜像清理

截止到 v1.15 版本，垃圾回收间隔时间还都是在源码中固化的，不可自定义配置，如果节点上已经运行了 Kubelet，不建议再额外运行其它的垃圾回收工具，因为这些工具可能错误地清理掉 Kubelet 认为本应保留的镜像或容器，从而可能造成不可预知的问题。

前言

Grafana Tanka 是 Kubernetes 集群的配置工具，由 Jsonnet 数据模板语言实现。

使用它比使用 Yaml 来定义 Kubernetes 资源更简洁。Jsonnet 高度可重用，使你能通过组合现成的库来实现你的技术栈。

Grafana Tanka 亮点

• 干净：使用 Jsonet 语言表示你的Kubernetes应用，比YAML更简洁。
• 可重用：构建应用程序库，将它们导入任何地方，甚至在GitHub上共享它们！
• 简洁：使用Kubernetes库，不再需要模板。
• 变化：以轻松地知道确切的变化。
• 生产环境Ready：Tanka 部署了 Grafana Cloud 和更多生产设置。
• 开源：就像广受欢迎的 Grafana 和 Loki 项目一样，Tanka 是完全开源的。