Kubernetes部署服务通过Ingress访问报错413解决
场景
这里先简单说明本文的背景情况,下面的情况应该可以覆盖大部分场景
- 最右侧是服务中的HTTP服务,假设也是Nginx做的HTTP服务
所以综上所述,这个场景里面有3个Nginx,而413 Request Entiry Too large就是请求的实体太大了,抛去服务本身的问题,从Kubernetes和Nginx中间件上分析这个问题。
分析
外部负载
stream { upstream 80_proxy { hash $remote_addr consistent; #远程地址做个hash server Kubernetes任意节点IP:Ingress80端口; #Kubernetes集群IP(一般为内部IP)+Ingress端口 } server { listen 80; proxy_pass 80_proxy; } upstream 443_proxy { hash $remote_addr consistent; #远程地址做个hash server Kubernetes任意节点IP:Ingress443端口; #Kubernetes集群IP(一般为内部IP)+Ingress端口 } server { listen 443; proxy_pass 443_proxy; } }
Ingress
网上很多说在Ingress的yaml中加配置nginx.ingress.kubernetes.io/proxy-body-size: 30M,但是不一定适用,因为大家的Ingress镜像、版本不一定一致,需要看apiVersion: networking.k8s.io/v1这里是使用的什么API,找到对应的文档和镜像信息,然后再进行配置。
比如Kubernetes官方的文档中对APInetworking.k8s.io/v1的介绍如下
-
翻译的
这里很清楚的说,这个没有设置的话,如果超过了默认值(一般是1m)就会出现413错误。client_max_body_size就是Nginx的请求实体大小配置,但是Ingress中不配置它,不要被误导了。这里面给出的解决方案,是以下两个配置:
- 要在 Ingress 规则全局配置此设置,需要在NGINX ConfigMap中设置proxy-body-size
- 要在 Ingress 规则中使用自定义值,请定义以下注释annotationnginx.ingress.kubernetes.io/proxy-body-size: 30m
解决:Ingress配置
官方文档对NGINX ConfigMap中的proxy-body-size是如下解释,该值和client_max_body_size的作用一致,所以配置该项即可 但是文档没有说该项属于metadata(annotation、label)还是data,所以又去看了示例的 如下Example,是在ConfigMap中的data配置下,注意data是根配置,顶头写
将Ingress的ConfigMap添加data配置后如下即可
--- apiVersion: v1 data: proxy-body-size: 50M
- Ingress.yaml
这个文档中直接说明了,要在 Ingress 规则中定义注释,也就是annotationnginx.ingress.kubernetes.io/proxy-body-size: 30m,所以在配置中增加annotation后如下即可
--- apiVersion: networking.k8s.io/v1 kind: IngressClass metadata: annotations: nginx.ingress.kubernetes.io/enable-cors: true nginx.ingress.kubernetes.io/proxy-body-size: 50M
Nginx HTTP
业务系统的Nginx就很简单啦,直接在nginx.conf中的http、server、location部分增加client_max_body_size配置即可
解决:Nginx配置
http { include mime.types; default_type application/octet-stream; log_format main $remote_addr - $remote_user [$time_local] "$request" $status $body_bytes_sent "$http_referer" "$http_user_agent" "$http_x_forwarded_for"; access_log logs/access.log main; client_max_body_size 50M; sendfile on; ……