+-
OpenFaaS实战之五:大话watchdog

欢迎访问我的GitHub

https://github.com/zq2599/blog_demos

内容:所有原创文章分类汇总及配套源码,涉及Java、Docker、Kubernetes、DevOPS等;

OpenFaaS实战系列文章链接

部署 函数入门 Java函数 模板操作(template) 大话watchdog of-watchdog(为性能而生) java11模板解析 OpenFaaS实战之八:自制模板(maven+jdk8) OpenFaaS实战之九:终篇,自制模板(springboot+maven+jdk8)

本篇概览

作为《OpenFaaS实战》系列的第五篇,咱们需要一起面对OpenFaaS的关键技术:<font color="red">Watchdog</font>,不了解它后面就没法继续了; 标题为<font color="blue"> 大话watchdog</font>说明本文以理论为主,这也是作者的弱项,但我会努力把关键点说得简洁明白,如果您发现问题请务必及时指出,谢谢! 整篇文章由以下段落构成: 从faas-netes谈起 OpenFaaS的资源 watchdog分析 小结 java程序员的担忧

接下来一同开启这段旅程吧,OpenFaaS开发之路上最重要的一站!

从faas-netes谈起

先看Kubernetes下OpenFaaS的整体架构,如下图,外部请求由Gateway转发到<font color="blue">faas-netes</font>组件:

再来看官方描述,如下图红框,在K8S环境,<font color="blue">faas-netes</font>就是服务提供者,它提供的服务支持REST API、客户端、WEB等多种对接方式,另外,还可以用kubectl命令对其进行管理,实现K8S的operator模式(关于K8S的operator,可以先学习Controller,再想象着高度定制CDR和Controller就可以了):

虽然faas-netes很强大,但是在本文咱们只要关注一点:faas-netes提供了函数服务,也就是说,<font color="red">咱们前面写过的python、java的Hello world函数,都和faas-netes有关</font>; 说了一大堆,主角<font color="blue">watchdog</font>还不出来?再等等,因为此刻大家都有同样的疑问:我不就是写了个python脚本吗,里面只有个Hello world方法,怎么就成了faas-netes对外提供的函数了呢? 对上面的疑问,官方内部架构图应该是最合理的答案,如下图,API Gateway的请求会到达faas-provider的8080端口,如果是调用已经发布的函数,就在左上角的红框内处理,如果是对资源的增删改查,就交给右下角的绿框处理:

OpenFaaS的资源

刚才提到了上图右下角的绿框,其责任是处理资源,这不是本文的重点,但作者好歹算是Kubernetes爱好者,觉得有必要科(xuan)普(yao)一下<font color="blue">资源相关的知识点</font>:

在K8S中,Pod、Deployment、Service都是资源,也有对应的Controller根据etcd中保存的期望状态来调节和控制这些资源; 对K8S环境的OpenFaaS来说,它也有自己定义的资源类型(第一篇《安装》里面提到过yaml文件夹,那里面有个<font color="blue">crd.yml</font>文件,记录了OpenFaaS的资源定义); OpenFaaS怎么控制自己的资源呢?faas-netes提供CRUD接口给外面调用,而这些接口的内部实现,就是上面图中你们看到的绿框了,显然,经典的K8S Controller模式不能满足OpenFaaS对资源控制的需求,于是就采用了目前流行的Operator模式:更复杂的资源定义、更复杂的资源控制逻辑 至于OpenFaaS的资源具体有哪些,那要详细去看crd.yml文件,以及OpenFaaS Operator的代码了,不过上图还是给我们指明了方向:Secret、Deployment、Service,想想也是如此,咱们把业务功能发布到OpenFaaS,最关注的不就是安全(Secret)、部署配置(Deployment)、对外暴露(Service)这些东西嘛; 经过欣宸的一番梳(chui)理(niu),现在对<font color="blue">faas-netes</font>的了解是否更进一步了呢?函数的发布、后期的资源控制和调节,都是faas-netes的Operator在负责,接下来是不是该回到正题了:函数调用 主角<font color="blue">watchdog</font>已经哭晕了吧...

watchdog分析

还是前面那幅图,咱们聚焦右上角那部分,我把它截出来如下图所示:

如果咱们用nodejs模板开发函数,写了个index.js文件,那么响应外部请求时会走到下图红框位置,进入<font color="red">Watchdog</font>的8080端口,此时Watchdog会新建node进程,该进程执行index.js文件:

上面说得不够清楚么?那就再详细一些,咱们开发函数时会做成docker镜像,这个镜像里有些啥?再来一副官方图如下,真相大白:<font color="blue">镜像里有个Watchdog,监听8080端口,收到请求后fork一个进程,通过stdin把请求参数传给这个进程,进程调用咱们自己写的函数方法,并且把参数传给此方法,等方法执行完毕后,返回值通过stdout给到Watchdog</font>

现在,相信您在写完一个函数后,对于外部请求如何调用到您写的那段代码应该了然于胸,但是,依然有个小小的盲点:我知道了Watchdog能干啥,但是Watchdog具体是个啥?咋就进了docker镜像呢? 上述问题,在模板的Dockerfile文件中可以找到答案(Dockerfile是制作docker镜像的脚本文件),咱们打开node模板的Dockerfile看看; 如下,一开始就从基础镜像<font color="blue">openfaas/classic-watchdog:0.18.18</font>里把文件<font color="red">fwatchdog</font>复制过来了:
FROM --platform=${TARGETPLATFORM:-linux/amd64} openfaas/classic-watchdog:0.18.18 as watchdog
FROM --platform=${TARGETPLATFORM:-linux/amd64} node:12.13.0-alpine as ship

COPY --from=watchdog /fwatchdog /usr/bin/fwatchdog
RUN chmod +x /usr/bin/fwatchdog
这个Dockerfile的结尾如下,也就是说该镜像的容器一启动就会执行<font color="blue">fwatchdog</font>:
CMD ["fwatchdog"]
至此,您对Watchdog是否有了足够的了解,如果前面的信息量太大,咱们来做个小结;

小结

开发函数时,当函数文件编写完成后,就开始制作docker镜像; 制作的镜像中,包含有<font color="blue">fwatchdog</font>文件,以及咱们编写的函数,如果是python、nodejs等脚本语言,就会将脚本和nodejs或者python都复制到镜像中,如果是java类型的,还会涉及到编译构建; 部署好函数后,Kubernetes环境会根据此镜像创建pod,而pod启动后,就会运行<font color="blue">fwatchdog</font>文件,也就是启动了watchdog进程; 外部访问函数时,请求先到API Gateway,再到上一步创建的pod的8080端口; 这个pod里面,是watchdog在监听8080端口,收到请求后,创建一个node进程,把请求参数通过stdin传给node进程; node进程会执行咱们开发函数时编写的函数,并且将收到的参数作为函数的入参; 咱们编写的函数执行完毕后,node进程将返回值写入stdout,这时候watchdog通过stdout就会收到函数的返回值; watchdog将收到的返回值返回给API Gateway,最终返回给用户; 这回终于说清楚了吧,如果您还意犹未尽想继续深入,请移步watchdog的源码吧,地址是:https://github.com/openfaas/c... ,这是golang编写的,作者欣宸因为是Java背景,就不敢多说了,怕被打;

java程序员的担忧

如果您是一位java程序员,看完以上内容是否和作者一样涌起一丝担忧? 咱们先看看tomcat的架构,如下图:
看完上图重点就来了,对比如下:
tomcat:监听8080,收到请求后,从线程池中指定线程处理;
watctdog:监听8080,收到请求后,启动一个进程去处理; 如果您是java程序员,应该能感受到这种担忧:启动进程意味着创建JVM实例,再创建线程,这些相对于业务逻辑都更消耗系统资源(CPU、内存),如果通过大量fork进程去处理高并发的话,其代价可想而知,另外连接池、JIT、GC等各种优化手段更无从谈起了; 所以,真相是什么呢?在OpenFaaS上开发java函数,会不会走<font color="blue">watchdog + fork</font>进程那一套?咱们下一篇细说吧,本文没有贴代码,纯手动打字,真的太累了... 先剧透:OpenFaaS很优秀,上述问题已经解决,就看<font color="blue">Alex Ellis</font>大神的具体手段了;

你不孤单,欣宸原创一路相伴

Java系列 Spring系列 Docker系列 kubernetes系列 数据库+中间件系列 DevOps系列

欢迎关注公众号:程序员欣宸

微信搜索「程序员欣宸」,我是欣宸,期待与您一同畅游Java世界...
https://github.com/zq2599/blog_demos