HsOjo’s Blog

📒 A powerless rookie's tree hole.

Gunicorn+GeventWorker环境下fork进程意外结束的问题

2021-05-1800 分钟
type
status
date
slug
summary
tags
category
icon
password

前言

在使用Gunicorn+GeventWorker托管Flask应用,使用os.fork时出现了以下问题。
本文摘录自本人毕业设计论文。

问题分析

通过os.fork创建进程,实际上是将当前进程的内存数据复制了一份给子进程,当子进程发现其不是由Gunicorn主进程所创建时,Gunicorn中的GeventWorker会将脱离管理的进程杀死。
由于实现业务功能需要使用WebSocket,而WebSocket通信基于Flask-Sockets实现,Flask-Sockets又在Gunicorn环境中依赖GeventWorker启动,所以导致了无法正常使用os.fork。
根据Gunicorn中GeventWorker源码分析可知,当使用os.fork创建子进程时,其父进程id会发生变化,当子进程受到到来自Gunicorn主进程通知时,会发现其脱离父进程的管理,然后结束子进程本身。
  • 以下为Gunicorn中gunicorn.workers.ggevent包部分代码。

解决方案

  • 定位问题所在确是一大难题,但所幸解决问题的方案其实并不复杂,只需要对GeventWorker的notify方法进行重写即可。
  • 由于需要使用WebSocket,实际上是需要对GeventWebSocketWorker的notify方法进行重写。
  • 对于GeventWorker杀死子进程的行为,本人称之为“fork_killer”;并在SaikaWorker对“fork_killer”进行了改进,默认允许在Gunicorn中通过os.fork创建子进程。
  • 通过调用set_fork_killer,可以彻底关闭“fork_killer”
    • 但脱离管理的子进程,必须要在任务完成后结束进程,否则会出现预期外的情况。

下一篇

通过chroot实现Linux子系统

Loading...