当前位置: 首页 > news >正文

做网站反链网络营销的概念和含义

做网站反链,网络营销的概念和含义,网络营销的特点和作用,微信营销的案例某个简单的 python 服务,运行一段时间就崩溃。查看日志后发现有一个系统错误 OSError: Errno24 Too many open files要理解这个问题,首先要理解什么是文件描述符,可以参考我的另一篇文章(Linux 系统文件描述符(File Descriptor&a…

某个简单的 python 服务,运行一段时间就崩溃。查看日志后发现有一个系统错误

OSError: Errno24 Too many open files

要理解这个问题,首先要理解什么是文件描述符,可以参考我的另一篇文章(Linux 系统文件描述符(File Descriptor)小白级介绍).

简言之,就是 linux 系统每个进程会维护一张文件描述符表,而这个表是有大小限制的,用来控制每个进程可以打开的最多文件描述符数量。

如果一个进程打开了过多的文件,当再次尝试打开文件时,就会因为系统限制,产生 “Too many open files” 的错误。

1. 解决思路

  1. 问题产生时(不是事前和事后,而是事中),查看当前进程打开了哪些文件描述符,结合程序逻辑分析是正常情况还是异常情况
  2. 正常情况:查看和修改文件描述符数量限制
  3. 异常情况:
    • 查看是否有未正确关闭的资源使用(文件、网络、数据库)
    • 是否代码异常导致过多的打开文件,例如循环中打开了过多的文件

1.1 如何查看当前进程打开的文件描述符信息

# 查看指定进程打开的文件描述符
lsof -p <pid># 统计打开的文件描述符数量
lsof -p <pid> | wc -l

详细参考

1.2 如何查看和修改单进程文件描述符数量限制

  • 查看:ulimit -n
  • 临时修改:ulimit -n <数值>(仅作用于当前的 shell)
  • 永久修改:编辑文件 /etc/security/limits.conf,按照如下格式编辑
    * soft nofile 65535
    * hard nofile 65535
    
    • 第一列:
      • * 表示适用于所有用户
      • 也可以指定具体用户名或用户组名(使用 @用户组名)
    • 第二列 soft/hard:
      • soft:软限制,用户可以临时超过这个限制,但会收到警告
      • hard:硬限制,是绝对的上限,用户不能超过这个值
      • soft 值不能超过 hard 值
    • 第三列 nofile:
      • nofile 表示进程可以打开的最大文件描述符数量,这是最常见的限制之一 。
    • 第四列:具体的限制数值

2. 我们的案例分析

分析打开的文件描述符

存在大量如下文件描述符

COMMAND   PID   USER   FD   TYPE     DEVICE  SIZE/OFF       NODE NAME
pt_main_t 761309 root  872u     unix 0xffff8f8a0e827800       0t0 44797806 type=STREAM
pt_main_t 761309 root  873u     IPv4           44840653       0t0      TCP Ip136-Gpu3080Ti:5000->Ip136-Gpu3080Ti:40474 (CLOSE_WAIT)
pt_main_t 761309 root  874u     unix 0xffff8f890929d000       0t0 44827096 type=STREAM
pt_main_t 761309 root  875u     unix 0xffff8f8909299000       0t0 44827097 type=STREAM
pt_main_t 761309 root  876u  a_inode               0,14         0       53 [eventpoll]
pt_main_t 761309 root  877u     sock                0,8       0t0 44827098 protocol: TCP
pt_main_t 761309 root  878u  a_inode               0,14         0       53 [eventpoll]
pt_main_t 761309 root  879u     unix 0xffff8f8a486f3800       0t0 44844081 type=STREAM
pt_main_t 761309 root  880u     unix 0xffff8f8a486f3c00       0t0 44844082 type=STREAM
pt_main_t 761309 root  881u     unix 0xffff8f890bb65400       0t0 44781151 type=STREAM
pt_main_t 761309 root  882u     IPv4           44797807       0t0      TCP Ip136-Gpu3080Ti:5000->Ip136-Gpu3080Ti:53684 (CLOSE_WAIT)
pt_main_t 761309 root  883u  a_inode               0,14         0       53 [eventpoll]
pt_main_t 761309 root  884u     unix 0xffff8f89322da400       0t0 44837562 type=STREAM
pt_main_t 761309 root  885u     unix 0xffff8f89322da000       0t0 44837563 type=STREAM
pt_main_t 761309 root  886u     unix 0xffff8f890bb66000       0t0 44781152 type=STREAM
pt_main_t 761309 root  887u     IPv4           44781154       0t0      TCP Ip136-Gpu3080Ti:5000->Ip136-Gpu3080Ti:52002 (CLOSE_WAIT)
pt_main_t 761309 root  888u     IPv4           44797845       0t0      TCP Ip136-Gpu3080Ti:5000->Ip136-Gpu3080Ti:47946 (CLOSE_WAIT)
pt_main_t 761309 root  889u  a_inode               0,14         0       53 [eventpoll]
pt_main_t 761309 root  890u     unix 0xffff8f89325a5800       0t0 44840654 type=STREAM
pt_main_t 761309 root  891u     unix 0xffff8f89325a1400       0t0 44840655 type=STREAM
pt_main_t 761309 root  892u     IPv4           44837817       0t0      TCP Ip136-Gpu3080Ti:5000->Ip136-Gpu3080Ti:38346 (CLOSE_WAIT)
pt_main_t 761309 root  893u  a_inode               0,14         0       53 [eventpoll]
pt_main_t 761309 root  894u     unix 0xffff8f89325a4800       0t0 44840657 type=STREAM
pt_main_t 761309 root  895u     unix 0xffff8f89325a6400       0t0 44840658 type=STREAM
pt_main_t 761309 root  896u     IPv4           44845300       0t0      TCP Ip136-Gpu3080Ti:5000->Ip136-Gpu3080Ti:41238 (CLOSE_WAIT)
pt_main_t 761309 root  897u  a_inode               0,14         0       53 [eventpoll]
pt_main_t 761309 root  898u     unix 0xffff8f8909298c00       0t0 44827142 type=STREAM
pt_main_t 761309 root  899u     unix 0xffff8f890929cc00       0t0 44827143 type=STREAM
pt_main_t 761309 root  900u     sock                0,8       0t0 44827144 protocol: TCP
pt_main_t 761309 root  901u  a_inode               0,14         0       53 [eventpoll]
pt_main_t 761309 root  902u     unix 0xffff8f8a0e09f800       0t0 44836864 type=STREAM
pt_main_t 761309 root  903u     unix 0xffff8f8a0e098800       0t0 44845057 type=STREAM
pt_main_t 761309 root  904u     IPv4           44824331       0t0      TCP Ip136-Gpu3080Ti:5000->Ip136-Gpu3080Ti:38008 (CLOSE_WAIT)
pt_main_t 761309 root  905u  a_inode               0,14         0       53 [eventpoll]
pt_main_t 761309 root  906u     unix 0xffff8f8909298000       0t0 44827145 type=STREAM
pt_main_t 761309 root  907u     unix 0xffff8f890929bc00       0t0 44827146 type=STREAM
pt_main_t 761309 root  908u     IPv4           44827147       0t0      TCP Ip136-Gpu3080Ti:5000->Ip136-Gpu3080Ti:40656 (CLOSE_WAIT)

我们发现这里大概有 3 类文件描述符

  • pt_main_t 761309 root 905u a_inode 0,14 0 53 [eventpoll] 这是一个 eventpoll 事件触发
  • pt_main_t 761309 root 906u unix 0xffff8f8909298000 0t0 44827145 type=STREAM 这是 unix 套接字,用于进程间通信
  • pt_main_t 761309 root 908u IPv4 44827147 0t0 TCP Ip136-Gpu3080Ti:5000->Ip136-Gpu3080Ti:40656 (CLOSE_WAIT) 这是一个未被正确关闭的 tcp 请求,本地 5000 端口是我们的服务端口(之所以是本地请求,是因为我们做了一个内网穿透,所以是本地请求本地)

我们的服务作用是接收图片,打开后调用模型处理,然后返回处理结果。
但是代码中并未直接调用 PIL.Image 对象的 close 方法关闭资源。
同时我观察到线上会有超时客户端主动断开链接的行为。

所以关于上面的问题,我有这样一个猜测

  1. Flask 默认使用的是 Werkzeug 提供的 WSGI 服务器,它是一个同步的服务器,不直接支持异步处理。当一个请求到达时,Flask 会为该请求创建一个新的 eventloop(事件循环)来处理该请求。这就解释了为什么在文件描述符中会看到 eventloop 的出现。每个请求都有自己独立的 eventloop,用于处理该请求的异步任务。
  2. 未关闭的 Image 对象与连接断开:在我的代码中,当通过 Image.open() 打开图片时,会创建一个 Image 对象,它占用了一定的资源,如内存和文件描述符。如果在处理完图片后没有显式地调用 image.close() 关闭 Image 对象,那么这些资源会一直保持打开状态。(在对象销毁时,会触发资源关闭;但是这依赖于垃圾回收。个人推测,不知道是否靠谱)

    当客户端因为某些原因(如超时、网络问题等)断开连接时,服务器端的请求处理可能还未完成,特别是在处理大图片或多个图片时。如果此时 Image 对象还未关闭,那么与该请求相关的 eventloop 和文件描述符(如之前的 5000 端口相关的文件描述符)也无法得到及时释放。导致了资源泄漏,并且随着时间的推移和请求的增多,这种情况会变得越来越严重。
  3. 连接的 CLOSE_WAIT 状态:当客户端主动关闭连接时,服务器端会收到一个 FIN 包,表示客户端已经完成了数据发送。服务器端接收到 FIN 包后,会发送一个 ACK 包给客户端,同时将连接状态改为 CLOSE_WAIT,表示服务器端正在等待关闭连接。

    如果服务器端的请求处理还未完成,并且 Image 对象和相关资源还未释放,那么连接会一直保持在 CLOSE_WAIT 状态,直到服务器端完成处理并关闭连接。

上面的分析是我事后的推理,正确性还有待确认,不过最近没什么时间。

当时我改了如下两个地方,这个问题就没有了

  1. 手动关闭 Image 对象,调用 close 方法
  2. aiohttp.ClientSession 设置为全局对象,这是官方文档的建议。

但并没有尝试,将 Werkzeug 替换为支持异步处理的 Web 框架(如 Sanic、FastAPI 等)。

总结

  • 一定要记得释放文件资源(网络连接、文件、图片等)
  • 不要瞬时大量使用文件资源
http://www.fp688.cn/news/156640.html

相关文章:

  • 网站建设的公司在哪找什么是搜索引擎优化seo
  • 广州网站制作哪家专业郑州怎么优化网站排名靠前
  • 佛山网站建设服务一媒体app软件下载老版本
  • 网站建设实验结论如何做好网络营销
  • 在新西兰做兼职的网站公众号推广合作平台
  • 黄石建网站资源链接搜索引擎
  • 深圳市官网网站建设平台seo公司重庆
  • 小程序微信公众平台seo外链工具
  • 淮南企业网站建设百度客户电话
  • 网站建设实验周志与总结网络营销的基本方式有哪些
  • wordpress主机怎么建站做一个网站要花多少钱
  • 长沙 外贸网站建设百度竞价排名技巧
  • 考试网站怎么做的cpa推广接单平台
  • js网站开发视频教程成人电脑基础培训班
  • 模板网站可以做备案吗百度应用下载安装
  • 重庆转店铺哪个网站平台好软文代写
  • 网站制作公司推荐搜索引擎营销ppt
  • 店铺管理软件网站推广seo是什么
  • 济南做网站的公司哪家好网站seo怎么操作
  • 长沙高新区建设局网站谷歌搜图
  • wordpress 查询文章seo网站推广怎么做
  • 个人网站建设流程在百度怎么创建自己的网站
  • ps里怎么做网站哪有恶意点击软件买的
  • 初二怎么做网站新区快速seo排名
  • 浅谈旅游网站的规划与建设传智播客培训机构官网
  • 法律网站开发谷歌seo关键词排名优化
  • 男女做男个真实视频网站百度搜索优化
  • 甘肃网站建设方案及案例seo排名软件免费
  • 机关网站内容建设工作总结识万物扫一扫
  • 云虚拟主机怎么做2个网站手机百度最新正版下载