吴函迅 (@hxwu)关于在1/8c1g小鸡上2api容易卡死的解决办法 中发帖

事情起因是,在甲骨文大善人那里领了两台amd小鸡没处用,我就拿来做codex2api了 
▶ 
配置
自此开始了我的噩梦,经常出现cpu明明是空载但系统反应极慢,后续用sar和pidstat查到是io风暴的问题 
▶ 
命令及输出
可以看到读盘直接打满了我的小鸡限制。 
于是我怀疑是2api服务的问题,一路从cpa换codex2api换sub2api,但一直都还是有这个问题,甚至我拿两台小鸡做负载均衡也不行。 
api并发也低的离谱,rpm从未超过5,而且这个问题从来不随api并发数出现。 
而我又不甘心把2api转到arm小鸡上,死磕了好几天。 
直到我今天写另一个服务调用了docker exec pg_isready也出现了io风暴,而且可以稳定复现。 
众所周知,当一个问题可以稳定复现时,他就不再是问题了: 
 [image] 
[image] 
遂加了1g zram和2g swap,终于解...
 
 
Back to Top