苦逼炼丹ing，实验室显卡不足，大家共用显卡，但是train和infer的时候受限于batch 不是完全的padding到一定大小的，经常oom。 
之前考虑过slrum，但是实验室人不太接受，因为没有直接挂tmux方便，而且是独占显卡，别人不能和你一起用（目前是h100所以显存还能跑下几个不同的推理）。 
问过gpt没有找到好的解决方法，求助各位佬 有没有什么建议，十分感谢🙏