yeyucca 在 如果有远端LocalLLM接入的需求,VS code经常断链,提供两个保持长程任务的思路,大家有更好的方法可以交流下 中发帖
背景就是,远端服务器很NB,通常是高性能服务器,显卡加大内存,而你本地是近端windows只是提供个跳转,却被断链折腾很久,
之前做法是VS Code,通过remote SSH后,再用Cline插件指挥干活,或者通过vs code端口转发出来,在近端浏览器来操作,但是这中间就会因为ssh的连接不稳,导致任务中断,有时候resume task还不起作用,只能重来,哪有那么多的时间,因此非常恼人
思路一:如果是llama.cpp的webui就能满足日常需求,那就在近端建立个端口映射,保持ssh会话,加入ServerAliveInterval=30 -o ServerAliveCountMax=3,
类似下面这种就可以
@echo off
:loop
echo [%date% %time%] Cleaning up old connections on port xxxx…
for...