yeyucca如果有远端LocalLLM接入的需求,VS code经常断链,提供两个保持长程任务的思路,大家有更好的方法可以交流下 中发帖

背景就是,远端服务器很NB,通常是高性能服务器,显卡加大内存,而你本地是近端windows只是提供个跳转,却被断链折腾很久, 
之前做法是VS Code,通过remote SSH后,再用Cline插件指挥干活,或者通过vs code端口转发出来,在近端浏览器来操作,但是这中间就会因为ssh的连接不稳,导致任务中断,有时候resume task还不起作用,只能重来,哪有那么多的时间,因此非常恼人 
思路一:如果是llama.cpp的webui就能满足日常需求,那就在近端建立个端口映射,保持ssh会话,加入ServerAliveInterval=30 -o ServerAliveCountMax=3, 
类似下面这种就可以 
@echo off 
:loop 
echo [%date% %time%] Cleaning up old connections on port xxxx… 
for...
 
 
Back to Top