korn (@korn060143) 在 国产服务器离线环境编译 llama.cpp 踩坑记录 中发帖

背景：需要在完全离线的国产 Linux（老版本 glibc）服务器上完成 llama.cpp CUDA 版本编译。 
限制条件：1. 无 root 权限 2. 无 yum/apt 3. 无在线下载。 
坑1：系统 GCC 版本过低 
解决方案：使用 conda-forge 构建 GCC11 环境，通过 conda-pack 打包后在离线服务器使用 
conda create -n gcc11 gcc=11 gxx=11 
conda-pack 打包后解压使用 
注意点：需要显式指定编译器，否则 CMake 可能仍使用系统 gcc 
export CC=$CONDA_PREFIX/bin/x86_64-conda-linux-gnu-gcc 
export CXX=$CONDA_PREFIX/bin/x86_64-conda-linux-gnu-g++ 
坑2：libcuda.so.1 找不...
 
 
Back to Top