liucode服务器如何利用,能跑本地智能体平台吗 中发帖

我们公司有一台服务器主要配置:5L20显卡、1232GB ddr5内存、26530cpu、2960GB+4*3.84TB固态存储。 
这个服务器一直没有用起来,公司也没有人去弄这个,一直放在库房。 
最近我想着不用也浪费,就申请说给能不能部署一下跑本地AI(本来想的是,开机之后,自己部署模型,自己用着试一试),结果给自己揽了给活,公司现在要在这个服务器上搞一个智能问答、智能文书、数据分析和 BI看板一体的本地智能体平台,还让我出个方案。我看我人麻了,佬友们,就这服务器配置能弄起来吗,弄起来效果能行吗
 
 
Back to Top