美无澜 (@Beauty_without_Waves)公司项目VLM解决方案咨询 中发帖

RT,我司最近一个项目推进了VLM的应用落地(主要是借助大模型识别图片要素),内部的大模型处理时效容易超时(10s以上),算法同事给到的方案为①外采token plan;②租高性能显卡服务器自部署模型。 
各位佬觉得哪个靠谱一点?如果外采的话哪一家速度相对快一点(需要视觉理解能力)
 
 
Back to Top