Jiellll 在 想问下各位佬,不搞大模型,在端侧的小模型大家都是怎么玩的? 中发帖

我指的是,像JEV这一类的模型,做个分类、预测、识别。 
因为现在自己也在做端侧的一些东西, 也是各方面调研信息。 
还是以例子来说好理解一些。之前也提到过,某些健康、医疗的开发公司,借助一些专业知识,把以前采血、送检、出报告的形式,变成了一台端侧设备,通过采集手掌返回的光谱,然后用SVM来分类一下,大概得出一个你是否某个维生素缺少的报告结果。(这个东西就是省掉了很多的人工消耗、时间消耗,还卖的很好)。 
然后呢,以前关注的一些分类、预测、识别的公司,现在也都在推出自己的端侧盒子,来辅助现在所谓的Agent来获取数据或者是数据汇总。 
我自己也是看好这一块,毕竟LLM这种大模型,说实话根本卷不了,更别提蛮多业务连带一个30B的模型都费劲,但是如果是走端侧,利用小模型也好,小算法也好(也看到帖子里面有佬问学算法还有用吗?我是觉得有用呀,但是要结合业务,比如就让你几个设备要落在一个城市里面,怎...
 
 
Back to Top