南风 (@Nan_Fengk)未来类似Qwen3.8 27B这种小型模型会如何发展 中发帖

现在的量化蒸馏越来越优秀,智商也不断提高,想问未来这些小模型会怎样发展,是略微提高参数量的同时提高智商,还是在保持参数量的同时优化算法? 
未来会和个人显卡有什么联动,可不可以替代luna这种模型干一些基础任务,个人本地部署会成为趋势吗? 
问题有点多,希望佬们可以一起探讨一下。
 
 
Back to Top