@wo_shi_nai_long 在 关于OpenAI改套餐,说一下我的猜测 中发帖

首先O畜该骂,非洗白贴 
是技术上的一个东西,他们搞定了 looped Transformer 架构的 llm,这个导致之前token计费的模式失效了。然后每次 token 输出,会在 latent space 里面多循环很多次,这样子token效率高,思维链不以token形式呈现,而是模型内部的自回归。所以按照之前 token 计价的方式没法做了。吐一个token模型需要迭代更多次了。 
打个比方,就是普通人做题,需要很详细的结题过程,写在纸上的是 token。之前结题过程的 token收费。现在我搞一个心算天才,他20% 的解题过程,就做出来了。这个中间的 token 就没法收钱了。但是模型多运行的成本在那里放着呢,哈哈哈,乐死我了。
 
 
Back to Top