途川 (@litjohn)文风的信息密度问题(尤其是 LLM) 中发帖

有充分的理由表明,觉得 LLM 输出速度不够是因为它们的文风太垃圾了 
人类每秒钟只能输出 5 个 token。LLM 每秒钟能输出 300tokens。但是无意义的列表和展开导致原本一句话就能说完的东西被极度拉长。 
其中蕴含的精妙的比喻或者深刻洞察到最后只有一句话。
 
 
Back to Top