windsing 在 德国“主权 AI”模型开源(含在线体验) 中发帖

德国知名人工智能企业 Aleph Alpha于 10 月 3 日(德国统一日) 正式发布并开源了其最新旗舰大语言模型 —— Kolibri(德语意为“蜂鸟”,版本为 Kolibri-1)。 
Kolibri 是一款主打“欧洲主权 AI”(Sovereign AI)、面向政务、工业制造、航天等高度合规及关键任务场景的德英双语混合专家(MoE)推理模型。 
总参数量:78.1B,每次推理每个 Token 仅激活 3.46B(约占总参数的 4.4%)。包含 384 个小型专家(每 Token 激活 6 个)及 1 个共享专家,配合其首创的“精确分位数均衡”路由算法,提升负载均衡度与模型表现。原生支持最高 1,048,576(1M)Tokens 的上下文窗口;专门针对德语复杂的复合词(如 Bundessozialgerichtes 等)和长词形态进行语义级拆分,德语文本压缩率达到 4.90 byt...
 
 
Back to Top