Aleph Alpha 发布开源模型 Kolibri,主打欧洲 AI 主权
Aleph Alpha 发布 Kolibri,一个 78B 参数的德英双语模型,采用混合专家架构,每个 token 约激活 3B 参数。公司称 Kolibri 在两种语言的质量与运行成本上处于帕累托前沿,德语占训练数据 21.3%,并为此搭建了专门的德语数据管线,也使用中国模型生成合成训练数据。
Aleph Alpha 发布 Kolibri,一个 78B 参数的德英双语模型,采用混合专家架构,每个 token 约激活 3B 参数。公司称 Kolibri 在两种语言的质量与运行成本上处于帕累托前沿,德语占训练数据 21.3%,并为此搭建了专门的德语数据管线,也使用中国模型生成合成训练数据。