HuggingFace 每日论文Eunbi Choi模型91
K-EXAONE 2.0 技术报告:7500亿参数、256K上下文的开放权重多语模型
原标题:K-EXAONE 2.0 Technical Report
LG AI Research 发布 K-EXAONE 2.0 技术报告。该模型基于 K-EXAONE 进行架构扩展与持续训练,采用总参数量 750B、每 token 激活约 37B 的 MoE 结构,支持最长 256K 上下文,语言覆盖从 6 种扩展至 10 种,并以 Apache 2.0 开放权重发布。
为什么值得读
750B MoE、256K 上下文与 Apache 2.0 开放权重同时落地,直接影响长文档、代码代理和多语部署的模型选型。
标签
K-EXAONELG AI ResearchMoE开放权重256K上下文多语模型代码代理模型安全