阅读原文
HuggingFace 每日论文Eunbi Choi模型91

K-EXAONE 2.0 技术报告:7500亿参数、256K上下文的开放权重多语模型

原标题:K-EXAONE 2.0 Technical Report

LG AI Research 发布 K-EXAONE 2.0 技术报告。该模型基于 K-EXAONE 进行架构扩展与持续训练,采用总参数量 750B、每 token 激活约 37B 的 MoE 结构,支持最长 256K 上下文,语言覆盖从 6 种扩展至 10 种,并以 Apache 2.0 开放权重发布。

为什么值得读

750B MoE、256K 上下文与 Apache 2.0 开放权重同时落地,直接影响长文档、代码代理和多语部署的模型选型。

标签

K-EXAONELG AI ResearchMoE开放权重256K上下文多语模型代码代理模型安全