美团发布万亿参数大模型 LongCat-2.0，并计划开源

美团宣布正式发布新一代万亿参数大模型 LongCat-2.0，并计划对外开源。

根据美团方面发布的信息，LongCat-2.0 的预训练数据规模超过 30T tokens，数据覆盖中文、英文、多语言及代码等多个类别。

在万卡级训练过程中，LongCat 团队面对硬件故障、通信异常、显存压力与数值波动等挑战，从稳定性、正确性和效率三个方向对基于国产算力的训练难题展开攻坚。在稳定性方面，团队采用了 HCCL 异常处理、弹性扩缩卡以及自动故障恢复等措施，将月均日故障率降低了 70% 以上。在正确性方面，团队通过自研设计确定性算子、实施 Bitwise 一致性验证和参数检测，保障了训练结果的可靠性，并基于实践提升关键模块的计算精度、优化了 Reduce 逻辑。

市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。