参数高达1.6万亿!美团龙猫LongCat-2.5开源,可处理百万级上下文

IT之家 11 月 9 日消息,11 月 2 日,美团龙猫发布面向长程智能体任务的原生多模态模型 LongCat-2.5。随后来到今天(9 日),美团宣布该模型正式开源。

该模型采用 MIT 协议,支持商用推理部署与二次训练,无需额外授权,是面向长程智能体任务的原生多模态模型。在复杂代码库开发、完整项目构建、Visual Coding 与专业办公场景中,端到端交付能力均有明显提升。

模型总参数 1.6 万亿,每个 token 激活约 480 亿参数,支持一百万上下文。针对显存与带宽受限的国产算力芯片,团队在模型架构、芯片适配与部署策略上也进行了深度协同优化。

_mimo开源模型参数_美团龙猫大模型官网

根据介绍,LongCat-2.5 在 Visual Coding 上表现出色,支持创意设计、3D 等任务。这些能力提升来自视觉表征层的改造:模型将视觉信号表示为多层级离散 token,与文本一样由主干模型统一处理,而非外挂视觉模块。具体而言,模型对原生分辨率视觉特征做残差向量量化,逐级补足细节;视觉 token 可离线预计算并缓存,减少在线计算量,也让分布式训练负载更均衡;视觉码本与主干联合训练,视觉与文本共享同一套主干参数,在同一语义空间内协同完成视觉理解与代码生成。

邢台市重点项目建设促进中心

此外,LongCat-2.5 采用 W4A4 高效推理方案,将专家权重与激活同时量化到 4 bit,并通过原生 INT4 矩阵乘法单元执行计算。

IT之家附上有关链接如下:

大城群众说事 阜新市自然资源事务服务中心 邢台市重点项目建设促进中心 龙南市就业服务平台
地址:山西省太原市小店区东融街产业路中博信息产业园A栋七层
电话:0351-3531599

关于站点

山西科城能源环境创新研究院是一家聚焦能源革命与生态环境领域的新型智库和研发机构。研究院立足山西、面向全国,围绕能源经济、能源环境、低碳发展、碳达峰碳中和、绿色技术创新、环境治理与生态修复等方向,开展战略规划、政策研究、技术咨询、项目评估、成果转化、人才培养和国际合作等工作。 研究院致力于汇聚高校、科研院所和企业专家资源,为政府、企业和社会提供高质量的决策咨询与技术服务,打造能源环境领域的高端智库、协同创新平台和成果转化基地。

搜索Search

搜索一下,你就知道。