摩尔线程申请模型推理方法专利，降低调度开销

国家知识产权局信息显示，摩尔线程智能科技（上海）有限责任公司申请一项名为“模型推理方法及装置、电子设备、存储介质及程序产品”的专利，公开号CN122819497A，申请日期为2026年8月。

专利摘要显示，本公开提供了一种模型推理方法及装置、电子设备、存储介质及程序产品，涉及人工智能技术领域。该模型推理方法的一具体实施方式包括：按照先进先出的顺序，对等待队列中的请求序列进行资源分配，并将资源分配后的请求序列从等待队列调度至运行队列，其中，等待队列用于存储等待调度的请求序列，运行队列用于存储正在运行的请求序列；对运行队列中的请求序列进行大语言模型的预填充运算；按照先进先出的顺序，取出运行队列中的请求序列进行资源扩展，并基于资源扩展后的请求序列更新运行队列；对更新后的运行队列中的请求序列进行大语言模型的解码运算，得到大语言模型对请求序列的推理结果。该实施方式可以降低调度开销。

天眼查资料显示，摩尔线程智能科技（上海）有限责任公司，成立于2021年，位于上海市，是一家以从事科技推广和应用服务业为主的企业。企业注册资本1000万人民币。通过天眼查大数据分析，摩尔线程智能科技（上海）有限责任公司财产线索方面有商标信息6条，专利信息161条，此外企业还拥有行政许可3个。

声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。