异格技术申请大模型推理方法专利,提升大模型推理计算的效率

市场资讯 2026-06-15 08:30:35
10秒看完全文要点
看要点

国家知识产权局信息显示,苏州异格技术有限公司申请一项名为“大模型推理方法、装置、设备及存储介质”的专利,公开号CN122198107A,申请日期为2026年1月。

专利摘要显示,本发明涉及计算机技术领域,公开了大模型推理方法、装置、设备及存储介质,包括响应于大模型的目标推理请求,CPU基于目标任务生成第一指令和第二指令,并将第一指令和第二指令分别传输至GPU和FPGA;GPU响应于第一指令,执行目标任务中的第一类计算任务;FPGA响应于第二指令,执行目标任务中的第二类计算任务,并将第二类计算任务的计算结果发送至GPU;GPU将两类计算任务的计算结果进行融合,得到目标任务的输出结果。本方法对目标任务进行拆解,由GPU执行注意力机制、共享专家网络等计算,FPGA执行激活专家网络计算,在保证模型推理精度的同时,提升大模型推理计算的效率。

天眼查资料显示,苏州异格技术有限公司,成立于2022年,位于苏州市,是一家以从事专业技术服务业为主的企业。企业注册资本1801.136202万人民币。通过天眼查大数据分析,苏州异格技术有限公司共对外投资了2家企业,参与招投标项目14次,财产线索方面有商标信息91条,专利信息139条,此外企业还拥有行政许可7个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

财经频道更多独家策划、专家专栏,免费查阅>>

金融界提醒:本文内容、数据与工具不构成任何投资建议,仅供参考,不具备任何指导作用。股市有风险,投资需谨慎!
全部评论
谈谈您的想法...
AI解读分析
打开App
推荐 要闻 7x24 理财 财 经 导航