全部评论
谈谈您的想法...
App内打开
谷歌第六代TPU Trillium芯片正式商用,有望驱动市场加速爆发
金融界 2024-12-13 08:58:14
据报道,谷歌日前发布博文,宣布正式向Google Cloud客户开放第六代TPU Trillium,希望凭借大的计算能力、高效的性能和可持续特性,更好推动AI模型发展。TrilliumTPU是Google CloudAI超级计算机(AIHypercomputer)的关键组件,是一种突破性的超级计算机架构,采用了一个由性能优化的硬件、开放软件、领先的机器学习框架和灵活的消费模型组成的集成系统。官方称相比上一代,Trillium TPU在训练性能上提升4倍以上,推理吞吐量提升高达3倍,峰值计算性能提升4.7倍。
作为一种AI芯片,TPU是专用集成电路(ASIC)的代表,可以进一步改善主流AI芯片GPGPU未优化完全的部分,在性能功耗比、集群算力利用率上有较大优势。AI应用来到“ChatGPT”时刻,大语言模型达到数万亿参数,大规模AI计算时代已经到来。AI、高性能计算和数据分析变得日益复杂,TPU芯片可以更好满足高运算速度及低存储需求,发展望提速。机构认为,谷歌TPU量级仅次于NVIDIA GPU,自建租赁模式正吸引头部客户。国产智算中心会是一个庞大的算力市场,未来国产TPU有望大展宏图。