会员风采 | 中国联通:算力网络人工智能模型推理算力度量研究报告


【资料图】

(来源:上海市物联网行业协会)

今天分享一份中国联通研究院联合中讯邮电咨询设计院、联通数字科技有限公司联合编制的《算力网络人工智能模型推理算力度量研究报告》,报告系统性地提出人工智能模型推理算力度量理论与方法体系,为算力网络中模型推理的性能评估、智能调度与计量计费提供了技术支撑。

报告聚焦算力网络中人工智能模型推理服务,创新性地提出了“算力消耗量”与“算力使用量”双维度度量模型,包括资源视角的算力消耗量度量,涵盖模型推理业务、算力网络节点、算力网络资源三层指标;用户视角的算力使用量度量,涵盖模型推理使用、算力使用单位两类指标。

报告还系统梳理了模型剖析、并行推理、基本操作数测量等关键技术,并结合ResNet50、DeepSeek R1等典型模型推理进行了实证分析,验证了度量方法的可行性与准确性。

部分内容:

扫码加入[XG云数智·知识岛]即可随时下载最新5G、6G、数字化转型资料!

关键词:
图片版权归原作者所有,如有侵权请联系我们,我们立刻删除。
新化月报网报料热线:886 2395@qq.com

相关文章

你可能会喜欢

最近更新

推荐阅读