
(相关资料图)
来源:环球网
【环球网科技综合报道】9月3日消息,据 wccftech 报道,当前dram 内存市场供应持续紧张,内存资源紧缺已成为制约人工智能产业发展的现实难题,各大 ai 服务商纷纷探索多元路径,缓解内存供给压力。
谷歌供应链基础设施高级总监尼基尔・切里安在相关峰会上表示,人工智能产业发展约束已快速从算力制约转向内存制约。据介绍,在典型 ai 服务器硬件成本构成中,高性能内存占比约达 75%,内存瓶颈问题日益凸显。
为破解内存供给难题,谷歌从硬件、软件两个维度同步推进技术方案,搭建内部元器件循环供应链。企业通过拆解退役服务器,回收仍具备使用价值的硬件元器件。针对新一代 ai 服务器,谷歌研发专用硬件转接卡,实现将退役服务器拆解得到的 ddr4 内存模组,适配部署至新型 ai 服务器当中,通过复用旧规格内存,对冲 ddr5 内存供给压力。
在硬件回收复用之外,谷歌持续开展软件层面优化工作,通过迭代底层函数库、优化模型架构、升级 kv 缓存压缩算法等技术手段,降低单位算力对应的内存资源消耗,多措并举缓解 ai 业务运行的内存开销压力。(纯钧)
标签:
凯发k8国际首页登录 copyright @ 2001-2013 www.caixunnews.com all rights reserved 财经新闻网 凯发k8国际首页登录的版权所有
网站所登新闻、资讯等内容, 均为相关单位具有著作权,转载请注明出处
未经彩迅新闻网书面授权,请勿建立镜像 联系凯发k8国际首页登录: 291 32 [email protected]