芯展速 AI90 固态硬盘显存化方案亮相:首 Token 延迟缩短至 1/50
▪AI快讯201个月前

其将高性能 SSD 纳入 GPU 显存体系,让 KV Cache 卸载到更大容量的固态硬盘上,形成 HBM + DRAM + SSD 三级存储体系。
其将高性能 SSD 纳入 GPU 显存体系,让 KV Cache 卸载到更大容量的固态硬盘上,形成 HBM + DRAM + SSD 三级存储体系。
来源:IT之家
AI工具集加载中...

其将高性能 SSD 纳入 GPU 显存体系,让 KV Cache 卸载到更大容量的固态硬盘上,形成 HBM + DRAM + SSD 三级存储体系。
其将高性能 SSD 纳入 GPU 显存体系,让 KV Cache 卸载到更大容量的固态硬盘上,形成 HBM + DRAM + SSD 三级存储体系。
来源:IT之家