英特尔:为DeepSeek大模型提供优化工具 降低部署门槛

来源:环球网

【环球网科技综合报道】近日,DeepSeek推出了一款名为Janus Pro的先进AIGC(人工智能生成内容)模型,该模型以其卓越的性能和高精度引起了行业的广泛关注。

2月2日,英特尔方面表示,英特尔® Gaudi 2D AI加速器针对Janus Pro进行了优化,为AI开发者提供了以更低的成本和更高的效率部署复杂任务的可能性,满足了行业对于推理计算能力的需求。

据了解,DeepSeek Janus Pro首次采用了统一的Transformer架构,打破了传统AIGC模型依赖多路径视觉编码的限制,实现了理解与生成任务的一体化支持。通过优化训练策略和扩大模型规模,Janus Pro在文生图等功能上展现了显著的性能提升和稳定性,并推出了10亿参数和70亿参数两个版本,进一步巩固了其在性能和精度方面的竞争力。

值得一提的是,Janus Pro在统一Transformer架构下,文生图模型的吞吐量不再仅仅依赖于加速器的高算力,而是充分利用HBM内存的高带宽和大容量。借助英特尔® Gaudi 2D提供的2.45TB/秒的高带宽和96GB HBM大容量内存,Janus Pro在处理批处理任务时表现出了显著的吞吐性能提升,能够大幅缩短了任务处理时间。结合英特尔Optimum-Habana框架的优化,仅需约10秒即可生成16张高质量图片,极大提升了文生图任务的效率。

此外,DeepSeek的蒸馏模型也得到了至强和Gaudi平台的支持,有助于降低总体拥有成本(TCO),促进AI技术的普及。目前,英特尔的AI产品组合已针对超过500个开源AI模型提供支持,包括DeepSeek、Llama 3.1和通义千问等,同时致力于构建开放生态系统,为企业AI应用的实现提供坚实基础。(勃潺)

上一篇:英伟达市值过去一周缩水超5000亿美元
下一篇:外媒:DeepSeek受关注 登顶140国应用商店榜首
免责声明:

1、本网站所展示的内容均转载自网络其他平台,主要用于个人学习、研究或者信息传播的目的;所提供的信息仅供参考,并不意味着本站赞同其观点或其内容的真实性已得到证实;阅读者务请自行核实信息的真实性,风险自负。