关于AI算力俺有话说
·
AI三大支柱是模型、数据和算力。从功能看,AI系统包含训练和推理两部分。训练虽然也需要算力,尚可通过堆积算力硬件来实现。推理则需要强大的算力来支撑,实现实时响应。
目前主流算力依赖于英伟达GPU的CUDA平台模型。这种算力最底层硬件体系结构也就两个关键点,一是向量计算,二是多线程并行计算。基于这两点编写程序可以实现各种各样的计算。
实际上提供硬件算力不止英伟达一家。
AMD也提供了基于GPU的算力,并且开发了软件工具能够将CUDA程序软件自动转换为能够运行在AMD环境的程序。
龙国自主算力资源也在不断涌现。
海光信息公司则有与AMD类似的硬件,其深度计算处理器DCU(Deep-learning Computing Unit)已经能够适配DeepSeek-Janus-Pro多模态大模型。
天数智芯的GPGPU也已经适配DeepSeek。
华为升腾芯片的NPU也已经适配DeepSeek。
随着龙国芯片设计制造能力的不断提升,自主算力得到解决只是时间的问题。也许还需要十年的时间。
DeepSeek的出现降低了AI对算力的要求,大幅降低了算力成本。这为自主算力的发展提供了良好机遇。
算力最基础的东西是算力硬件,需要把向量计算、多线程并行计算和NPU技术结合起来,通过深入研究算力硬件体系结构来提升算力,这是解决算力问题的根本基础。
未来必定是软件和硬件协同来解决算力问题。
更多推荐



所有评论(0)