AI infra AI 基础设施的三大核心方向：算子开发、训练框架、推理框架 算子开发 算子是深度学习模型的基本计算单元,每一个算子都对应一个特定的数学运算。例如[卷积]、[矩阵乘法]、[层归一化]等,这些都是神经网络的基础构建模块。在GPU上执行这些运算的底层实现代码被称为Kernel(内核)。一个高效的Kernel可以充分利用GPU的并行计算能力,而低效的Kernel则会让昂贵的硬件闲置浪费。