cudnn

cudnn是NVIDIA官方推出的高性能基础算子库，它将底层复杂的GPU并行计算优化封装成简单易用的API，极大地降低了AI模型开发的门槛，使开发者们能够将精力集中于模型设计与算法创新，而非底层性能调优，从而有力推动了整个AI领域的发展。

cudnn优势

1、深度适配NVIDIA GPU全系列架构，最大化利用GPU硬件潜力，充分释放算力，训练速度提升了好几倍。

2、无缝集成所有主流深度学习框架，提供统一加速接口，开发者无需关注底层优化，直接享受性能红利。

3、覆盖前向/反向传播、损失计算和优化器更新等完整训练链路，缩短模型迭代周期，降低算力成本。

4、支持FP8/FP16/BF16 混合精度计算，结合自动精度缩放技术，提升训练吞吐量，降低显存占用。

5、内置启发式算法，根据输入尺寸、硬件配置自动选择最优实现，适配从移动端到超算的全场景。

cudnn作用

计算-内存绑定操作融合：将常见组合合并为单个内核，减少中间张量存储，大幅提升性能。

运行时融合引擎：针对通用融合模式动态生成优化内核，适配自定义网络结构，无需手动编写融合代码。

专用模式融合：为特殊结构提供定制化融合方案，降低显存占用，以便进行10倍长序列训练。

图级融合优化：将整个网络层表示为计算图，实现跨层算子融合，提升端到端性能。

cudnn怎么安装

1、阅读软件许可协议，点击同意并继续。

2、选择精简模式或者自定义。

3、勾选要用的驱动程序组件。

4、选好安装位置。

5、安装好后点击关闭。