使用 GPU DVFS 来优化GPU效率

背景

降低计算系统功耗的方法主要有两种：

采用 DVFS 就是用第一种方法来提升处理器的处理效率，根据应用的实际需求实时调整处理器的频率，最终达到降低处理器功耗的目的。

DVFS 技术的实质是调节处理器的各部件的频率和电压，故可细分为

DVFS的两个技术基于两个基本原理：

通过动态调整电压和频率，DVFS能够在性能和功耗之间找到最佳平衡点。

NVIDIA GPU Boost 4.0 是第四代 GPU 时钟技术，可将可用功率余量转化为更高的 GPU 性能。它是GPU Boost 3.0技术的后继者。

在 Turing 显卡的发布，NVIDIA 推出了 GPU Boost 4.0。自动 GPU 时钟提升算法的第四个版本引入了几个新功能：

NVIDIA Kepler 架构，建立基于硬件性能计数事件的 GPGPU 功耗估算模型，该 GPGPU 功耗估计模型建立分为以下3个步骤：

1）筛选功耗相关性能事件，采集GPU程序运行时的功耗值以及与功耗密切相关的性能计数事件值；

2）基于BP-ANN的GPU功耗估计模型设计；

3）GPGPU功耗模型的实现与评估。

硬件事件的类型、数量会直接影响GPU功耗模型的准确性和复杂性，并非所有性能计数事件均与功耗密切相关，需要从中选择一组功耗密切相关事件，在141个硬件性能计数事件中选择12个事件（大多数和存储相关）作为构建功耗估计模型。

对于8个应用程序模型误差很小（不高于5%）进一步说明基于硬件性能计数事件的GPGPU功耗估算模型可准确估计GPU运行时的功耗值。

尽管 DVFS 在 GPU 功耗优化中已取得进展，但仍有多方面需要改进：

目前正在开发一个项目，结合改进的方向，在 kubernetes 调度中考虑系统负载，以及智能化 DVFS；后续计划把这个项目开源出来。

CUDA Fatbin动态解压缩

Kubernetes 中使用 CRIU 实现 GPU进程实时迁移：基础篇

GPU远程调用—入门篇

GPU内核虚拟化-基础篇

GPU内核虚拟化-原理篇

GPU 设备动态挂载到 Pod 原理分析