GPU Overprovisioning:超卖、共享、隔离和回滚边界
按场景拆开 GPU overprovisioning 的常见实现路径,包括调度超配、时间切片、显存限制、MIG、vGPU、队列回填与准入治理,并分析各自的收益、风险与适用边界。
分类 GPU 下的文章。
按场景拆开 GPU overprovisioning 的常见实现路径,包括调度超配、时间切片、显存限制、MIG、vGPU、队列回填与准入治理,并分析各自的收益、风险与适用边界。
从成本结构、交付速度、性能确定性、运维负担与团队能力出发,分析创业公司在 Serverless GPU 与 Dedicated GPU 之间该如何做阶段性选择。
按工程落地方式拆解 KAI-Scheduler 的 Reservation Pod 机制,以及 HAMi 的硬隔离路径;对比两者在调度表达、隔离保障、落地成本与适用场景上的差异,并给出可组合的协同思路。
从工程实践看 hetGPU 系统如何实现 GPU 二进制的跨平台兼容,支持运行时 JIT、SIMT vs MIMD、内存模型、状态捕获与跨 GPU 迁移等。
围绕 gpu-manager 的启动流程、设备拦截、拓扑感知与分配机制,系统解析 Kubernetes 下 GPU 虚拟化的工程化路径。
按时间倒序查看这个分类下的全部文章。
按场景拆开 GPU overprovisioning 的常见实现路径,包括调度超配、时间切片、显存限制、MIG、vGPU、队列回填与准入治理,并分析各自的收益、风险与适用边界。
从成本结构、交付速度、性能确定性、运维负担与团队能力出发,分析创业公司在 Serverless GPU 与 Dedicated GPU 之间该如何做阶段性选择。
按工程落地方式拆解 KAI-Scheduler 的 Reservation Pod 机制,以及 HAMi 的硬隔离路径;对比两者在调度表达、隔离保障、落地成本与适用场景上的差异,并给出可组合的协同思路。
从工程实践看 hetGPU 系统如何实现 GPU 二进制的跨平台兼容,支持运行时 JIT、SIMT vs MIMD、内存模型、状态捕获与跨 GPU 迁移等。
围绕 gpu-manager 的启动流程、设备拦截、拓扑感知与分配机制,系统解析 Kubernetes 下 GPU 虚拟化的工程化路径。