标签： GPU 时间片分配

让多个AI应用程序共享一块昂贵的GPU，听起来似乎是降低基础设施成本的显而易见的方法。然而，让多个工作负载访问同一块加速器可能会导致不可预测的延迟、内存耗尽以及“噪音邻居”问题……