PSO预缓存

手动PSO缓存需要运行游戏的构建以将PSO（管线状态对象）信息收集到捆绑的缓存中，而PSO预缓存会对可在渲染期间使用的所有PSO自动执行PSO收集和异步编译。

配置PSO预缓存

以下控制台变量可控制PSO预缓存：

全局着色器PSO预缓存

某些全局着色器PSO会被预缓存，因为它们在首次使用时可能会造成运行时卡顿。 这些PSO会在引擎启动时被编译，且默认由控制台变量r.PSOPrecache.GlobalShaders启用。 游戏中可能用到的所有全局计算着色器变体均会被预缓存。

static EShaderPermutationPrecacheRequest ShouldPrecachePermutation(const FShaderPermutationParameters& Parameters)

这通常被用于检查给定的排列在运行时是否可用，方法是检查当前的控制台变量设置，以排除某些组合。 默认使用ShouldCompilePermutation，因此预缓存的置换项应该是已编译置换项的子集。

大部分全局图形PSO会在加载后的头几帧内创建完成，在这几帧中，可能会观测到明显的卡顿。 使用非常小的PSO捆绑包缓存收集这些全局图形PSO可能会缓解这种情况。 但某些全局图形PSO排列也会在运行时创建和编译，因此这些也应该被预缓存。 对于全局图形PSO，需要特定的SPO收集器来收集所有正确的渲染状态。编译图形PSO需要这些状态。

目前，以下全局着色器类型已实现了PSO预缓存：

• Slate设置

• 延迟光源

• 级联粒子模拟

• 体积雾

组件PSO预缓存

图元组件（UPrimitiveComponent）会在加载后（PostLoad期间）立即预缓存渲染所需的所有PSO。 预缓存会收集所需的所有管线状态信息来编译PSO，包括：

• 材质

• 顶点工厂

• 顶点元素信息

• 特定的预缓存参数

UE利用此信息遍历可以渲染组件的所有潜在网格体通道处理器。 每个网格体通道处理器都会添加渲染期间可能需要的潜在PSO初始化程序。 后台任务会检查共享PSO缓存，以确保所需数据尚未被预缓存并异步编译这些请求。

单个组件可能需要大量PSO，才能在所有不同通道（如基础通道、自定义深度通道、深度通道、扭曲通道、阴影通道、虚拟阴影贴图通道、速度通道等等）中正确渲染。 重要的是，在组件准备好之前，将所有这些PSO都准备好，以免造成图形瑕疵——例如，组件可能只在一个通道中被渲染，而在另一个通道中却未被渲染。

当虚幻引擎为图元组件创建图元代理且其所需PSO仍在编译时，有多个选项可用：

• 延迟代理创建，直至PSO编译完成（默认）。 这样可以有效跳过绘制，直至PSO准备就绪。

• 将材质替换成引擎中的默认材质。

• 继续，并且可能出现卡顿。 绘制将阻止PSO编译。

代理创建延迟策略

控制台变量r.PSOPrecache.ProxyCreationDelayStrategy依赖控制台变量r.PSOPrecache.ProxyCreationWhenPSOReady。 如果ProxyCreationWhenPSOReady被设为1（即启用），则ProxyCreationDelayStrategy将根据其值运行以下行为：

加载屏幕

在为游戏设置初始加载屏幕时，你应该使其等待所有当前尚未完成的PSO预缓存请求全部完成。 否则，你可能会看到一些明显的视觉抖动，那些不支持延迟代理创建的组件（比如地形景观）甚至可能会出现运行时卡顿的情况。而在这种情况下，最好不要用默认材质替换这些网格或者不要对其进行渲染。

FShaderPipelineCache::NumPrecompilesRemaining()适合用于检查捆绑缓存和PSO预缓存的未完成PSO预缓存编译次数。 你可以修改加载屏幕逻辑以检查此数量，并在达到零之前一直保持加载屏幕显示。 在大多数情况下，具有空驱动缓存的初始PSO编译在中等规格的CPU上花费的时间应少于一分钟。

管理系统资源

PSO预缓存依赖使用后台线程进行异步编译，并对系统内存有影响。 本小节旨在介绍用于根据你的项目调整和优化资源使用的可用选项。

内存

为节省运行时系统内存，UE会在编译后删除为预缓存编译的PSO。 这是因为如果你的应用程序预缓存的PSO量非常大，若不清理，可能会占用大量的应用程序内存空间（数百MB甚至GB）。

PSO预缓存依赖存在的底层压缩驱动程序缓存。 即使PSO在预缓存后被删除，它们也会被保留在驱动程序缓存中。 如果运行时需要PSO，显卡驱动程序将从其压缩驱动程序缓存加载PSO。 然而，这也可能造成资源耗费，并且从这些缓存进行第一次检索可能需要几毫秒。 你可以使用D3D12.PSOPrecache.KeepLowLevel在D3D12中禁用预缓存PSO的删除操作。

从驱动程序缓存创建PSO在某些独立硬件供应商（CIHV）上可能比较缓慢。 对于NVIDIA而言，可以使用r.PSOPrecache.KeepInMemoryUntilUsed在内存中保留一定数量的预缓存图形和计算PSO，从而在内存中保留最后N个预缓存PSO，进而避免驱动缓存性能下降。 要调整内存中保留的计算和图形PSO数量，请分别使用r.PSOPrecache.KeepInMemoryGraphicsMaxNum和r.PSOPrecache.KeepInMemoryComputeMaxNum。 如果你决定使用此选项，建议使用不同设置测试应用程序的最终内存开销，从而在PSO创建性能和内存开销间达成可接受的平衡。

性能

默认情况下，虚幻引擎使用PSO预缓存线程池来异步编译PSO。 若设置了r.pso.PrecompileThreadPoolSize或r.pso.PrecompileThreadPoolPercentOfHardwareThreads，则系统将使用线程池。 否则，PSO编译将回退为使用常规后台任务，而这些后台任务将与引擎的其他工作负载被一起调度。

其他注意事项：

• 由于线程池的线程数量没有上限，在处理器数量多但内存不足的系统上编译PSO时，系统内存可能会被耗尽。 每个编译PSO的线程最多可能占用2GB内存，因此限制线程数量对项目来说是有意义的。

• 在Gameplay过程中，75%的硬件线程就算很多了。 与常规前台线程的争用可能会很明显，从而导致轻微的丢帧。 在加载时提升该值，并在游戏时降低该值可能会有所帮助，但这可能会延迟PSO的编译并增加延迟代理的创建——这应该不会造成运行时卡顿。

你可以使用命令行参数-clearPSODriverCache强制清除驱动程序缓存。我们建议在测试游戏首次启动体验时进行此操作。

在具有大量核心的PC上测试时，建议使用命令行参数-corelimit=N（其中N即核心数），将核心数量限制为8，或适用于消费级PC的其他常规核心数。同时你还可以使用-processaffinity=n，确保Windows只会在n个物理核心上调度游戏。 这样可以确保你能更准确地复制最终用户的体验。

验证和跟踪

有多个选项可供验证和跟踪PSO预缓存系统的性能。

你可以通过r.PSOPrecache.Validation使用以下值启用验证：

当PSO预缓存验证激活时，你可以使用控制台命令stat PSOPrecache检查收集的统计数据。

通过PSO预缓存验证系统收集的统计数据。 使用统计数据控制台命令PSOPrecache查看统计数据。

统计数据分为3组：

对于每个组，跟踪以下参数：

着色器管线缓存（Shader Pipeline Cache）也会提供信息，说明检测到多少实际运行时卡顿是因PSO编译本身导致。 如果要编译运行时PSO的编译时间超过一定毫秒数，则PSO编译会被标记为故障。 默认阈值为20毫秒。 你可以使用r.PSO.RuntimeCreationHitchThreshold修改此值，但该值应尽可能小。

收集关于PSO预缓存的信息

你可以使用日志文件、Visual Studio调试器和Unreal Insights获取关于PSO预缓存的更多信息，并查看为何某些PSO仍在运行时引起卡顿。 仅在启用PSO验证（见上文验证和跟踪）时，日志的Insights中才会显示正确的PSO预缓存统计数据。

当发现PSO未命中或"太迟（Too Late）"时，UE将在日志中打印以下信息：

PSO PRECACHING MISS:
		Type:				FullPSO
		PSOPrecachingState:		Missed
		Material:				M_AdvancedSkyDome
		VertexFactoryType:		FLocalVertexFactory
		MDCStatsCategory:		StaticMeshComponent
		MeshPassName:			SkyPass
		Shader Hashes:
			VertexShader:		EC68796503F829FDEACC56B913C4CA86C6AD3C16
			PixelShader:		651BF1ABBAEC0B74C8D2A5E917702A00EF29817B

Insights工具对于调试PSO预缓存非常有用。 在游戏帧状态序列中添加SOPrecache: Missed和PSOPrecache: Too Late这两个计时器，就能方便地看到在一定时间段内由PSO编译导致的所有卡顿情况。 如下图所示，其中有几次5到10毫秒的卡顿是由PSO缓存未命中引起的，还有一次会被玩家明显察觉到的，117毫秒的大卡顿。 而其他较大的卡顿并非来自PSO编译。

点击查看大图。

当我们放大查看时，就会发现它是来自"半透明"通道（而且日志中应该有关于这一点的更多详细信息）：

点击查看大图。

你可以在全局PSO验证辅助对象中找到更多详细信息。 当验证设置为全面跟踪（r.PSOPrecache.Validation=2）时，系统会根据网格体通道处理器和顶点工厂类型分组数据，这有助于跟踪未命中事件的源头。 这还有助于你更清晰地了解所有预缓存PSO的源头，并找到不应缓存那么多着色器的异常值。

虽然这些每通道和每顶点工厂统计数据未直接公开，但可以在调试期间通过找到收集数据的数据结构检查这些统计数据。 它们具体位于PSOPrecacheValidation.cpp之中：

• FullPSOPrecacheStatsCollector

• ShadersOnlyPSOPrecacheStatsCollector

• MinimalPSOPrecacheStatsCollector

下方截图即为示例。

点击查看大图。

通过引擎功能扩展PSO预缓存

本小节介绍了关于如何为PSO预缓存扩展支持对象的信息。

UPrimitiveComponent

UPrimitiveComponent会收集设置PSO初始化程序所需的所有信息。 需要材质实例、顶点工厂（带可能的顶点元素集）和可能影响FMeshPassProcessor中使用的最终着色器和渲染状态的参数集。

参数会被存储在FPSOPrecacheParams中，正确的默认值则在UPrimitiveComponent::SetupPrecachePSOParams中设置。

PSO预缓存的基础入口函数为：

/** Precache all PSOs which can be used by the primitive component */

	ENGINE_API virtual void PrecachePSOs();

在大多数情况下，派生组件不需要实现此函数，只需覆盖预缓存参数收集函数：

/**
	 * Collect all the data required for PSO precaching 
	 */

	struct FComponentPSOPrecacheParams

	{

		EPSOPrecachePriority Priority = EPSOPrecachePriority::Medium;

你可以在UStaticMeshComponent::CollectPSOPrecacheData中找到功能全面的示例，在WaterMeshComponent::CollectPSOPrecacheData中找到较简单的用例。

FVertexFactory

新顶点工厂需要使用EVertexFactoryFlags::SupportsPSOPrecaching标记其支持PSO预缓存，该标记由顶点工厂声明宏IMPLEMENT_VERTEX_FACTORY_TYPE提供。

然后，顶点工厂必须实现以下函数：

static void GetPSOPrecacheVertexFetchElements(EVertexInputStreamType VertexInputStreamType, FVertexDeclarationElementList& Elements);

如果未提供明确的顶点元素集，则PSO预缓存期间将使用FVertexFactory::GetPSOPrecacheVertexFetchElements。

如果在顶点工厂上设置EVertexFactoryFlags::SupportsManualVertexFetch标记，或者如果着色器中使用固定的顶点元素集，则固定顶点元素集将有效。

如果顶点元素列表依赖网格体的顶点缓冲区数据，则需要在FPSOPrecacheVertexFactoryData中提供正确的集。 这应在UPrimitiveComponent::CollectPSOPrecacheData期间进行。 如需查看示例，请参阅UStaticMeshComponent::CollectPSOPrecacheData和FLocalVertexFactory::GetVertexElements。

FMeshPassProcessor

网格体通道处理器必须实现以下函数，以收集在使用给定FPSOPrecacheParams绘制某些材质时可能使用的所有PSO：

virtual void CollectPSOInitializers(const FSceneTexturesConfig& SceneTexturesConfig, const FMaterial& Material, const FPSOPrecacheVertexFactoryData& VertexFactoryData, const FPSOPrecacheParams& PreCacheParams, TArray<FPSOPrecacheData>& PSOInitializers) override {}

其逻辑和AddMeshBatch大体相同（理想情况下可以部分共享），但如果在MeshDrawCommand编译时调用AddMeshBatch，PSO预缓存系统会尝试更快地收集信息（组件的PostLoad）。

如需简单示例，请参阅FDistortionMeshProcessor::CollectPSOInitializers。如需更复杂的示例，请参阅FBasePassMeshProcessor::CollectPSOInitializers。

IPSOCollector

并非所有材质着色器都会通过网格体通道处理器，也并非所有材质着色器都已定义了EMeshPass::Type（比如毛发、Nanite或光线追踪动态几何体更新）。 对于这些情况，可能需要直接从基础接口派生实现。

IPSOCollector有一个需要实现的虚拟函数：

// Collect all PSO for given material, vertex factory & params
	virtual void CollectPSOInitializers(const FSceneTexturesConfig& SceneTexturesConfig, const FMaterial& Material, const FPSOPrecacheVertexFactoryData& VertexFactoryData, const FPSOPrecacheParams& PreCacheParams, TArray<FPSOPrecacheData>& PSOInitializers) = 0;

PSO收集器也需要通过全局FRegisterPSOCollectorCreateFunction注册以供创建。 引擎中给出了几个简单的示例：FTranslucentLightingMaterialPSOCollector、FRayTracingDynamicGeometryPSOCollector等等……

GlobalPSOCollector

如上文所述，一些全局图形PSO在启动时就已预缓存了，我们知道它们能够编译运行时变体。 为此，系统会使用GlobalPSOCollector。 它是IPSOCollector的简化版本。 需要声明一个全局的FRegisterGlobalPSOCollectorFunction对象，以提供全局PSO收集器功能：

typedef void (*GlobalPSOCollectorFunction)(const FSceneTexturesConfig& SceneTexturesConfig, int32 GlobalPSOCollectorIndex, TArray<FPSOPrecacheData>& PSOInitializers);

如需获取关于如何使用这些功能的一些示例，请参阅DeferredLightGlobalPSOCollector或RegisterVolumetricFogGlobalPSOCollector。

调试PSO预缓存未命中

查明上述PSO缓存未命中现象的成因，你需要在Visual Studio中采用手动调试的方式进行操作。

调试最少PSO状态时的未命中非常简单，因为这些未命中可以在MeshDrawCommand构建期间触发，而非在绘制时触发。 最终渲染目标信息（计算完整PSO时需要）仅在绘制期间提供，这使得调试难度更大。

函数LogPSOMissInfo很适合用来在运行时发生未命中时脱离调试器。 调用堆栈和监视窗口可以给出有关所用材质、渲染通道、顶点工厂和FPrimitiveSceneProxy的更多信息。 你也可以使用ComponentForDebuggingOnly成员获取有关UPrimitiveComponent的信息。 大部分此类数据也会在发现未命中情况时（在该函数中收集）打印到日志文件中。

然而，当LogPSOMissInfo运行时，PSO预缓存通常已在该组件上完成。 如果你尝试找到为何在该组件PSO预缓存期间使用的着色器或渲染状态不正确，你需要在PSO预缓存期间为该组件和/或给定通道的材质添加一个断点。

当发现具有给定名称的材质时，r.PSOPrecache.BreakOnMaterialName有助于在PSO预缓存过程中进行脱离。这有助于找出为何某些渲染状态与运行时状态存在差异。 你也可以使用r.PSOPrecache.BreakOnPassName和r.PSOPrecache.BreakOnShaderHash缩小有问题的PSO的范围。 上述提到的这些信息可在日志中找到。

你可以使用r.PSOPrecache.UseBackgroundThreadForCollection禁用PSO初始化器收集的后台线程任务，以便在调试PSO预缓存未命中时更轻松地追踪组件信息或其他状态。