rendering - 使用 Metal 对 SceneKit 渲染进行抗锯齿处理
问题描述
我是金属新手。我正在使用这个 Apple 示例代码使用 Metal 渲染 SceneKit 场景。TLDR;它调用SCNRenderer's
render
函数并传入命令缓冲区。我正在为 Big Sur 编译。
它可以工作,但它不是抗锯齿的。正如您在下面的更新中看到的那样,我尝试了几种方法来实现它。
如果没有 Metal,我只isJitteringEnabled
需要true
使用 SCNRenderer,就可以得到漂亮(而且速度很慢)的 96-ish-pass 渲染。如果我尝试用 Metal 来做这件事,我会得到奇怪的像素格式不匹配,所以我怀疑这两者不兼容。
据我所知,对于 Metal,实现抗锯齿的最简单方法是在渲染管道中启用多重采样(我知道怎么做)——并使用多重采样纹理 ( MTLTextureType.type2DMultisample
)。这个部分答案支持我的假设。
这就是问题所在。CVMetalTextureCache
当我从和获取纹理时,我不知道如何更改纹理类型CVMetalTextureCacheCreateTextureFromImage
。这似乎是 Core Video 对 Metal 支持的限制?
我的完整来源在这里
而已。这篇文章的其余部分是关于我尝试过的东西的更多细节。
(我认为这可能使用着色器。我也对该解决方案持开放态度,但我不知道从哪里开始。此示例无法编译,此示例适用于 GSLS)
我的像素缓冲区 atts 看起来像这样
let pixelbufferAttributes = [
kCVPixelBufferPixelFormatTypeKey : kCVPixelFormatType_32BGRA,
kCVPixelBufferWidthKey: exportSettings.width,
kCVPixelBufferHeightKey : exportSettings.height,
kCVPixelBufferMetalCompatibilityKey: true] as [String: Any]
对于每一帧,它从池中创建一个新的像素缓冲区,将其包装在缓存中的金属纹理中,如下所示
let pixelFormat = MTLPixelFormat.bgra8Unorm_srgb
var optionalMetalTexture: CVMetalTexture?
err = CVMetalTextureCacheCreateTextureFromImage(
kCFAllocatorDefault,
metalTextureCache, // object prop
pixelBuffer,
nil, // texture attributes
pixelFormat,
exportSettings.width,
exportSettings.height,
0, // planeIndex
&optionalMetalTexture)
guard err == noErr, let metalTexture = optionalMetalTexture else {
fatalError("Failed to create metal texture wrapper from pixel bufffer \(err)")
}
尝试:更改纹理描述符
由于我是从CVPixelbuffer
with创建我的金属纹理CVMetalTextureCacheCreateTextureFromImage
,我不知道如何设置它的属性并使其成为多样本。
尝试:尝试H264
没有改变任何东西。还尝试使用带 alpha 的 HEVC 仅更改 alpha 质量,但没有任何变化。
尝试:启用多重采样
我能够让我的管道接收我想要的多重采样,但是由于没有为多重采样设置纹理而崩溃(更准确地说是 MTLTexture 类型.2DMultisample
(文档)
尝试:复制MTLTexture
Core Video创建的
我尝试使用 aMTLBlitCommandEncoder
将 Core Video 提供的纹理复制到我设置的具有正确属性的纹理中。但它崩溃告诉我属性不匹配。
我开始认为没有解决方案?
解决方案
启用多重采样是正确的想法。以下补丁显示了如何启用它。
--- a/HEVC-Videos-With-Alpha-AssetWriting/HEVC-Videos-With-Alpha-AssetWriting/AppDelegate.swift
+++ b/HEVC-Videos-With-Alpha-AssetWriting/HEVC-Videos-With-Alpha-AssetWriting/AppDelegate.swift
@@ -32,6 +32,8 @@ class AppDelegate: NSObject, NSApplicationDelegate, SCNSceneRendererDelegate {
let renderer = SCNRenderer(device: nil, options: nil)
var lampMaterials: SCNNode!
var metalTextureCache: CVMetalTextureCache!
+ let msaaSampleCount = 1
+ var metalMultisampledTexture: MTLTexture!
// Export
var frameCounter = 0
@@ -61,6 +63,18 @@ class AppDelegate: NSObject, NSApplicationDelegate, SCNSceneRendererDelegate {
fatalError("Cannot create metal texture cache: \(err)")
}
metalTextureCache = optionalMetalTextureCache
+
+ if (msaaSampleCount > 1) {
+ let textureDescriptor = MTLTextureDescriptor.texture2DDescriptor(pixelFormat: MTLPixelFormat.bgra8Unorm_srgb,
+ width: ExportSettings.width,
+ height: ExportSettings.height,
+ mipmapped: false)
+ textureDescriptor.usage = .renderTarget
+ textureDescriptor.storageMode = .private
+ textureDescriptor.textureType = .type2DMultisample
+ textureDescriptor.sampleCount = msaaSampleCount
+ metalMultisampledTexture = renderer.device!.makeTexture(descriptor: textureDescriptor)
+ }
}
/// Render next frame and call the frame completion handler
@@ -106,7 +120,14 @@ class AppDelegate: NSObject, NSApplicationDelegate, SCNSceneRendererDelegate {
let renderPassDescriptor = MTLRenderPassDescriptor()
renderPassDescriptor.colorAttachments[0].loadAction = .clear
renderPassDescriptor.colorAttachments[0].clearColor = clearColor
- renderPassDescriptor.colorAttachments[0].texture = CVMetalTextureGetTexture(metalTexture)
+ if (msaaSampleCount > 1) {
+ renderPassDescriptor.colorAttachments[0].texture = metalMultisampledTexture
+ renderPassDescriptor.colorAttachments[0].resolveTexture = CVMetalTextureGetTexture(metalTexture)
+ renderPassDescriptor.colorAttachments[0].storeAction = .multisampleResolve
+ }
+ else {
+ renderPassDescriptor.colorAttachments[0].texture = CVMetalTextureGetTexture(metalTexture)
+ }
renderer.render(atTime: currentPresentationTime.seconds,
viewport: ExportSettings.viewport,
commandBuffer: commandBuffer,
推荐阅读
- node.js - 启动 build.sh 文件后找不到 Npm 命令
- html - SVG 图标鼠标悬停动画
- php - 如何返回父级下的数组的子级?
- python - 如何将熊猫系列转换为数据框
- php - 为 Magento2 多供应商模块创建卖家用户帐户类型
- node.js - 在带有 CloudFlare 和 Nginx 的 Ubuntu 中托管的 Nodejs 应用程序中有时未定义客户端 IP
- mysql - 使用 Spring Boot 在 docker 容器中运行 Mysql
- c# - 向接口添加操作员支持(.NET 6 中的预览功能)
- python - 运行 python 脚本的多个实例并杀死它
- sockets - Adafruit Feather m4 与 featherwing esp32 问题同时接收 upd