[3] GPU-process `RemoteMesh` vertex-fetch OOB from unvalidated mesh layout
One narrow stride sends the GPU's vertex fetcher past its own buffer
renderer가 고른 stride와 capacity 값에 따라 GPU process 내부의 vertex fetcher가 mesh 자체 buffer의 끝을 넘어 읽게 됩니다. 이 영향을 기준으로 High로 평가했습니다. 다만 information leak으로 이어지는지는 fetch된 값이 공유되는 render output에 도달하는지에 달려 있습니다. deformation 경로에서는 write 가능성도 추가로 엿보입니다.
GPU 쪽 vertex fetch는 전달받은 buffer 기술 정보를 전적으로 신뢰합니다. 하드웨어는 offset, stride, index로 각 vertex의 주소를 계산한 뒤, 그 위치에 있는 데이터를 그대로 읽습니다. WebKit의 <model> backend에서는 web-content process가 각 mesh를 MeshDescriptor로 기술합니다. 여기에는 offset과 stride를 가진 vertex layout, format과 vertex별 offset을 가진 attribute, vertex/index capacity, 그리고 index 범위를 나타내는 part가 포함됩니다. 이 descriptor는 IPC를 거쳐 GPU process 쪽 수신자인 RemoteMesh로 전달되고, 다시 Metal 기반 renderer로 넘겨집니다. 이때 pipeline은 실제로 할당한 buffer 안에서 계산이 맞아떨어지는 layout만 하드웨어에 설정해야 합니다.
관전 포인트: 장악된 web-content process는 attribute보다 stride가 좁은 MeshDescriptor를 RemoteMesh에 전달할 수 있습니다. 그러면 GPU process가 자기 buffer의 끝을 넘어 vertex 데이터를 fetch하게 됩니다. deformation 과정에서는 buffer 끝을 넘어 write할 가능성도 존재합니다.
Unvalidated MeshDescriptor bufferStride in RemoteMesh::Update drives out-of-bounds AGX vertex-fetch read in the GPUP. Ensure incoming IPC values are validated.
Source/WebKit/GPUProcess/graphics/Model/RemoteMesh.cpp
LayoutTests/compositing/filters/model-element-update-mesh-invalid-geometry.html
Patch Details
이번 변경으로 세 가지가 추가되었습니다. 먼저 descriptor 자체의 일관성을 확인하는 stateless validator가 추가되었습니다. 다음으로 resource별 descriptor를 기억하는 상태가 도입되었습니다. 그래서 incremental update와 removal을 이전에 승인된 geometry 기준으로 검사합니다. 마지막으로 MESSAGE_CHECK가 메시지를 전달한 stream connection을 대상으로 하도록 변경되었습니다.
validator는 여러 static helper로 구성됩니다. vertexFormatByteSize는 각 vertex format을 byte 폭으로 매핑합니다. deformedAttributeByteSize는 deformation이 기록하는 최소 폭을 반환하는데, Position, Normal, Tangent, Bitangent는 12 byte, UV0부터 UV7까지는 8 byte입니다. indexByteSize는 index 폭을 반환합니다.
isValidDescriptor는 먼저 buffer count가 양수이고 capacity가 음수가 아닌지 확인합니다. 또한 bufferIndex/layoutIndex가 범위 안에 있는지, offset, stride, step rate가 음수가 아닌지도 검사합니다. 이어서 vertexCapacity가 0이 아닐 때 각 attribute의 폭이 bufferStride 안에 들어가는지 확인합니다. 이때 deformation data가 있으면 attribute 폭을 deformation 폭까지 넓혀서 비교합니다. 그리고 bufferOffset + offset + vertexCapacity * bufferStride에서 overflow가 발생하지 않아야 합니다.
isValidGeometry는 여기에 추가 조건을 둡니다. vertex data 개수는 선언된 buffer 수 이내여야 합니다. vertexCapacity == 0이면 0이 아닌 indexCount를 허용하지 않습니다. index buffer 크기 계산에서도 overflow가 없어야 하며, 모든 part의 indexOffset + indexCount * indexByteSize가 그 안에 들어가야 합니다.
상태 관리를 위해 RemoteMesh에 m_meshDescriptors가 추가되었고, key로는 TypedResourceId::hashValue를 사용합니다. updateModel은 hash sentinel인 INT64_MIN/INT64_MAX를 identifier로 받지 않도록 거부합니다. 처음 보는 identifier는 유효한 descriptor를 선언해야 합니다. 이 descriptor는 staging되어 같은 batch의 뒤쪽 항목에서도 참조할 수 있습니다.
반대로 이미 알려진 identifier는 delta update여야 합니다. 또는 저장된 descriptor와 완전히 동일한 initial update여야 하며, 이는 isSameDescriptor로 확인합니다. 이 경우 part와 data는 저장된 descriptor를 기준으로 검증됩니다. staging된 descriptor는 batch 전체가 검증을 통과한 뒤에만 commit됩니다. processRemovals는 backing이 성공을 보고하면 제거된 identifier를 삭제합니다. 한편 테스트에서 descriptor 필드를 serialize할 수 있도록 coreipc.js에 'long' -> 'int64_t' alias가 추가되었습니다.
권한이 높은 process가 client가 제공한 buffer layout을, 자체 일관성이나 이미 할당된 buffer와의 정합성을 확인하지 않은 채 하드웨어 소비 측으로 전달하는 패턴.
Background
이 코드가 있는 위치. GPU process는 WebKit에서 GPU 접근 권한을 가진 process입니다. WebContent process는 IPC로 GPU process와 통신합니다. WebContent process가 장악되었을 가능성을 전제해야 하므로, 들어오는 모든 값은 신뢰할 수 없습니다.
Stream IPC와 MESSAGE_CHECK.
빈도가 높은 rendering 메시지는 IPC::StreamServerConnection을 사용합니다. MESSAGE_CHECK 계열 macro는 수신한 메시지에 대해 조건을 검증합니다. 검증에 실패하면 메시지를 invalid로 표시하고, 메시지를 보낸 connection의 처리를 중단합니다.
Vertex layout.
mesh descriptor는 vertex buffer, layout, attribute를 선언합니다. layout은 bufferIndex, bufferOffset, bufferStride를 지정하며, stride는 연속된 vertex 사이의 byte 간격입니다. attribute는 semantic(Position, Normal, UV0…), format, 참조할 layout, 그리고 각 vertex 내부의 byte offset을 지정합니다. 예를 들어 Float32x3는 12 byte입니다. vertex fetcher는 vertex i에 대해 bufferOffset + i * bufferStride + attribute.offset 위치에서 sizeof(format) byte를 읽습니다.
Indexed drawing.
index buffer에는 vertex index가 UInt16 또는 UInt32로 저장됩니다. part(submesh)는 indexOffset부터 indexCount개의 index를 그립니다. 이때 GPU는 해당 index가 가리키는 vertex를 그대로 fetch합니다.
Deformation. skinning, blend shape, renormalization은 update 시점에 vertex별 attribute를 다시 기록합니다. position, normal, tangent는 float3로, UV는 float2로 기록됩니다.
Initial update와 delta update.
UpdateMeshDescriptor::updateType은 두 종류의 update를 구분합니다. initial update는 geometry를 선언하고 buffer를 생성합니다. 반면 delta update는 TypedResourceId로 지정된 기존 mesh resource의 데이터만 갱신합니다. resource 삭제는 processRemovals가 담당합니다. AGX는 Apple의 GPU 아키텍처 및 driver 계열이며, commit 제목은 OOB 접근의 위치를 AGX의 vertex-fetch 단계로 지목합니다.
Analysis
IPC validation이 누락되어 GPU 쪽 out-of-bounds read가 발생하는 문제입니다. 여기에 deformation을 통한 write 가능성과, 크기 계산에서의 overflow 하위 사례도 함께 존재합니다.
WebContent (compromised) GPU process
┌────────────────────┐ ┌──────────────────────────────────┐
│ UpdateModel( │ stream │ RemoteMesh::updateModel │
│ stride = 4, │ ─────────► │ before: forward as-is ───┐ │
│ Float32x3 attrs, │ IPC │ after: isValidGeometry │ │
│ index = 999, │ │ m_meshDescriptors│ │
│ 4000-byte vbuf) │ │ MESSAGE_CHECK -> kill │
└────────────────────┘ │ MeshImpl / WebMesh ◄──────┘ │
│ fetch 12 bytes at 999*4 │
│ -> runs past 4000-byte buffer │
└──────────────────────────────────┘
메시지는 왼쪽에서 process 경계를 넘어 들어옵니다. 패치 이전에는 geometry에 대한 검사가 전혀 없는 상태로 MeshImpl::updateModel과 WebMesh::updateMesh까지 도달했습니다. 게다가 RemoteMesh는 이미 승인한 geometry를 기록하지도 않았습니다. 구체적인 형태는 다음과 같습니다.
- attribute보다 좁은 stride. stride가 4 byte이고 attribute가 12 byte Float32x3이며, 1000개 vertex를 정확히 4000 byte가 뒷받침한다고 가정합니다. 이 경우 index 999에 대한 fetch는 byte 3996부터 12 byte를 읽게 됩니다. commit 제목이 가리키는 바로 그 형태이며, 테스트의 첫 번째 reject 케이스이기도 합니다.
- 음수 stride와 offset. 해당 필드가 signed 타입이어서 그대로 허용되었습니다.
- overflow를 유발하는 capacity.
vertexCapacity = 0x4000000000000000이면vertexCapacity * bufferStride로 인해 하위 단계의 모든 크기 계산이 wrap됩니다. - index buffer를 넘어서는 part 범위. index fetch가
indexCapacity바깥에서 수행됩니다. - attribute보다 넓은 deformation. 선언된 format과 stride가 더 좁은데 vertex마다 float3를 기록하면, 각 vertex slot을 넘어서 기록하게 됩니다. 마지막 vertex의 경우에는 buffer 끝을 넘어서게 됩니다.
- 상태 없는 incremental update. delta update가 알 수 없거나 이미 제거된 identifier를 대상으로 할 수 있었습니다. 또는 두 번째 initial update로 기존 mesh의 geometry를 좁힐 수도 있었습니다. 이 경우 새 데이터가 다른 descriptor 기준으로 크기가 정해진 buffer와 짝지어집니다.
1번의 read는 vertex별 storage 크기가 vertexCapacity * bufferStride라는 전제에 기반합니다. validator의 계산식과 테스트의 4000 byte vertexData가 이 전제를 뒷받침합니다. 정확한 공식은 WebKitMesh.mm의 allocation 지점에서 확인할 수 있습니다.
테스트는 IPC testing API로 RemoteMesh_UpdateModel을 호출하며, reject 케이스 10개와 accept 케이스 12개로 구성됩니다. 앞서 설명한 좁은 stride 형태를 비롯해, deformation이 기록하는 float3보다 좁은 deformed position, 그리고 제거된 mesh에 대한 delta update가 포함됩니다. 따라서 이 경로에 도달하려면 WebContent process가 이미 장악되어 있어야 합니다.
얻을 수 있는 read primitive는 GPU 쪽 OOB read입니다. 좁은 stride 케이스에서는 vertex마다 "attribute 폭 − stride" 만큼으로 범위가 제한됩니다. index 케이스에서는 indexCapacity를 넘어서는 part 범위만큼으로 제한됩니다. 다만 capacity 곱셈에서 overflow가 발생하거나 음수 stride가 허용되었다면, 훨씬 먼 범위까지 도달할 가능성이 있습니다.
fetch된 값은 vertex shading 단계로 전달됩니다. render buffer는 MeshImpl::ioSurfaceHandles에서 IOSurface send right 형태로 WebContent에 다시 공유됩니다. 따라서 over-read가 mesh 자체 Metal allocation 바깥 메모리까지 도달하고, 그 결과가 rendered output에 드러난다면 정밀도가 낮은 information leak 채널로 이어질 가능성이 있습니다. 그렇지 않다면 GPU fault나 GPU process crash로 끝납니다. 어느 쪽에 해당하는지는 두 가지 미확인 요소에 달려 있습니다. 하나는 WebMesh가 buffer 크기를 어떻게 정하는지이고, 다른 하나는 Metal robust buffer access가 fetch를 clamp하는지입니다.
deformation 케이스는 deformation이 client가 선언한 stride를 따라 기록하는 경우에 한해 범위가 제한된 OOB write로 이어질 수 있습니다. delta update 경로에서도 같은 종류의 read와 write가 발생할 수 있습니다. 이때 대상은 stale하거나 이미 제거된 descriptor 기준으로 크기가 정해진 buffer입니다. 이것만으로 GPU process의 sandbox를 벗어나지는 않습니다. 다만 renderer에서 GPU process로 넘어가는 escalation 단계에 해당합니다.
이 vulnerability는 WebContent와 GPU process 사이의 cross-process isolation을 약화시킵니다. GPU process의 보안 모델은 메모리 접근을 좌우하는 모든 IPC 필드가 server 쪽에서 검증된다는 전제를 둡니다. 그래야 장악된 renderer가 더 높은 권한의 process로 하여금 자기가 관리하는 allocation 바깥을 건드리게 만들 수 없습니다. 패치 이전에는 backing buffer와 맞지 않는 mesh layout이 GPU에서 OOB vertex-fetch read를 일으켰습니다. 이 read가 mesh 자체 buffer 너머까지 도달한다면, renderer에서 GPU process로 이어지는 chain에서 information disclosure 단계가 될 수 있습니다. 여기에 deformation 하위 케이스가 제약된 write를 더할 가능성도 있습니다.
Insight. validator는 소비 측의 주소 계산 모델을 그대로 재현해야 합니다. format 폭 테이블, deformation write 폭, index 계산이 모두 여기에 포함됩니다. 이런 중복 자체가 하나의 위험 요소입니다. vertexFormatByteSize와 deformedAttributeByteSize는 toMetal 매핑과 deformation 출력 타입을 손으로 옮겨 유지하는 사본이기 때문입니다.
남는 질문은 두 가지입니다. 먼저 패치는 part의 index 범위를 indexCapacity 기준으로 제한합니다. 하지만 indexData에 들어 있는 index 값이 vertexCapacity보다 작은지는 검사하지 않습니다. 그래서 범위 안의 part가 범위 밖 vertex를 가리킬 수 있는지는 backing 구현에 달려 있습니다.
다음으로 accept 케이스는 stride를 넘어서는 attribute offset과, stride보다 큰 bufferOffset을 허용합니다. 이 동작이 안전하려면 backing이 bufferOffset + offset + vertexCapacity * stride byte를 할당해야 합니다. 한편 INT64_MIN/INT64_MAX 검사는 부수적인 위험 하나를 드러냅니다. server 쪽 map의 key를 client가 고른 정수로 정하는 순간, hash table의 sentinel 값까지 IPC로 도달 가능해진다는 점입니다.
Audit directions
-
client가 구성한 buffer layout이
offset + (count-1)*stride + elementSize <= allocatedSize검증 없이 하드웨어 소비 측으로 전달되는 경우. 좁은 범위:RemoteMesh의 다른 진입점(updateTexture,updateMaterial,setEnvironmentMap,updateRenderBuffers)과WebKitMesh.mm의WebMesh코드를 점검할 필요가 있습니다. 특히UpdateTextureDescriptor의 width/height/mip/arrayLength 값이dataHandleshared memory의 크기 결정이나 copy에 쓰이는 지점을 살펴봐야 합니다. 판별 단서: descriptor 정수가 shared memory 크기에 대한MESSAGE_CHECK없이MTLBuffer/MTLTexture생성이나replaceRegion호출까지 도달하는 경우입니다. 더 넓은 범위: WebGPURemote*의 vertex/index buffer binding 경로와, GPUP 내부 WebGL command 경로입니다. 판별 단서: validation이 WebContent 쪽 wrapper에만 존재하는 상태에서 vertex descriptor나 draw-range 파라미터가 Metal로 전달되는 경우입니다. 가장 넓은 범위: Chromium의 GPU command buffer(vertex-attribute 범위 검사가 정확히 이 문제를 막고 있습니다), Android gralloc/SurfaceFlinger buffer descriptor, virtio-gpu host 쪽 command 파싱입니다. 판별 단서: 신뢰받는 쪽이 layout 계산을 직접 검증하지 않고 GPU 자체의 bounds 동작에 의존하는 경우입니다. -
서버가 초기 message만 검증하고, 수락한 geometry 정보는 따로 기록하지 않는 incremental update protocol. Narrow: 같은
RemoteMeshinterface 안에서 material 및 texture update에도 delta 형태가 있는지 확인할 필요가 있습니다. 또한m_meshDescriptors가 backing의 실제 상태와 어긋날 수 있는지도 살펴봐야 합니다. 예를 들어processRemovals가 실패하는 경우를 들 수 있습니다.removeModel(nodeIdentifier)가 descriptor map은 그대로 둔 채 node만 제거하는 경우도 마찬가지입니다. Wider: client가 고른 identifier를 key로 사용하고, 이후 message가 이전 상태를 전제하는 GPU process 객체 전반이 대상입니다. remote image buffer 재사용, cache된 display list resource, stream connection의 object heap 등이 여기에 해당합니다. Match tell: update 종류나 map 포함 여부에 따라 분기하면서, 생성 분기에서만 검증을 수행하는 handler. Widest: stateful wire protocol 전반으로 넓혀 볼 수 있습니다(HPACK/QPACK dynamic table, incremental font update, streamed glTF/USD scene delta 등). Match tell: delta를 자기 field 기준으로만 검사하고, 실제로 적용될 대상인 기존 상태와는 대조하지 않는 코드. -
Consumer의 크기 해석을 별도 table로 다시 구현한 validator. Narrow:
vertexFormatByteSize와deformedAttributeByteSize가toMetal(::WebGPU::VertexFormat)mapping과 일치하는지 확인해야 합니다.WebKitMesh.mm의 deformation kernel이 기록하는 type과도 맞는지 함께 살펴볼 필요가 있습니다. 한편indexData의 index 값이vertexCapacity로 제한되는 지점이 실제로 존재하는지도 점검 대상입니다. Match tell: deformation 과정의 write 폭이 validator의 항목보다 큰 semantic, 또는 client가 넘긴 index 값으로 vertex storage를 직접 indexing하는 경로. Wider: WebGPU.framework의 validation과 Metal의 실제 fetch 동작 사이의 차이를 살펴볼 수 있습니다. Match tell: 이를 사용하는 API와 compile time에 연결되어 있지 않은, switch 기반의 크기 table. Widest: 검증 후 전달하는 구조 전반에서 발생하는 parser differential 버그입니다. 한 library로 검사하고 다른 library로 decode하는 image decoder가 대표적인 예입니다. Match tell: 서로 독립된 두 코드가 동일한 untrusted field로부터 같은 범위를 각자 계산하는 구조.