← All reports

[JSC] UAF of JIT code: DFG/FTL DirectTailCall to a host function leaves the caller's CodeBlock unrooted during the call

HighJavaScriptCore DFG/FTL JITs: direct-call lowering,UAF

CVE: CVE-2026-86986 · Safari 27.2 · Released October 26, 2026 Impact: 악의적으로 조작된 웹 콘텐츠를 처리하면 Safari가 예기치 않게 종료될 수 있습니다 Apple's description: 메모리 관리를 개선하여 use-after-free 문제를 해결했습니다. Credit: 익명의 연구자

Severity: High | Component: JavaScriptCore DFG/FTL JITs: direct-call lowering, CallFrameShuffler tail-call frame replacement, GC CodeBlock liveness / jettison | 410ce8d | Bugzilla 318331

High. Tail call 최적화 경로 때문에, 대기 중인 ret이 돌아갈 machine code를 GC가 해제할 수 있었습니다. 페이지 script만으로 도달 가능한 control-flow UAF에 해당합니다. Apple이 밝힌 crash 이상으로 확장되려면, host call이 반환되기 전에 executable allocator가 해당 영역을 재사용해야 합니다.

JavaScriptCore의 optimizing JIT는 거의 모든 garbage collection 시점에 machine code를 폐기할 수 있습니다. 최적화된 코드에 내장된 가정이 더 이상 성립하지 않으면, GC는 해당 코드를 jettison하고 executable memory를 해제할 수 있습니다. 이때 안전장치 역할을 하는 것이 stack 상의 frame입니다. 코드가 아직 stack에서 실행 중인 CodeBlock은 frame을 통해 발견되고, 그 덕분에 살아남습니다.

문제는 proper tail call이 이 안전장치에 부담을 준다는 점입니다. Strict mode의 return f(x)는 callee가 실행되기 전에 caller의 frame을 callee의 frame으로 덮어씁니다. 그런데 생성된 코드가 이후에도 caller의 코드로 되돌아온다면, 이미 사라진 frame 대신 다른 무언가가 그 코드의 할당을 유지해야 합니다.

관전 포인트: 웹 페이지가 builtin 호출 도중 garbage collection을 유도할 수 있습니다. 이 GC가 builtin이 돌아갈 최적화된 CodeBlock 코드를 해제하면, renderer의 제어 흐름이 해제된 executable memory로 넘어가게 됩니다.

Source/JavaScriptCore/dfg/DFGSpeculativeJIT64.cpp

 
- if (nativeFunction && !vm().isDebuggerHookInjected()) {
+ if (nativeFunction && !isTail && !vm().isDebuggerHookInjected()) {
auto emitCallTarget = [&]() {
emitFunctionPrologue();
emitPutToCallFrameHeader(nullptr, CallFrameSlot::codeBlock);
...
 
- if (isTail) {
 
- emitStoreCallSiteIndex(callSite);
 
- CallFrameShuffler(*this, shuffleData).prepareForTailCall();
 
- emitCallTarget();
 
- ret();
 
- useChildren(node);
 
- return;
 
- }

Source/JavaScriptCore/ftl/FTLLowerDFGToB3.cpp

 
- if (nativeFunction && !vm->isDebuggerHookInjected()) {
 
- jit.store32(
 
- CCallHelpers::TrustedImm32(callSiteIndex.bits()),
 
- CCallHelpers::highWordFor(CallFrameSlot::argumentCountIncludingThis));
 
- CallFrameShuffler(jit, shuffleData).prepareForTailCall();
 
- emitCallTarget();
 
- jit.ret();
 
- return;
 
- }
auto* callLinkInfo = state->jitCode->common.m_directCallLinkInfos.add(semanticNodeOrigin, CallLinkInfo::UseDataIC::No, state->graph.m_codeBlock, executable);
callLinkInfo->setCallType(CallLinkInfo::DirectTailCall);

이번 수정에서는 두 optimizing tier에서 fast path가 하나씩 제거되었습니다. 두 곳 모두 같은 발상의 코드를 걷어낸 것입니다.

먼저 DFG의 SpeculativeJIT::emitCall에는 inline native-call 경로가 있었습니다. Direct call의 callee가 intrinsic이 없는 compile-time constant NativeExecutable이고 debugger hook도 주입되지 않은 경우, DFG는 call linking 대신 emitCallTarget lambda를 생성합니다. 이 lambda는 inline function prologue를 수행하고, 새 frame의 CallFrameSlot::codeBlock에 nullptr를 기록합니다. 이어서 host function을 C call로 호출한 뒤 epilogue를 실행합니다. 이 경로 안의 if (isTail) 블록은 tail position을 다음과 같이 처리했습니다.

  1. Call-site index를 저장합니다.
  2. CallFrameShuffler(...).prepareForTailCall()을 실행합니다.
  3. emitCallTarget()을 호출합니다.
  4. ret()을 생성합니다.

패치에서는 guard 조건에 !isTail이 추가되었고, isTail 블록은 삭제되었습니다. 그래서 tail call은 더 이상 inline 경로로 진입하지 않습니다.

한편 FTL의 LowerDFGToB3 안 DirectTailCall lowering에도 동등한 블록이 있었습니다. if (nativeFunction && !vm->isDebuggerHookInjected()) 조건 아래에서 call-site index를 argumentCountIncludingThis의 high word에 저장했습니다. 이후 prepareForTailCall()을 실행하고 emitCallTarget()을 호출한 뒤 jit.ret()을 생성하는 흐름입니다. Diff의 hunk header는 이 코드를 compileCompareStrictEq로 표기하지만, 이는 diff context가 만든 착시에 불과합니다. 실제로는 m_directCallLinkInfos.add(...)와 setCallType(CallLinkInfo::DirectTailCall) 바로 앞에 위치한 direct-call lowering 코드입니다. 패치에서 이 블록은 통째로 삭제되었습니다.

결과적으로 패치 이후에는 두 tier 모두에서 NoIntrinsic host function으로의 DirectTailCall이 일반 DirectCallLinkInfo 경로로 넘어갑니다. Host function으로의 non-tail DirectCall은 기존 inline fast path를 그대로 유지합니다.

  Before (tail position):               After (tail position):
  DirectTailCall → host fn              DirectTailCall → host fn
    └─► prepareForTailCall()              └─► DirectCallLinkInfo path
          └─► call hostFn  (inline)              └─► native call thunk
                └─► ret  → caller code                (kept alive via callee)

Commit에는 JSTests/stress/direct-tail-call-to-host-function-keeps-caller-code-alive.js도 추가되었습니다. 이 테스트는 --sweepSynchronously=1 --zeroExecutableMemoryOnFree=1 옵션으로 실행되며, 자세한 내용은 Analysis 섹션에서 다룹니다.

Proper tail call. JSC의 strict mode 코드에서 tail position에 있는 호출(return f(x))은 새 stack frame을 push하지 않습니다. 대신 caller의 frame을 재사용합니다. 그래서 callee가 실행을 시작한 시점부터 caller의 frame은 독립된 frame으로 존재하지 않습니다.

CodeBlock과 executable memory. CodeBlock은 함수별, tier별로 존재하는 JSC의 compilation 단위입니다. JIT machine code는 CodeBlock의 JITCode가 소유한 executable memory에 위치합니다. CodeBlock이 finalize되면 이 executable memory는 allocator로 반환될 수 있습니다.

GC 중 CodeBlock의 liveness. Collection 과정에서 JSC는 일반 heap reference나 stack 상의 frame을 통해 도달 가능한 CodeBlock을 살려 둡니다. Frame의 경우 GC는 각 frame의 codeBlock header slot을 읽는데, 이 slot은 conservative stack scan으로 찾아냅니다. 이렇게 발견되지 않은 CodeBlock은 dead로 판정되고, 그 코드는 해제 대상이 됩니다.

Frozen weak reference와 jettison. DFG와 FTL 코드에는 특정 객체에 대한 가정이 내장됩니다. 예를 들어 global 변수의 현재 값이 이에 해당하며, 이런 객체는 frozen weak reference로 유지됩니다. GC가 이 referent를 dead로 판정하면, 그에 의존하던 최적화된 CodeBlock을 무효화(jettison)합니다. 이후 해당 코드는 해제될 수 있습니다. 별도의 무효화 경로로 watchpoint도 있습니다. Global에 걸린 inferred-value watchpoint는 해당 global이 재할당될 때 발동하며, 이 경우에도 의존 코드가 jettison됩니다.

Host function. Host(native) function은 C++로 구현된 builtin입니다. String.prototype.repeat의 구현인 stringProtoFuncRepeat가 대표적입니다. JIT 코드는 host function을 실제 C call로 호출합니다. Host function은 메모리를 allocate할 수 있으므로, 실행 도중 GC를 유발할 수 있습니다.

DirectCall과 DirectTailCall. Callee가 compile-time constant인 호출을 나타내는 DFG node입니다. 보통은 DirectCallLinkInfo를 통해 link됩니다. 다만 non-tail position의 NoIntrinsic host function callee에 대해서는, DFG와 FTL이 Patch Details에서 설명한 inline C call을 대신 생성합니다.

CallFrameShuffler::prepareForTailCall(). 제어가 callee로 넘어가기 전에, 현재 frame을 그 자리에서 callee의 layout으로 재작성하는 JIT helper입니다. 인자, header slot, callee-save register를 모두 옮깁니다.

JIT executable memory에 대한 use-after-free입니다. 해당 영역을 대상으로 하는 ret이 아직 대기 중인 상태에서 GC가 그 코드 영역을 해제했고, 이후 제어가 그곳으로 반환됩니다.

  caller's DFG/FTL code              host function + GC
  ───────────────────────            ────────────────────────────────
  prepareForTailCall()
    caller frame → callee frame
    codeBlock slot := nullptr
  call hostFn ─────────────────────► stringProtoFuncRepeat(n)
   [ret addr → caller's JIT code]      allocates MBs → full GC
                                        caller CodeBlock: no frame root
                                        weak ref dead → jettison → free
                   ◄───────────────── ret
  ret lands in freed JIT memory  ✗

왼쪽 열을 위에서부터 따라가 보겠습니다. 먼저 prepareForTailCall()이 caller의 frame을 callee의 frame으로 덮어씁니다. 이어서 emitCallTarget()이 inline prologue를 실행하고 emitPutToCallFrameHeader(nullptr, CallFrameSlot::codeBlock)을 수행합니다. 이 시점부터 stack 상의 어떤 frame도 caller의 CodeBlock을 가리키지 않습니다. Caller의 frame은 이미 덮어쓰여 사라졌고, 새 frame에는 "CodeBlock 없음"이 기록되어 있기 때문입니다.

다만 아직 callee로 jump한 것은 아닙니다. 생성된 코드는 caller 자신의 JIT 코드 안에서 host function으로 실제 C call을 수행합니다. 이 call은 return address를 push하는데, 다이어그램의 대괄호 화살표가 바로 이것이며 caller의 machine code를 가리킵니다. emitCallTarget() 뒤에 생성된 ret 역시 같은 코드에 속합니다. 즉 caller는 frame을 포기했지만, 반환 경로에는 여전히 caller의 코드가 남아 있는 셈입니다.

GC는 이 상황을 고려하지 않습니다. Commit message와 테스트 주석에 따르면, JSC의 conservative stack scan은 CodeBlock JIT 코드를 가리키는 return address를 root로 취급하지 않습니다. Scan은 codeBlock slot 값을 찾는데, 지금 상황에서 유일하게 해당되는 slot에는 nullptr가 들어 있습니다. 오른쪽 열은 그 상태에서 host function 내부에서 GC가 시작되고, caller의 CodeBlock이 root 없이 발견되는 과정을 나타냅니다.

Root가 없다는 사실만으로 코드가 해제되지는 않습니다. CodeBlock을 죽이는 계기가 별도로 필요한데, 그 역할을 frozen weak reference가 맡습니다. 그 시점에 하나라도 dead 상태라면 GC는 caller의 코드를 jettison합니다. Synchronous sweeping이 켜져 있으면 코드는 즉시 해제됩니다. 이후 host function이 종료되면, 그 ret은 더 이상 caller의 소유가 아닌 executable memory로 제어를 넘기게 됩니다.

Stress test는 이 조건들이 매번 동일하게 성립하도록 구성되어 있습니다. 각 줄이 caller를 우연히 살려 줄 수 있는 요소를 하나씩 제거하므로, 일종의 재현 레시피로 읽을 가치가 있습니다.

  1. Watchpoint 경로 무력화. globalThis.h를 미리 두 번 할당해 global의 inferred-value watchpoint를 무효화합니다. 그래서 나중에 h를 null로 만들어도 watchpoint를 통한 jettison은 발생하지 않습니다. Jettison은 반드시 GC가 frozen weak reference를 dead로 판정하는 경로로만 발생해야 합니다.
  2. Tail caller 학습. 매 세대마다 new Function으로 새 strict-mode tail(n)을 생성합니다. 새 executable을 사용하므로, 이전의 jettison이 reoptimization heuristic에 누적되지 않습니다. tail은 홀수 n에서 globalThis.h(n)을 호출하고, 마지막에 return "a".repeat(n)으로 끝납니다. 이 부분이 NoIntrinsic host function인 stringProtoFuncRepeat로의 DirectTailCall입니다. 4,000회 반복하면 함수가 DFG/FTL로 컴파일되고, 이때 h의 현재 함수가 weak reference로 freeze됩니다.
  3. Weak referent 제거. globalThis.h = null을 실행하면, freeze된 함수 객체는 최적화된 코드의 weak reference로만 도달 가능한 상태가 됩니다.
  4. Stack 정리. scrub(2000)은 float 연산과 integer 연산을 섞어 재귀하면서, caller를 conservative하게 root할 수 있는 오래된 stack 값을 덮어씁니다. 또한 테스트는 tail의 argCountIncludingThis가 host callee의 frame보다 크지 않도록 유지합니다(둘 다 2). 그래야 shuffle이 기존 frame header를 완전히 덮어쓰고, caller를 root할 만한 codeBlock slot 값이 남지 않습니다.
  5. Host call 내부 allocation. tail((1 << 20) + (k << 18))은 짝수 분기를 타므로 h를 건너뛰고, repeat에 수 MB 크기의 문자열을 요청합니다. 그 결과 stringProtoFuncRepeat 내부에서 full GC가 강제됩니다. 이때 shuffle된 frame은 이미 caller를 root하지 않습니다.
  6. 해제를 관찰 가능하게 만들기. --zeroExecutableMemoryOnFree=1을 사용하면 stale return이 남은 바이트를 조용히 실행하는 대신 매번 재현 가능한 crash로 이어집니다.

마지막 flag는 기본 빌드의 동작에 대해서도 시사하는 바가 있습니다. 강제로 zeroing을 켜야 한다는 것은, 기본 설정에서는 해제된 영역에 stale 바이트가 남거나 재사용될 수 있다는 뜻입니다. 공격자가 다루게 될 조건이 바로 여기서 결정됩니다.

Primitive 관점에서 보면, 해제된 JIT executable memory로의 반환은 control-flow transfer에 해당합니다. 그 상한선은 ret이 실행되는 순간 해당 영역에 무엇이 있느냐에 달려 있습니다. 테스트처럼 영역이 unmap되었거나 zeroing된 상태라면 crash로 끝날 것으로 보이며, 이는 Apple이 밝힌 impact와 일치합니다. 반대로 host function이 반환되기 전에 executable allocator가 그 영역을 다른 JIT 코드에 할당하는 경우를 가정할 수 있습니다. 이 경우 제어는 관련 없는 코드 내부의 임의 offset에서 재개될 가능성이 있습니다. 그러면 renderer control-flow hijack 후보로 이어질 가능성이 존재합니다. 다만 이 bug만으로 read/write primitive가 주어지지는 않습니다.

Trigger에는 일반적인 페이지 script 이상의 조건이 필요하지 않습니다. 공격자에게 필요한 요소는 세 가지입니다. 첫째, DFG나 FTL이 tail position의 constant host-function callee로 컴파일하는 strict-mode 함수가 있어야 합니다. 둘째, GC를 강제할 만큼 allocate하는 host call이 필요합니다. 셋째, 그 순간 caller의 frozen weak reference 중 하나가 dead 상태여야 합니다.

Crash에서 제어된 code execution으로 확장되려면 executable memory 재사용 조건이 맞아야 합니다. 또한 hardening 특성에도 의존하는데, 이 부분은 제공된 source context로는 확인되지 않습니다. 영향 범위는 JSC JIT 코드가 실행되는 WebContent process로 한정됩니다. Renderer 수준을 넘어서는 영향을 주려면 별도의 sandbox escape가 필요합니다.

이번 fix는 GC가 return address를 root로 취급하도록 바꾸지 않았습니다. 대신 host function이 실행되는 동안 반환 경로에 caller 소유의 코드가 남지 않도록 호출 방식을 변경했습니다. Inline 경로가 tail call에 대해 닫혔으므로, host function으로의 DirectTailCall은 DirectCallLinkInfo 경로를 거치게 됩니다. Commit message에 따르면 이 경로의 native call thunk는 callee를 통해 살아 있게 유지됩니다. 그래서 host call 도중 GC가 발생해도, 반환될 코드가 소유자 없이 남는 상황은 더 이상 발생하지 않습니다.

Non-tail DirectCall은 inline fast path를 그대로 유지합니다. 이 경우에는 C call 이전에 shuffle이 caller의 frame을 덮어쓰지 않기 때문입니다. 바로 그 frame의 상실이 tail 변형에서 문제를 일으킨 지점이었습니다.

Tail-call shuffle이 frame의 codeBlock slot을 null로 만든 뒤에는, raw return address만이 caller의 코드를 살려 두는 유일한 근거였고, GC는 return address를 root로 세지 않습니다.

핵심 교훈: JIT가 자신의 frame을 파괴한 뒤 jmp 대신 call을 생성하는 경우라면, 반환 경로 위의 코드를 무엇이 살려 두는지 반드시 확인해야 합니다. Return PC는 GC root가 아니기 때문입니다.