← All reports

[JSC] Implement Float16 ops in x64 via F16C

Component: JSC x64 JIT | 60af4b3

Source/JavaScriptCore/assembler/MacroAssemblerX86_64.h

+ m_assembler.vcvtsd2ss_rrr(src, src, fpTempRegister);
+ m_assembler.vmovd_rr(fpTempRegister, scratchRegister());
+ Jump notMidpoint = branchTest32(NonZero, scratchRegister(), TrustedImm32(0xfff));
...
+ m_assembler.vucomisd_rr(fpTempRegister, dest);
+ Jump exactOrNaN = Jump(m_assembler.je());
+ m_assembler.sbbl_ir(0, scratchRegister());
+ m_assembler.orl_ir(1, scratchRegister());
+ exactOrNaN.link(this);
+ m_assembler.vmovd_rr(scratchRegister(), fpTempRegister);
+ notMidpoint.link(this);
+ m_assembler.vcvtps2ph_i8rr(X86Assembler::RoundingType::ToNearestWithTiesToEven, fpTempRegister, dest);

Source/JavaScriptCore/assembler/MacroAssemblerX86_64.cpp

+ bool hasF16C = isTranslated || (cpuid[2] & (1 << 29));
+ s_f16cCheckState = (s_avxCheckState == CPUIDCheckState::Set && hasF16C) ? CPUIDCheckState::Set : CPUIDCheckState::Clear;

Float16Array와 DataView.{get,set}Float16은 IEEE-754 binary16 값을 저장합니다. 반면 JS 연산은 double 단위로 수행되므로, 값에 접근할 때마다 double과 half 사이의 변환이 필요합니다. 이 변환은 round-to-nearest-even을 정확히 따라야 하고, 65520에서 Infinity로 overflow되는 경계와 subnormal 처리도 올바르게 다뤄야 합니다. 한편 half NaN을 double로 확장하면 sign과 payload가 그대로 유지됩니다. 그래서 결과가 impure NaN 범위에 들어갈 수 있고, boxing 전에 반드시 purify해야 합니다.

JSC는 이런 접근을 Baseline/DFG/FTL에서 inline code로 생성하거나 by-val inline cache를 통해 처리합니다. 이때 by-val inline cache는 runtime에 생성되는 stub으로, macro assembler의 FP temp register를 거쳐 element를 변환합니다. F16C는 선택적인 x86 extension이므로, 새 경로는 CPU feature probe 결과에 따라 선택됩니다.

이 commit에는 X86Assembler encoding이 새로 추가되었습니다. 대상은 VCVTPH2PS, VCVTPS2PH, memory operand 형태의 VPINSRW/VPEXTRW, SBB, 그리고 three-byte VEX helper입니다. 또한 기존에 UNREACHABLE 상태였던 MacroAssemblerX86_64 helper들이 구현되었습니다. convertDoubleToFloat16, convertFloat16ToDouble, loadFloat16, storeFloat16, move16ToFloat16, moveFloat16To16이 여기에 해당하며, 새로 추가된 s_f16cCheckState가 활성화 여부를 결정합니다. FTL 쪽에서도 PutByVal, EnumeratorPutByVal, DataViewSet의 lowering과 FTL::Output helper인 storeDoubleAsFloat16, f16round가 x64 경로를 사용하도록 변경되었습니다.

문제는 double → float → half 순서로 변환하면 rounding이 두 번 발생한다는 점입니다. 이를 보정하기 위해 store 시퀀스는 먼저 float 하위 12비트를 검사해 half midpoint에 해당할 가능성을 감지합니다. 이때 첫 번째 rounding이 inexact였다면, round-to-odd(sbb/or 1)로 float 값을 미세하게 조정합니다. 결과적으로 마지막 vcvtps2ph의 결과가 double에서 half로 직접 rounding한 값과 일치하게 됩니다.

이제 x64에서 Float16Array store/load, DataView get/setFloat16, Math.f16round가 software 변환 호출 대신 native instruction으로 컴파일됩니다. 그 대가로 Baseline과 FTL에는 hardware feature에 의존하는 codegen 경로가 새로 생겼습니다. 한편 by-val IC는 fpTempRegister를 덮어쓰기 때문에, IC 호출을 가로질러 live FP 값이 이 register에 남아 있지 않은지 확인하는 FTL test도 함께 추가되었습니다.