[JSC] Implement Float16 ops in x64 via F16C
Component: JSC x64 JIT | 60af4b3
Source/JavaScriptCore/assembler/MacroAssemblerX86_64.h
Source/JavaScriptCore/assembler/MacroAssemblerX86_64.cpp
Float16Array와 DataView.{get,set}Float16은 IEEE-754 binary16 값을 저장합니다. 반면 JS 연산은 double 단위로 수행되므로, 값에 접근할 때마다 double과 half 사이의 변환이 필요합니다. 이 변환은 round-to-nearest-even을 정확히 따라야 하고, 65520에서 Infinity로 overflow되는 경계와 subnormal 처리도 올바르게 다뤄야 합니다. 한편 half NaN을 double로 확장하면 sign과 payload가 그대로 유지됩니다. 그래서 결과가 impure NaN 범위에 들어갈 수 있고, boxing 전에 반드시 purify해야 합니다.
JSC는 이런 접근을 Baseline/DFG/FTL에서 inline code로 생성하거나 by-val inline cache를 통해 처리합니다. 이때 by-val inline cache는 runtime에 생성되는 stub으로, macro assembler의 FP temp register를 거쳐 element를 변환합니다. F16C는 선택적인 x86 extension이므로, 새 경로는 CPU feature probe 결과에 따라 선택됩니다.
이 commit에는 X86Assembler encoding이 새로 추가되었습니다. 대상은 VCVTPH2PS, VCVTPS2PH, memory operand 형태의 VPINSRW/VPEXTRW, SBB, 그리고 three-byte VEX helper입니다. 또한 기존에 UNREACHABLE 상태였던 MacroAssemblerX86_64 helper들이 구현되었습니다. convertDoubleToFloat16, convertFloat16ToDouble, loadFloat16, storeFloat16, move16ToFloat16, moveFloat16To16이 여기에 해당하며, 새로 추가된 s_f16cCheckState가 활성화 여부를 결정합니다. FTL 쪽에서도 PutByVal, EnumeratorPutByVal, DataViewSet의 lowering과 FTL::Output helper인 storeDoubleAsFloat16, f16round가 x64 경로를 사용하도록 변경되었습니다.
문제는 double → float → half 순서로 변환하면 rounding이 두 번 발생한다는 점입니다. 이를 보정하기 위해 store 시퀀스는 먼저 float 하위 12비트를 검사해 half midpoint에 해당할 가능성을 감지합니다. 이때 첫 번째 rounding이 inexact였다면, round-to-odd(sbb/or 1)로 float 값을 미세하게 조정합니다. 결과적으로 마지막 vcvtps2ph의 결과가 double에서 half로 직접 rounding한 값과 일치하게 됩니다.
Significance
이제 x64에서 Float16Array store/load, DataView get/setFloat16, Math.f16round가 software 변환 호출 대신 native instruction으로 컴파일됩니다. 그 대가로 Baseline과 FTL에는 hardware feature에 의존하는 codegen 경로가 새로 생겼습니다. 한편 by-val IC는 fpTempRegister를 덮어쓰기 때문에, IC 호출을 가로질러 live FP 값이 이 register에 남아 있지 않은지 확인하는 FTL test도 함께 추가되었습니다.
Audit directions
- FP temp register 덮어쓰기. By-val IC와
convertDoubleToFloat16은 모두fpTempRegister를 거쳐 변환을 수행합니다. 따라서 FTL은 이들 호출을 가로질러 live 값을 이 register에 유지해서는 안 됩니다.ftl-by-val-ic-preserves-fp-temp-register.js가 높은 FP pressure와 무작위 register allocation 조건에서 이 동작을 검증합니다. 같은 시퀀스를 생성하는 나머지 경로도 모두 점검할 필요가 있습니다(Baseline, DFG, FTL put-by-val, enumerator put-by-val,DataViewSet,getByValWithThis). Register가 덮어써지면 잘못된 값이 기록되거나 boxing되는 상황으로 이어질 가능성이 있습니다. 아래 appendix의c57b5ce항목은GetByVal에서 발생한 같은 유형의 register clobber 사례입니다. - Encoding 정확성.
vexNdsLigThreeByteOp,vcvtps2ph_i8rr,vpinsrw/vpextrw의 memory 형태,sbbl_ir을 검토할 필요가 있습니다. 점검 대상은 operand 순서, VEX.L/pp/mmmmm 비트, REX 확장 register(xmm8+/r8+), addressing mode입니다. 상위 register에서 encoding이 잘못되면, 특정 register allocation 조건에서만 오동작이 드러납니다. - Feature 활성화 조건.
s_f16cCheckState는 AVX와 F16C를 모두 요구합니다. 다만 Rosetta 환경에서는 CPUID 비트 검사를 건너뜁니다. Rosetta가 F16C를 번역해 실행하면서도 CPUID로는 이를 노출하지 않기 때문입니다. 먼저 모든 호출 지점이supportsFloat16을 확인하는지 점검해야 합니다. 또한 hypervisor가 feature를 마스킹하는 경우도 살펴볼 필요가 있습니다. AVX는 가려졌지만 F16C나 AVX2는 여전히 보고되는 상황에서, 실제로 지원하지 않는 hardware에서 이 경로가 활성화되지 않는지 확인해야 합니다. - Tier 간 동작 차이. JIT와 LLInt의 결과를 differential하게 비교할 필요가 있습니다. 비교 대상은 NaN payload, impure 범위에 들어가는 widened half NaN(boxing 전에 purify되어야 함), tie 케이스, 65520 근처의 값입니다. 여기에 16-bit load/store의 주소 계산과,
move16ToFloat16/moveFloat16To16과 결합된 DataView byte swapping도 함께 확인해야 합니다.