GPU-unlock: Nvidia 3000 시리즈 카드의 FP/BF16 명령 발행 속도 제한 해제

GPU unlock 1.0.0은 Nvidia 3000 시리즈 GPU의 FP/BF16 명령 발행 속도를 전문가용 제품 수준으로 해제하는 Linux 커널 모듈임 NVIDIA 드라이버가 GPU에 연결되기 전 설정을 변경하므로 드라이버 자체를 수정하지 않으며, 새 드라이버가 나올 때마다 수동 패치를 적용할 필요가 없음 RTX 3090 Ti의 450W GEMM 테스트에서 BF16 처리량이 87.50에서 157.41 TFLOPS로 증가함. 실제 향상 폭은 카드와 전력 제한, 벤치마크 조건에 따라 달라짐 LLM 프리필은 14~36% 빨라졌다는 사용자 보고가 있으며, 확산 모델과 FlashAttention도 빨라짐. 메모리 대역폭에 제한되는 LLM 디코딩과 INT8 작업은 거의 변하지 않음 명시적으로 활성화해야 작동하며, 이미 드라이버에 연결된 카드는 건드리지 않음. RAM 절전 후 복귀 시 제한을 다시 해제하지만 최대 절전 모드는 지원 범위에 포함되지 않음 드라이버 수정 없이 명령 발행 속도 해제 GPU unlock 1.0.0은 CMP unlocker의 V67/PLM 기법과 UEFI 방식의 드라이버 로딩 전 실행 시점을 결합한 Linux 커널 모듈임 UEFI 애플리케이션이나 패치된 NVIDIA 드라이버가 아님 초기 커널 모듈로 실행하므로 NVIDIA 드라이버 버전이 바뀔 때마다 수동으로 패치할 필요가 없음 GA102, GA103, GA104, GA106에서 FP32로 누산하는 FP/BF16 FMA 연산의 명령 발행 속도를 두 배로 높임 제한 해제 후 속도 선택자를 기록하고, 수정하지 않은 NVIDIA 드라이버가 카드에 연결되기 전에 FLR을 수행함 SS0에는 BF16 전체 속도를 선택하는 0x88888888을 기록함 4비트 SS1에는 IMLA4 값 0x8을 기록함 벤치마크와 실제 작업 성능 RTX 3090 Ti의 dense 8192³ GEMM 테스트는 450W, FP32 누산, 5회 측정 중앙값 기준으로 다음 결과를 기록함 FP16: 87.46 → 118.39 TFLOPS BF16: 87.50 → 157.41 TFLOPS TF32: 42.58 → 82.61 TFLOPS 사용자 보고의 dense GEMM 향상률은 직접 비교할 수 없음. 각 보고가 자체 벤치마크를 사용하며 전력 제한의 영향도 큼 가장 낮은 향상률인 +25%는 전력을 225W로 제한한 카드에서 나옴 행렬 연산 비중이 큰 작업에서 속도가 향상됨 LLM 프리필은 #...