Энтузиасты нашли способ снять программное ограничение скорости Tensor Core на видеокартах RTX 20, 30 и 40 серий. Автор поста u/panchovix пишет, что пиковая скорость RTX 4090 в этом режиме может вырасти примерно вдвое. В реальных генерациях и LLM прирост зависит от задачи.
Коротко
- GPU unlock меняет скорость отдельных операций Tensor Core. Количество ядер и объём видеопамяти остаются прежними.
- Заметный эффект возможен в обучении, обработке промпта LLM и некоторых задачах генерации.
- Пиковые цифры не показывают, насколько ускорится всё приложение. На результат влияют питание, пропускная способность памяти и конкретные вычислительные ядра.
- По словам автора, на RTX 50 такое ограничение тоже есть, но знакомый способ его снять закрыт новой архитектурой защиты.
- Проекты разблокировки неофициальные и рассчитаны на определённые поколения и конфигурации.
GPU unlock не разгоняет частоту и не добавляет видеокарте память. В посте на Reddit речь идёт об ограничении скорости конкретного режима вычислений на потребительских GPU. Обход неофициальный. Прирост зависит от того, использует ли программа именно этот режим.
GPU unlock снимает ограничение для отдельных операций Tensor Core
Tensor Core умножает числа с пониженной точностью — например, FP16, BF16 или FP8 — и складывает результат. Режим накопления FP32 помогает сохранить точность вычислений. По объяснению u/panchovix, на потребительских картах скорость такого режима ограничена примерно половиной от режима с накоплением FP16. Обычные вычисления FP32 на CUDA-ядрах ограничение не затрагивает.
«RTX 4090 остаётся RTX 4090: она просто выполняет эти инструкции с той же скоростью, что и профессиональная карта» — так смысл разблокировки формулирует автор поста u/panchovix.
Количество SM, CUDA- и Tensor-ядер, а также объём VRAM после unlock не меняются. GeForce не превращается в профессиональную карту. Даже продукты на чипах одного семейства могут отличаться комплектацией: например, RTX 5090 и RTX PRO 6000 Blackwell построены на GB202, но у них разное число SM и разный объём памяти.
Пиковый прирост не гарантирует вдвое более быструю генерацию
В репозитории Ampere-программы gpu-unlock опубликованы измерения для RTX 3090 Ti: плотная матричная операция BF16 выросла с 87,50 до 157,41 TFLOPS, а TF32 — с 42,58 до 82,61 TFLOPS. Это замеры вычислительной скорости. Время генерации картинки или ответа чат-модели здесь не измеряли.
| Карта и задача | До разблокировки | После разблокировки | Что измеряли |
|---|---|---|---|
| RTX 4090, FP16/BF16 с FP32-накоплением | 165 TFLOPS | 331 TFLOPS | Пиковая скорость инструкций по данным u/panchovix |
| RTX 3090 Ti, BF16 GEMM | 87,50 TFLOPS | 157,41 TFLOPS | GEMM, медиана пяти запусков в gpu-unlock |
| RTX 3090 Ti, TF32 GEMM | 42,58 TFLOPS | 82,61 TFLOPS | GEMM, медиана пяти запусков в gpu-unlock |
| RTX 2080 Ti, FP16 с FP32-накоплением | 47 TFLOPS | 94 TFLOPS | Пиковая скорость по данным u/panchovix |
Автор репозитория gpu-unlock отдельно показывает, как результат зависит от типа операции. На RTX 3090 Ti BF16 GEMM вырос с 87,50 до 157,41 TFLOPS, а FP16 — с 87,46 до 118,39. После разблокировки карта может упереться в лимит мощности. Тогда реальный прирост окажется ниже пикового.
Где это может пригодиться креатору
По оценке u/panchovix, заметнее всего эффект может быть в обучении LoRA и fine-tuning, обработке prompt в LLM и некоторых задачах диффузионной генерации. В его сравнении RTX 6000 PRO была на 70–90% быстрее RTX 5090 при обучении diffusion LoRA с одинаковым batch size и использованием 25 ГБ памяти. Это результат для конкретных карт и сценария. Такой же прирост от unlock на любой GeForce никто здесь не обещает.
Для генерации изображений и видео автор приводит более скромную разницу. В одном варианте настройки RTX 6000 PRO опережала RTX 5090 примерно на 30–40%, а при FP16-накоплении — примерно на 15%. В LLM важно отдельно смотреть на обработку входного контекста и выдачу токенов. Prefill может ускориться, если он упирается в вычисления. Генерация токенов с batch size 1 чаще зависит от пропускной способности видеопамяти.
- Обучение LoRA и fine-tuning: возможен заметный выигрыш, если узкое место — затронутые операции Tensor Core.
- Prefill LLM: проверьте размер контекста и backend. Результат может различаться в vLLM и llama.cpp.
- Генерация с batch size 1: часто упирается в пропускную способность памяти, поэтому максимальный эффект не гарантирован.
- Игры, обычные CUDA-вычисления FP32 и целочисленные INT4/INT8-операции: сам unlock прироста не даёт.
На RTX 50 ограничение есть, но старый путь закрыт
По данным u/panchovix, ограничение FP32-накопления есть и на Blackwell. Но в этом поколении изменилась система доверенной загрузки. Вместо старого Booter за запуск прошивки отвечает FSP — отдельный RISC-V-процессор, который стартует до драйвера.
Автор ссылается на документацию ядра Linux: в Blackwell не участвуют SEC2, микрокод Booter и этап FWSEC-FRTS. Поэтому уязвимость, на которой основана разблокировка старых поколений, здесь неприменима. Tom’s Hardware тоже пишет, что доступные проекты рассчитаны на RTX 20, 30 и 40, а в реальных задачах прирост ниже пикового.
Это оставляет открытой возможность появления другого способа для RTX 50. Пока известная схема не работает. Для новой понадобится другая уязвимость в более защищённой цепочке запуска. По словам автора исходного поста, FP4 на Blackwell изначально не попадает под это ограничение.
Запуск эксплойта несёт отдельные риски
u/panchovix оспаривает утверждение, что разблокировка сама по себе «сожжёт» карту. Его аргумент такой: GPU по-прежнему работает в заданном лимите мощности. Если раньше нагрузка использовала 250 Вт из доступных 300 Вт, а после разблокировки стала использовать все 300 Вт, карта выполняет больше работы в пределах лимита. При этом она может нагреваться сильнее.
Короче, на «бесплатное удвоение скорости» всего AI-пайплайна рассчитывать не стоит. Сначала выясните, какие операции выполняет ваш backend и во что упирается задача: в вычисления, VRAM, пропускную способность памяти или лимит мощности. Потом уже решайте, оправданы ли неофициальные инструменты и связанные с ними системные риски.
Источники
gpu-unlock — README и замеры для Ampere
Turing-unlock — README и замеры для RTX 2080 Ti
A Canary in the Crypto Mine: Defeating Stack Protection in a GPU Secure Coprocessor
Nvidia RTX 20, 30, and 40-series GPUs hacked to remove a half-speed AI throttle
RTX 5090 Tensor Core Unlock: Why the 3090 and 4090 Trick Does Not Work on Blackwell
RTX PRO 6000 Blackwell vs RTX 5090 for AI
Источникreddit.com
