Мечтаете запускать нейросети на своем компьютере для анализа больших объемов текста или сложных документов? В таком случае, объем VRAM и поддержка длинных контекстов становятся критически важными параметрами.

С выходом RTX 5060 Ti 16GB появилась интересная возможность: собрать систему с двумя такими видеокартами, получив в сумме 32 ГБ VRAM, затратив около $950. Возникает вопрос, как такая конфигурация покажет себя в сравнении с RTX 3090 (б/у, ~$900), которая обладает 24 ГБ VRAM и высокой пропускной способностью?

Автор провел тесты на реальных моделях (Qwen3 30B/32B), чтобы определить оптимальный выбор видеокарты для запуска LLM на компьютере с максимальной эффективностью, особенно при работе с длинными контекстами.