Продолжаю делиться опытом запуска нейросетей локально. Поработал с видеокартами RTX 3060, 3090 и 5090, и вот мои наблюдения.

RTX 3060

На любых серьезных моделях работает очень медленно. Но отлично подходит для транскрибации аудио с использованием Whisper от OpenAI, справляясь с этой задачей крайне быстро. Также хорошо показывает себя в генерации аудиофайлов.

RTX 3090

На данный момент, это самое универсальное решение по соотношению цена/качество. 24 ГБ видеопамяти позволяют запускать почти любые модели до 30 млрд параметров (в Ollama с квантизацией). Скорость работы вполне приемлемая. На вторичном рынке RTX 3090 можно найти за 50-55 тысяч рублей, что делает ее отличным вариантом для энтузиастов нейросетей.

RTX 5090

RTX 5090, конечно, быстрее примерно в 2.5 раза, но и стоит в 5 раз дороже. Цены начинаются от 250 тысяч рублей. Она отлично подойдет как универсальное и быстрое решение для личного использования, если позволяют финансы.

Разница между 16 и 24 ГБ видеопамяти критична в контексте запускаемых моделей. Между 24 и 32 ГБ разница уже не так велика. Поэтому я бы выбрал RTX 5090 только при неограниченном бюджете.

Мой друг, моушн-дизайнер, приобрел RTX 5090 и утверждает, что для его задач она полностью оправдана, так как генерация происходит значительно быстрее, чем на RTX 3090.

Планы по видеокартам

В офисный сервер планируем добавить еще одну RTX 3090, чтобы одновременно запускать модели vision gemma3:27b и gpt-oss в vllm. Это покроет все наши кейсы использования LLM в интеграциях.

В будущем, возможно, приобрету еще одну RTX 3090 для запуска ComfyUI на сервере. Но пока это требуется нечасто, поэтому предоставляю доступ к видеокарте на своем компьютере нашим локальным интеграциям. Доступ закрываю только во время игр.

Финский инженер lukas.seaman за 200 дней построил 11-метровую яхту Helios 11, работающую на солнечной энергии. Судно может плавать бесконечно долго и потребляет меньше электроэнергии, чем блендер. Яхта оснащена солнечными батареями мощностью 6 кВт и развивает скорость около 7 узлов.

Google выпустила новую ИИ-IDE под названием Antigravity, и вот первые впечатления от использования. Самое привлекательное — Antigravity пока что абсолютно бесплатна со всем своим функционалом на MacOS, Windows и Linux. Google предлагает 50 бесплатных запросов каждые 5 часов, что является отличным способом привлечь внимание пользователей.

Что касается функциональности:

• Есть привычный редактор кода с автокомплитом и возможностью взаимодействия с ИИ-агентом. В целом, здесь нет ничего революционно нового, но хорошо реализована работа с артефактами и планирование задач. По функционалу напоминает Cursor, но требует доработки.


• Интересной особенностью является режим асинхронного программирования Inbox — панель для оркестрации агентов. Она визуально напоминает почтовый интерфейс, где можно ставить задачи разным агентам и отслеживать результаты в едином окне коммуникации, отдельно от основного кода. Это позволяет работать с несколькими проектами одновременно, назначая задачи параллельно или упорядочивая их в очередь.


• Еще одна полезная функция — интеграция с Chrome через расширение, которое позволяет агенту работать в режиме computer use. Агент может запускать приложения локально, поднимать сервер, автоматически переходить по страницам, тестировать элементы, делать скриншоты и т.д. Это выглядит более продвинуто, чем в Cursor.

Однако, интеграция с GitHub и Git пока оставляет желать лучшего, как и общая стабильность работы. На macOS иногда возникают лаги, а при использовании VPN у многих пользователей возникает бесконечная загрузка.

https://antigravity.google/

Мы часто выбираем браузер по привычке, не задумываясь, что настройки «из коробки» могут быть вежливым названием для тотальной слежки. В этом отчёте детально разобрано поведение популярных обозревателей: кто ограничивается проверкой обновлений, а кто превращает каждое движение мыши в отчёт для разработчиков.

Для объективности введена шкала уровней шпионского ПО — от чистого кода до «чрезвычайно высокого» риска. Пора выяснить, защищает ли ваш инструмент секреты или сливает их на сервера корпораций.

Инди-игра Necesse от Fair Games, топ-даун песочница с элементами колонии (смесь Terraria и RimWorld), достигла отметки в 2 миллиона проданных копий с декабря 2019 года. После релиза версии 1.0 пиковый онлайн увеличился вдвое, достигнув 29 500 игроков. Несмотря на это, игра остаётся относительно незамеченной: мало стримов и обсуждений в медиа.

Интересный кейс, показывающий, что успех возможен благодаря методичной работе, глубокому пониманию аудитории и жанра, а не только за счёт хайпа и стриминга.

История разработки:

* Соло-проект датского разработчика Mads Skovgaard, начатый в 2012 году.
* До декабря 2021 года разработкой занимался один человек.
* Mads Skovgaard был моддером RimWorld и использовал этот опыт в архитектуре Necesse.
* С 2022 года в команде 8 человек, включая COO Christian Andreasan.
* Игра изначально задумывалась как более дружелюбная к игроку версия RimWorld в плане управления колонией.

Факторы популярности:

* Системный дизайн: глубокая механика автоматизации, кооперативный режим, боссы, биомы и крафт — всё тщательно продумано.

Системный дизайн относится к проектированию правил и механик игры, которые взаимодействуют друг с другом, создавая игровой процесс.

* Агрессивная ценовая политика: $10 в раннем доступе (частые скидки до $5-7), а на релизе 1.0 сразу -50% (до $7.50). Команда ориентируется на модель вечной актуальности (evergreen), как у Terraria (тоже $10).
* Обновление графики в августе 2024: оригинальный арт был простым, но новый патч значительно улучшил визуальную составляющую и освещение, сделав игру более конкурентоспособной с точки зрения внешнего вида.

Necesse никогда не была хитом на Twitch или YouTube. Основной контент — это гайды и туториалы, которые, тем не менее, набирают просмотры. Команда сосредоточена на удержании существующих игроков, а не на вирусном продвижении.

Product-market fit через Terraria:

Product-market fit (PMF) — это степень соответствия продукта потребностям целевого рынка.

* 86.5% игроков Necesse также владеют Terraria (против 20% всех пользователей Steam).
* Terraria продала около 37.5 миллионов копий только в Steam.
* В положительных отзывах о Necesse слово "Terraria" упоминается чаще всего (даже чаще, чем Stardew Valley и Core Keeper).

Формула успеха: если Terraria продала десятки миллионов копий, игра в похожей нише по той же цене может достичь 2 миллионов — это логично при отсутствии прямых конкурентов.

Основные выводы:

* Десятилетие системной работы окупается: разработчик-одиночка может создать хит, начиная с работы на неполный день.
* Низкая цена в сочетании со стратегией вечной актуальности хорошо работают для глубоких песочниц.
* Визуальное обновление перед релизом версии 1.0 критически важно для привлечения массовой аудитории.
* Поиск аудитории смежной игры (Terraria) и предложение ей альтернативы — мощный фактор роста.
* Стримы и шумиха не обязательны, если продукт удовлетворяет потребности целевой аудитории.