Я не знаю вашу задачу. MiniGPT не даст ничего стоящего на мелких датасетах вроде Шекспира и одной видеокарты.
Чтобы модель вменяемо отвечала, нужны тысячи видеокарт и огромные датасеты.
Не выйдет, понимающие (плохо) текст модели начинаются от 1 гигабайта. Это сильно фильтрованные и сжатые производные от больших моделей. Потому что обучать модель на только на понимание текста (предмета) очень дорого. (просто предметную область нельзя обучить, нужные "начальные" веса "понимания" текста вообще)
Для Битрикс 24 полно нод. Но видимо вам нужен именно Bitrix CMS. Для n8n можно собрать схему которая будет заталкивать инфу в API битрикса, после перевода и подготовки.
Ни у одной бесплатной модели не заканчивался лимит. Я не уверен на 100% в MS Copilot, что у него нет дневного лимита, но он пока не попадался. Остальные модели официально полностью бесплатные (у некоторых есть "power-up" платные опции, вроде размышлений или исследовательских агентов).
Отказался от платного ChatGPT, потому что не увидел сильной разницы с бесплатными онлайн моделями.
Да и зачем платить за ChatGPT5, если у MS он бесплатный.
Нет такого, обычно прикидывают размер моделей и добавляют 0.5-1гб на код инференса. Я вижу вы давно выжимаете максимум из старой карты, это тупиковый путь. Проще рассмотреть покупку какой ни будь 3050 с 8гб. Иначе вместо работы у вас будет постоянная бесплодная возня со сжатием размеров.
Винда тоже может отжимать от 0.5 до 3гб VRAM просто по факту загрузки.
Рад помочь!
CLIP и VAE занимают очень мелкую часть просчета, если сборка принимает решение считать их на CPU, возможно это из-за малой VRAM.
Красным помечен блок LORA, эта подсеть может "заставить" считать изображение в том стиле в котором изначальный Flux1 не особо силен, например пин-ап или фантастика. Особенно это полезно для урезанных и слабых моделей. Так сказать компенсирует слабое качество и стиль.
Если 16 ОЗУ, можно просто не дождаться финиша.
Поставьте самую маленькую базовую модель, добейтесь от нее работы.
Forge кстати может чудить и без причины что то не запускать.
Как вариант поищите схемы для Low VRAM на ComfyUI, там полно таких наборов. Например этот - https://www.nextdiffusion.ai/tutorials/how-to-run-...
Попробовал по статье настроить, сложно как то выходит всё это повторять.
Попробуйте AnythingLLM, он тоже умеет обращаться к локальным моделям LLM Studio. Там не надо настраивать ноды. Просто создаешь базу из своих документов и чатишься.
Сам я сижу на юнити лет 10, поэтому не нейтрален. Вот ответ от Джемини: (в принципе с ним согласен)
Оба движка, Unity и Godot, являются мощными инструментами для разработки игр, но у них есть ключевые различия.
Unity
Преимущества:
Широко используется в индустрии, большое сообщество и множество учебных материалов.
Обширный Asset Store с готовыми ассетами.
Мощные инструменты для 2D и 3D разработки.
Поддержка C#, популярного и универсального языка программирования.
Хорошая производительность для сложных проектов.
Недостатки:
Модель лицензирования может быть сложной и потенциально дорогой для крупных проектов (хотя последние изменения смягчили некоторые опасения).
Редактор может быть ресурсоемким.
Godot Engine
Преимущества:
Полностью бесплатный и с открытым исходным кодом.
Легковесный движок и редактор.
Интуитивно понятная система сцен и узлов.
GDScript – простой в освоении язык, похожий на Python; также поддерживает C#.
Отлично подходит для 2D-игр и быстро развивается в 3D.
Отсутствие лицензионных отчислений или скрытых платежей.
Недостатки:
Меньшее сообщество и Asset Store по сравнению с Unity (но быстро растет).
Производительность в очень сложных 3D-сценах может уступать Unity, хотя это активно улучшается.
Меньше готовых интеграций со сторонними сервисами по сравнению с Unity.
Какой выбрать?
Unity часто предпочитают для крупных коммерческих проектов, особенно в 3D, благодаря его зрелости, обширным ресурсам и производительности. Если вы уже знакомы с C# и нацелены на создание сложных игр с использованием большого количества готовых ассетов, Unity остается сильным выбором.
Godot – отличный выбор для инди-разработчиков, тех, кто ценит открытый исходный код, или для быстрого прототипирования. Его простота и бесплатность делают его привлекательным для изучения основ разработки игр и для 2D-проектов.
Поскольку вы упоминали ранее интерес к Unity, он может быть для вас более привычным и предпочтительным стартом, особенно если вы уже имеете опыт работы с ним или планируете создавать проекты, требующие максимальной производительности и доступа к широкому спектру готовых решений. Однако, Godot стоит рассмотреть как альтернативу, особенно для небольших проектов или если принципы открытого ПО для вас важны.
Выбор между Unity и Godot зависит от ваших конкретных потребностей и целей проекта. Оба движка мощные, но имеют ключевые различия:
Unity:
Преимущества:
3D: Очень силен в 3D, продвинутый рендеринг, обширные инструменты для создания сложных сцен.
Производительность: Хорошо оптимизирован для крупных и требовательных проектов, предлагает продвинутые инструменты для профилирования и оптимизации.
Экосистема: Огромное сообщество, обширный Asset Store с готовыми ассетами, множество учебных материалов.
Платформы: Поддерживает более 25 платформ, включая основные консоли, ПК, мобильные устройства и VR/AR.
Язык: Использует C#, популярный и мощный язык программирования.
Индустриальный стандарт: Широко используется в индустрии, что делает его привлекательным для поиска работы.
Недостатки:
Кривая обучения: Может быть сложнее для новичков из-за обилия функций.
2D: Хотя 2D-возможности значительно улучшились, он все еще воспринимается как 3D-движок, адаптированный для 2D. Настройка pixel-perfect может потребовать больше усилий.
Ресурсоемкость: Более требователен к ресурсам компьютера для разработки.
Лицензирование: Бесплатен для начала, но есть пороги дохода/финансирования, после которых требуется платная подписка, особенно для команд.
Godot Engine:
Преимущества:
2D: Отлично подходит для 2D-игр, интуитивно понятная система координат (пиксели), выделенные 2D-инструменты.
Простота использования: Считается более легким для освоения, особенно для начинающих. Интерфейс проще и легче.
Открытый исходный код: Полностью бесплатен, без каких-либо отчислений или скрытых платежей. Исходный код доступен для модификации.
Языки: Поддерживает GDScript (Python-подобный, легкий в освоении), C# и C++. GDScript тесно интегрирован с движком, что ускоряет разработку.
Архитектура на основе узлов: Гибкая и интуитивная система сцен и узлов.
Легковесность: Менее требователен к ресурсам системы.
Недостатки:
3D: Возможности 3D значительно улучшились (особенно с Godot 4.x), но все еще могут уступать Unity в очень сложных и высокобюджетных 3D-проектах.
Экосистема: Сообщество и магазин ассетов меньше, чем у Unity, хотя и активно растут.
Консоли: Публикация на консоли может быть сложнее и часто требует сторонних разработчиков из-за лицензионных ограничений платформ.
Производительность в крупных проектах: Хотя производительность хорошая, для очень больших и сложных игр Unity может быть предпочтительнее из-за более зрелых инструментов оптимизации.
Кратко:
Unity часто выбирают для крупных 3D-проектов, если важна максимальная графическая производительность, доступ к огромному количеству ассетов и ориентация на стандарты индустрии, включая разработку под консоли. Учитывая ваш интерес к Unity, это солидный выбор для широкого спектра игр.
Godot отлично подходит для 2D-игр, инди-разработчиков, тех, кто ценит открытый исходный код, быструю итерацию и более низкий порог вхождения. Он также становится все более способным в 3D.
Поскольку вы отдаете приоритет разработке на Unity, он, вероятно, будет хорошим выбором, особенно если вы планируете работать над более крупными или 3D-проектами и хотите использовать преимущества его обширной экосистемы.
Чтобы модель вменяемо отвечала, нужны тысячи видеокарт и огромные датасеты.