Dimonchik, это видел. Обсуждения тоже видел, но на вопрос человека о запуске без 200 ГБ памяти никто толком не ответил. Не решили проблему с ошибкой CUDA.
Для личного использования, когда скорость не важна.
Для остального достаточно rugpt в разных размерах
Ни один ruGPT не сравнится с Балабобой, который теперь закрыт (он имел 3 млрд параметров, а тут целых 100). Даже Сбер с его демонстрационным сервисом на 1,3 млрд параметров выдает совсем слабые результаты.
Я допускаю, что полная версия Сбера с 13 млрд параметров может немного лучше, но чтобы получить доступ к Сберклауд, надо быть ИП или представителем организации.
