Среди нейросетей, генерирующих изображения, есть те, которые работают онлайн (как Midjourney), а есть те, которые можно установить себе на пк и дальше безо всяких ограничений с ними играться. А есть ли что-то подобное в сфере текстовых ботов? Ну чтобы установил, скормил ей модель и пользуйся как угодно?
https://habr.com/ru/articles/728298/
Лови изучай,человек офигенную статью сделал.
Из своих наблюдений у меня стоит модель 65 вроде,на 128гб рамном сервере.Работает плюс/минус как офф чат гпт.
Как поиграться - можно.
Для работы - точно нет.
Судя по разговорам чят-жпт слишком дорогой в обслуживании. Там пол-лимона в день уходит на аренду оборудования в датацентре. Сомнительно что у кого-то дома стоит эквивалентное железо.
Иерокопус Таманский, ага, вот Даниил дал пример.
У нас на работе есть пара серверов, которые для аналога Copilot подняты - работает хуже, но жрут не меньше. Ещё и nvidia tesla внутри
