https://huggingface.co/models?sort=trending
Идете вот сюда, и выбираете. Самое к чему требовательна модель просто для запросов - оператива (в идеале кнчн видеопамять, но можно и в обычной). Приблизительно - размер модели - это и есть требование к оперативе. Для страховки - умножить на 1.2. Т.е. если модель весит 10 гигов - то вам надо точно 12 гигов оперативы или видеопамяти. Тут еще зависит от кучи вещей (можно ли размазать в видео и оперативу, квантинизация, вот это все).
И важно - чисто для запросов есть упрощенная версия моделей (не помню как называется, там что то из разряда уже скомпиленных весов).
А вот если хотите обучать - то вам нужна сырая модель, очень много времени и хорошее железо. Никаких ноутов, маков. Только нормальный писюк, видяха хорошая чтобы молотить флоты, и запас времени.
Я у себя запускал mistral например на 32 гигах оперативы. Можете начать с нее.