Задать вопрос
  • Компьютер с какими характеристика требуется для комфортного использования llama3.1:405b?

    @Air_Sev
    Хочу начать разбираться с генеративной текстовой сетью, но не знаю с чего начать. Основная цель иметь возможность дообучать сеть простыми фактами, или даже текстами. Но какие интерфейсы у ллама, как ими пользоваться где об этом почитать не понимаю. Есть ли какие-нибудь библиотеки, которые позволяют работать с сеть через промты, т.е. сказать ей "ремембе ... и далее ряд фактов о чем либо" и она принимает это как комманду и сохраняет в себе, либо кэширует эти сообщения, и сохраняет в отдельное время все вместе.

    и второй вопрос, хватит ли на это CPU? например двух 2696v4 с 8 каналами памяти или все таки современные процессоры как например 13900 но шина данных с оперативкой у 13900 будет меньше

    можно ли пообщаться с вами на эту тему?
    Написано