Задать вопрос

Alfa_Torgovec

Лайки

  • Как заставить Deepseek r1 (8b,14b) отвечать по-русски?

    @rPman
    Это фича модели, сами разработчики об этом заявляют, что более менее адекватно она будет работать только с английским и китайским.

    Используй другие модели до и после, для перевода вопроса с русского на английский и обратно.

    И еще момент, 8b модель это дистиляция, у них конечно получилось нечто шикарное именно дистиляцией (особенно qwen модели) но все же 8b очень слабая модель, толку от нее будет мало.

    https://huggingface.co/collections/deepseek-ai/dee...

    Если тебя устраивала llama3.1 8b, то попробуй ее тюн на основе deepseek r1, говорят дистилированные модели стали неожиданно лучше чем то на чем они основаны, забрав у deepseek умение рассуждать по типу o1

    И еще момент, не пользуйся квантизацией для этих маленьких моделей, или хотя бы 8b, так как качество будет падать заметнее чем квантизация оригинальных больших

    Ну и чем больше весов будет у модели тем лучше, говорят deepseek-r1-llama70b очень очень хороша, и требования у нее такие что взять на vast.ai машину за дешево можно ею пользоваться на 'всю катушку'

    Ну и расуждающие модели очень по разному будут работать от разных промптов, а уж если будешь вмешиваться в рссуждения (условно останавливаешь периодически, и просишь эту или другую модель проверить рассуждения, подправить, вернуть первоначальный запрос и продолжить рассуждения)
    DeepSeek-R1-Distill-Qwen-14B, 8b квантизация 2x16gb vram, vllm, вопрос и ответ на английском, переведено гуглом

    Вопрос:
    У мальчика Пети три сестры — Алина, Марина и Катя, и два брата Сергей и Михаил. Сколько братьев у Алины?

    p.s. если что на такие вопросы даже старшие модели могут отвечать фигню, а gpt3.5 почти всегда отвечает бред, даже с лайфхаками

    Ответ:
    <think>
    Хорошо, мне нужно выяснить, сколько братьев у Алины. Давайте начнем с пошагового понимания проблемы.

    Во-первых, дана информация о том, что у Пети три сестры: Алина, Марина и Катя. У него также есть два брата: Сергей и Михаил. Итак, Петя — мальчик, и у него есть эти братья и сестры.

    Теперь вопрос в том, сколько братьев у Алины. Алина — одна из сестер Пети, поэтому она девочка. Чтобы узнать, сколько братьев у Алины, мне нужно подумать о том, кто ее братья.

    Упоминается, что у Пети два брата: Сергей и Михаил. Итак, с точки зрения Пети, у него есть два брата, кроме него самого, итого три брата, включая его самого. Но подождите, а Петя включен в список, когда мы говорим о братьях Алины?

    Нет, потому что Алина — сестра Пети, и мы смотрим с точки зрения Алины. Итак, с точки зрения Алины, ее братья — это другие братья и сестры мужского пола в семье.

    Учитывая, что у Пети есть два брата, Сергей и Михаил, это также будут братья Алины. Итак, у Алины есть два брата: Сергей и Михаил.

    Но подождите минутку, раньше я думала включить Петю в подсчет, но теперь я его исключаю, потому что мы смотрим с точки зрения Алины. Таким образом, общее количество братьев у Алины должно быть два.

    Однако иногда люди могут включать самого человека при подсчете братьев и сестер, но в этом случае, поскольку мы сосредоточены на братьях Алины, мы не включаем ее в подсчет. Она сестра, и мы ищем ее братьев.

    Итак, подведем итог:

    - Алина — сестра.
    - У нее есть два брата: Сергей и Михаил.

    Следовательно, у Алины есть два брата.
    </think>

    У Алины есть два брата: Сергей и Михаил.

    **Пошаговое объяснение:**

    1. **Определите братьев и сестер:**
    - Сестры: Алина, Марина, Катя (три сестры).
    - Братья: Петя, Сергей, Михаил (три брата).

    2. **Определите точку зрения Алины:**
    - Алина — сестра, поэтому она считает Петю, Сергея и Михаила своими братьями.

    3. **Посчитайте братьев:**
    - Петя — брат.
    - Сергей — брат.
    - Михаил — брат.
    - Всего: 3 брата.

    **Ответ:** У Алины три брата.
    Ответ написан
    6 комментариев
    6 комментариев