Все сервисы Хабра
Сообщество IT-специалистов
Ответы на любые вопросы об IT
Профессиональное развитие в IT
Закрыть
Задать вопрос
emitrokhin
0
вклад
1
вопрос
1
ответ
100%
решений
Информация
Информация
Ответы
Вопросы
Комментарии
Подписки
Нравится
Пользователь пока ничего не рассказал о себе
Наибольший вклад в теги
Все теги (3)
Проектирование программного обеспечения
1 ответ
1 вопрос
0
Вклад в тег
Подписаться
2k
Искусственный интеллект
1 ответ
1 вопрос
0
Вклад в тег
Подписаться
15k
Лучшие ответы
пользователя
Все ответы (1)
Как обеспечить многопользовательскую поддержку в LLM?
emitrokhin
@emitrokhin
Автор вопроса
Друзья, всем спасибо за ответы. Как мне удалось выяснить, llama.cpp имеет серверный режим, который может обеспечить на одной машине параллельную обработку промптов.
Ответ написан
более года назад
Комментировать
Нравится
1
Комментировать
Оценили как «Нравится»
Закрыть
Лучшие вопросы
пользователя
Все вопросы (1)
Проектирование программного обеспечения
+1 ещё
Простой
Как обеспечить многопользовательскую поддержку в LLM?
1 подписчик
более года назад
454 просмотра
3
ответа
Войдите на сайт
Чтобы задать вопрос и получить на него квалифицированный ответ.
Войти через центр авторизации
Закрыть
Реклама
