Задать вопрос
MaryRych
@MaryRych
нейронные-сети

Flowise, как подключить эмбендингс?

Пытаюсь развернуть локальную нейросеть по данной статье. https://habr.com/ru/companies/reksoft/articles/792496/

В flowise ошибка error 500 с жалобой на энбендинг и не возможность подключить модель. Прикладываю скрин хоста в local AI, LM studio и фото 2 нодов из flowise.
error:%20vectorsService.upsertVector%20-%20Error%3A%20Error%3A%20500%20failed%20to%20load%20model%20with%20internal%20loader%3A%20backend%20not%20found%3A%20/mp/localai/backend_data/backend-assets/grpc/bert-embeddings

6869032075e49413693098.jpeg
6869033344628550648085.jpeg
686903f7217cb408518877.jpeg
68690466e5ca0878981333.jpeg

Скажите, пожалуйста, как это можно решить. Можно ли реализовать эмбендинг через LM studio вместо open AI, или как реализовать корректно с local ai
  • Вопрос задан
  • 57 просмотров
5 комментариев
Подписаться 1 Простой 5 комментариев
Решения вопроса 1
@SWA512
Gamedev
Попробуйте AnythingLLM, он тоже умеет обращаться к локальным моделям LLM Studio. Там не надо настраивать ноды. Просто создаешь базу из своих документов и чатишься.
Ответ написан
Комментировать
Комментировать
Пригласить эксперта
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Похожие вопросы
Вакансии с Хабр Карьеры
Data Scientist
YADRO
Machine Learning Engineer (LLM)
Icons8
Deep Learning Engineer в команду Perception
Navio • Москва
Ещё вакансии