Flowise error 500?

Question

[MaryRych]

Пытаюсь развернуть локальную нейронку по этой статье этой статье
Все установила, собрала схему в фловайс, запустила ошибка

error:%20vectorsService.upserVector%20-%20Error%3A%20Error%3A%20500%20could%20not%20load%20model%20-%20all%20backends%20retumed%20error%3A%20(llama-cpp)%3A%20failed%20to%20load%20model%20with%20internal%20loader%3A%20could%20not%20load%20model%3A%20rpc%20error,%20code%20%C2%AB%20Canceled%20desc%20(llama-cpp-fallback)%3A%20failed%20to%20load%20model%20with%20internal%20loader%3A%20could%20not%20load%20modet%3A%20r%0Aerror%3A%20code%20=%20Canceled%20desc%20=%20%5Bpiper)%3A%20failed%20to%20load%20model%20with%20internal%20loader;%20could%20not%20load%20model%3A%20rpe%20error%3A%20code%20a%20Unknown%20descunsupported%20model%20type%20/models/text-embedding-ada-002%20(should%20end%20with.onx)%20(silero-vad:%20failed%20to%20load%20model%20with%20internal%20loader.%20could%20not%20load%20model:%20rpc%0Acode%20=%20Unknown%20desc%20=%20create%20silero%20detector:%20failed%20to%20create%20session:%20Load%20model%20from%20/models/text-embedding-ada-002%20failed:Load%20model%20/models/text-embedding-ada-002%20failed.%20File%20doesn't%20exist%20%5Bstablediffusion-ggmil:%20failed%20to%20load%20model%20with%20internal%20loader:%20could%20not%20load%20model:%20pc%20error.%20c%0AUnavailable%20desc%20=%20error%20reading%20from%20server:%20EOF%20(whisper):%20failed%20to%20load%20model%20with%20internal%20loader;%20could%20not%20load%20model:%20pc%20error:%20code%20=%20Unknown%20desc%20=%20stat/models/text-embedding-ada-002:%20no%20such%20file%20or%20directory%20(huggingface):%20failed%20to%20load%20model%20with%20internal%20loader:%20could%20not%20load%20model%0Aerror.%20code%20=%20Unknown%20desc%20=%20no%20huggingface%20token%20provided

Жалуется, как я поняла, на модель, которую пытаюсь подключить для Embeddings.
Кроме этого у меня не открывается доступ к данному хосту localhost:1234 , хотя LM studio работает

Comments

[Ronaldo]

Нет ссылки на статью.

В LLM Studio нужно включить API сервер:

[Refguser]

Если эту портянку привести в читабельный вид, то станет многое понятно. Например там чётко сказано "File doesn't exist"

[MaryRych]

Ronaldo, спасибо!
Не могла найти где, мучила deep seek по ошибкам и LM studio когда что-то не понимала, но этого мы с ним на пару так и не смогли. А по flowise модель отображается и про проверке через powershell и при просмотре на хосте localhost:8080/v1

[dim5x]

MaryRych, если вам не для обучения, чтобы понять как это всё работает, а нужно просто "поговорить" со своим документом, то рекомендую Google's NotebookLM.

[MaryRych]

dim5x, спасибо большое за предложение.
Хотелось бы попробовать пообучать на n-ом количестве литературы по определенный теме, создать своего рода «экспертную систему».

[MaryRych]

Upd: ошибка стала меньше, но жалоба на энбендинг сохранилась. Прикладываю скрин хоста в local AI, LM studio и фото 2 нодов из flowise.

error:%20vectorsService.upsertVector%20-%20Error%3A%20Error%3A%20500%20failed%20to%20load%20model%20with%20internal%20loader%3A%20backend%20not%20found%3A%20/mp/localai/backend_data/backend-assets/grpc/bert-embeddings

[dim5x]

MaryRych, поэтому и предложил данный вариант, он поддерживает до 50 источников и у него большое окно. Ну и качество локальной модели и "облачной" всё же не одинаково.

В любом случае, успехов.

[MaryRych]

dim5x, хм, спасибо
тогда стоит попробовать. Железо то в целом позволяет устанавливать в LM studio модельки до 100гб и они быстро отвечают, не так что минута до первого токена