Как найти endpoint у H2O GPT?

Question

[moyo_pochteniye]

Добрый день.

Есть такая штука как h2o gpt, которую можно поднять как локальный чат гпт.

https://colab.research.google.com/drive/13RiBdAFZ6...https://github.com/h2oai/h2ogpt/blob/main/docs/FAQ.md


Но я никак не могу понять, как через curl request послать туда сообщение.

INFO:     127.0.0.1:60305 - "POST /queue/join HTTP/1.1" 200 OK

Вот такое я вижу в сервер-логах когда посылаю туда сообщение, но никак не могу понять, как это сделать через консоль/постман.

Я хочу что-то по типу

curl -X POST \
  http://localhost:7860/chat \
  -H 'Content-Type: application/json' \
  -d '{"text": "What is 2+2?", "prompt": "Return me the solution", "max_length": 100, "temperature": 0.5}'

Есть дока, но не могу разобраться

https://docs.h2o.ai/h2o/latest-stable/h2o-docs/rest-api-reference.html

Answer 1

[rPman]

вот же дока с примерами https://github.com/h2oai/h2ogpt/blob/main/docs/REA...