@pcdesign

Почему обрезается ответ у llama_index?

Использую библиотеку
https://github.com/jerryjliu/llama_index
Загрузил в нее парочку статей html про лампочки и электричество.
Вот код:
import os                                                                                                                                                                                         
                                                                                                                                                                                                  
from llama_index import GPTSimpleVectorIndex, SimpleDirectoryReader                                                                                                                               
                                                                                                                                                                                                  
os.environ["OPENAI_API_KEY"] = \                                                                                                                                                                  
    'sk-y2HsAvBKYJ0a'                                                                                                                                         
                                                                                                                                                                                                  
documents = SimpleDirectoryReader('data').load_data()                                                                                                                                             
index = GPTSimpleVectorIndex.from_documents(documents)                                                                                                                                            
                                                                                                                                                                                                  
# save to disk                                                                                                                                                                                    
index.save_to_disk('index.json')                                                                                                                                                                  
# load from disk                                                                                                                                                                                  
index = GPTSimpleVectorIndex.load_from_disk('index.json')                                                                                                                                         
                                                                                                                                                                                                  
res = index.query('расскажи что-нибудь')                                                                                                                                                          
print(res)

Все нормально работает. Только ответ дает обрезанный. Скрин:

INFO:llama_index.token_counter.token_counter:> [build_index_from_nodes] Total LLM token usage: 0 tokens
INFO:llama_index.token_counter.token_counter:> [build_index_from_nodes] Total embedding token usage: 6087 tokens
INFO:llama_index.token_counter.token_counter:> [query] Total LLM token usage: 4048 tokens
INFO:llama_index.token_counter.token_counter:> [query] Total embedding token usage: 22 tokens

Лампы накаливания и люминесцентные лампы являются двумя основными традиционными источниками света. Лампы накаливания преобразуют электрическую энергию в нагрев спирали до температуры в 2500-2800К, что вызывает ее свечение. Они питаются


Ну вот обрывается на "Они питаются"
  • Вопрос задан
  • 186 просмотров
Пригласить эксперта
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Похожие вопросы