Как задать роль chatgpt langchain?

Question

[Renat871]

мне нужно подключить шаблон к chatgpt чтобы он соответствовал от имени прописанного в этом шаблоне и от его имени. но я никак не могу подключить его к langchain. к openai это делается вот так:

prefix_messages = {'role': 'system', 'content': template}

и подключается к openai.Competition.create, а через langchain я как только не пробовал – ничего не помогает.

вот мой код:

from langchain.agents import Tool, load_tools, initialize_agent, AgentType
from langchain.memory import ConversationBufferMemory
from langchain.chat_models import ChatOpenAI
from coinmarketcap_search import CryptocurrencySearchAPIWrapper

import config
llm = ChatOpenAI(
    temperature=1,
    streaming=False,
    max_tokens=900,
    openai_api_key = config.openai_api_key
)
tools = load_tools(["llm-math"], llm=llm)
crypto_search = CryptocurrencySearchAPIWrapper(coinmarketcap_api_key="65f06ec3-a650-4480-8c87-dce7396fb8db")
tools.append(Tool(
    name="Crypto Currency Search",
    func=crypto_search.run,
    description="Use this tool when you need to answer questions about Cryptocurrency prices or altcoins prices "
                "Input should be the Cryptocurrency coin name only or the ticker symbol"
))

memory = ConversationBufferMemory(memory_key="chat_history")
chain = initialize_agent(
    tools, llm,
    # agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION,
    agent=AgentType.CONVERSATIONAL_REACT_DESCRIPTION,
    verbose=False,
    memory=memory,
    agent_kwargs={
        'prefix': config.system,
    }
)

def search_by_prompt(prompt: str) -> str:
    try:
        response = chain.run(prompt)
    except Exception as e:
        response = str(e)
        suffix = "Could not parse LLM output: `"
        if response.startswith(suffix):
            response = response.removeprefix(suffix).removesuffix("`")

    return response

print(search_by_prompt('what is price of btc'))

когда спрашиваю "кто тьі?" - отвечает по шаблону, если о цене криптьі - то "Do I need to use a tool? No"

Comments

[Алан Гибизов]

Рекомендую вместо множества слов показать фрагмент кода, который по-вашему должен работать; а также приведите traceback ошибки.

Также обратите внимание, что уже приведенный фрагмент кода не является подключением к чему бы то ни было. Это просто создание ссылки на объект типа «словарь», содержащий пару ключей со значениями.

[Renat871]

Алан Гибизов, так в том то и дело что traceback`а нету. ИИ просто забьівает что у него есть плагиньі когда я подключаю шаблон

[Алан Гибизов]

Renat871, мне не понятно, какое отношение вопрос имеет к тэгу python. У вас проблема с python в вопросе не просматривается.
Пока вижу суть вопроса так: «я не разобрался и не хочу разбираться с API чатбота, читать Регламент местный тоже лень. Закину-ка я поток своего сознания, авось повезет».

[Renat871]

Алан Гибизов, а как я по Вашему должен разобратся с апи если я перепробовал все возможные варианты. Я думаю что здесь есть человек который сталкивался с такой проблемой и который подскажет что мне делать. Так что пока-что Ваш взгляд не верный

[Алан Гибизов]

Renat871, смотрите: есть интернет-сервис. Вы пытались получить доступ к этому сервису, используя его API. Он работает не так, как вы ожидали. Логично обратиться в поддержку этого сервиса. Но вы предпочли написать 40 тысячам подписчиков тэга python о ваших проблемах с малоизвестным им API, на авось, вдруг кто-то что-то подобное видел? Это называется тэг-спам. Убрал тэг python.
Кроме того, вы нарушаете п.5.17 Регламента. Вам следует обратиться в поддержку сервиса вашего чатбота, а не сюда.

[Renat871]

Алан Гибизов, а в каких случаях тогда надо обращатся сюда? я как не напишу вопрос так сразу мне пишут что я что-то нарушаю

[Модератор]

Renat871, Когда вы регистрировались, вы обещали выполнять Регламент.

Если вы будете продолжать нарушать Регламент, ваши вопросы могут быть удалены, а аккаунт заблокирован модераторами временно или навсегда.
Будьте благоразумны.

[Алан Гибизов]

Renat871, вы что, читать не умеете? Я же написал, что вы нарушаете и что вам надо делать.
Обратитесь в поддержку вашего чатбота!

А то, как правильно задавать тут вопросы, подробно расписано в регламенте местного ресурса, по ссылке внизу сайта «правила».

Answer 1

[Владимир Красносельских]

1) Для такого вида запросов верни agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION. в initialize_agent
2) Я так и не смог найти код CryptocurrencySearchAPIWrapper чтобы проверить работу и как там написан tool. Напиши где его взять - я может и помогу.
3) Обновись до последней версии Langhain - была там беда с интерпритацией (запуском задачи) из промпта.

Вот тебе рабочий пример, что тул заходит в функцию

from langchain.agents import Tool, load_tools, initialize_agent, AgentType
from langchain.memory import ConversationBufferMemory
from langchain.chat_models import ChatOpenAI
# from coinmarketcap_search import CryptocurrencySearchAPIWrapper


llm = ChatOpenAI(
    temperature=1,
    streaming=False,
    max_tokens=900,
)
tools = load_tools(["llm-math"], llm=llm)


def crypto_search(query):
  print('in tool')
  return 42


tools.append(Tool.from_function(
    name="Crypto Currency Search",
    func=crypto_search,
    description="Use this tool when you need to answer questions about Cryptocurrency prices or altcoins prices "
                "Input should be the Cryptocurrency coin name only or the ticker symbol"
))

memory = ConversationBufferMemory(memory_key="chat_history")
chain = initialize_agent(
    tools, llm,
    agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION,
    #agent=AgentType.CONVERSATIONAL_REACT_DESCRIPTION,
    verbose=True,
    memory=memory
)

def search_by_prompt(prompt: str) -> str:
    try:
        response = chain.run(prompt)
    except Exception as e:
        response = str(e)
        suffix = "Could not parse LLM output: `"
        if response.startswith(suffix):
            response = response.removeprefix(suffix).removesuffix("`")

    return response

print(search_by_prompt('what is price of btc'))

Вывод будет таким:

> Entering new AgentExecutor chain...
I should use the Crypto Currency Search tool to find the price of BTC.
Action: Crypto Currency Search
Action Input: BTCin tool

Observation: 42
Thought:I now know the price of BTC.
Final Answer: The price of BTC is 42.

> Finished chain.
The price of BTC is 42.

Так как на руках у меня нет кода CryptocurrencySearchAPIWrapper - не подскажу что там.

Теперь просто нужно тебе разобраться с недрами CryptocurrencySearchAPIWrapper.run. внути по идее из запроса тебе нужно понять запрашиваемую монетку и зарядить запрос в Api. Далее вернуть в результат из тула. Дальше GPT сам красоту делает.

Comments

[Renat871]

Спасибо за ответ но я уже решил проблему. Просто использовал стандартную библиотеку openai