Приветствую.
Пользуясь DeepSeek, заметил, что часто бывает что-то типа «сервер занят...». Посмотрел на API, работает, но как-то не очень удобно пользовать через код. Может быть, вы знаете какие-то удобные GUI, куда можно было бы вогнать ключ, настройки и пользоваться нормально?
Ronaldo, для топовой модели дипсика понадобится около 1500 Гб видеопамяти, чтобы в полном объёме. Так что для обычного пользователя "локально" можно только UI.
https://openrouter.ai/
Можно этим пользоваться. Там сразу есть выбор - бесплатный вариант или платный от различных провайдеров. То есть сразу выбираешь модель и пользуешься UI через браузер.
Вот платные варианты (видно, где больше перегруженность серверов):
spoiler
Добавить свой ключ вроде как
можно
Но лично я этого не делал, единый счёт на все нейронки удобнее.
Меня тоже интересует эта тема. Но на openrouter.ai не работает что-то((( Пишет bad gateway при отправке запросов фришному дипсику. Кстати как оплачивать из России то? Наши карты же не поддерживаются. Не только этот сервис, а вообще. И сам Дипсик на офф сайте тоже оплатить нашими картами нельзя (там Пэйпал или Китайские платежки). Или там какой-нибудь ChatGPT. Есть же наверное уже сервисы которые выступают посредником в оплате зарубежных сервисов. Знаю таких много сейчас, просто для AI какие работают?
Ntari, некоторые нейронки (не все), точнее их провайдеры, не хотят иметь дел с РФ. Решается взаимодействием с openrouter.ai через VPN. Сам OpenRouter работает пока что без VPN, но тогда доступ будет не ко всем провайдерам.
weranda, каждый провайдер сам решает. Ведь провайдер это по сути хостер нейронки, на своём железе. То есть они скачали дипсик к себе локально, запустили и расшарили. Какие цены хотят, такие и устанавливают. А вы, соответственно, можете выбирать - пользоваться или не пользоваться, и кем именно. Лично для меня "чуть дороже" не считается, когда выбор между написанием своего UI и пользованием готового. А когда речь про стабильность, то для меня и "сильно дороже" перестаёт делать погоду.
Что касается конкретно дипсика, то его вообще можно использовать бесплатно даже через OpenRouter - поищите в списке "имя_модели (free)". Просто изначально же речь шла про то, что на бесплатном лаги. Так что приходится выбирать, это же рынок, и соотношение цена/качество не константа.
dollar, мало того что на бесплатном Дипсике лаги, так он еще и контекст имеет ограниченный! Я с этим сталкиваюсь уже не первый раз. Например я его стал использовать как личного диетолога: пишу ему свои приемы пищи, а он мне считает калории и дает рекомендации. Вроде все удобно, но в какой-то момент (обычно через несколько дней ежедневных записей) он пишет что лимит чата исчерпан и надо создать новый чат. При этом ему приходится повторно объяснять суть, мои параметры и все такое. Контекст полностью теряется, как и информация о каллораже за предыдущие дни. :( Вот это печалит.
Ntari, но OpenRouter можно клонировать чат, а потом подчистить лишние сообщения. Также есть доступ к параметрам, системному сообщению (всё статичное можно туда запихать). Довольно удобно.
Есть нюанс. Все диалоги хранятся локально (на устройстве), а не на сервере. Это и плюс, и минус.
Chatbox AI
Поддерживает API разных сервисов. Может подключаться и к Deepseek, и к Ollama, и к chatgpt.
Приложение есть на все популярные ОС, включая и мобильные.