#

Добавлю, на основе нейросети, создали специальное (сложное) приложение chatgpt. которое позволяет подключать плагины, являющиеся источниками данных (подробно как именно openai обслуживает плагины не известно, есть только общие слова, так как решением о том когда вызывать плагин и какие данные в него слать принимает сама модель, но в этом и был смысл, ты не разрабатываешь приложение - ты описываешь его а модель сама разбирается по словесному описанию, как этим пользоваться).

Плагин это буквально классическое приложение с api, к которому будет обращаться chatgpt для наполнения данными вконтекст беседы (он тупо вставит возвращенные данные в беседу, но не покажет этого).

Таким образом chatgpt не только использует свою/свои большие языковые модели как память, но и позволяет использовать внешние источники информации причем максимально свободным образом, так будто там сидит человек и читает все что написано клиентом и разработчиком плагина и делает запросы.

p.s. напомню, gpt от openai и некоторые другие, могут одинаково хорошо работать как со структурированными данными так и со свободным текстом (ты можешь им json файлы слать, добавив к ним в начало выдержки из документации по их использованию) и попросить в ответ так же давать json, который уже можно будет отправлять 'тупым и устаревшим' приложениям, не умеющим думать но идеально отрабатывающим запросы в бд.

В LLM собственно все данные в самой нейросети и хранятся (в весах), либо в контексте.
+ Можно заставить нейросеть генерировать "просьбы" о получении данных и парсить их, чтобы сделать запрос к сторонней апишке.

Что выбрать в качестве промежуточного хранилища в проекте?

Redis таковое и есть.

Смысл в кешировании не в том, чтобы сканировать в Redis всё подряд, а чтобы взять данные по заранее известному ключу или двух-трёх максимум, но не более, ключей.
Кеширование имеет смысл тогда, когда количество попаданий в кеш него большое. Если для возврата ответа сервером необходимо совершить запросов по 120К записям, то у вас что-то не так.

обозреватель решений -> правый клик по решению -> свойства. Выбираешь общие свойства -> запускаемый проект. Один запускаемый проект -> AvaloniaApplication1.Desktop.

Попробуйте сторонний (не встроенный в винду) софт, например FAR Manager.
Точка в имени - некорректна. Сама винда такое не создаст, но почему-то не мешает другому софту такое создавать.
Виндовые команды в ваших примерах видимо ищут папку c именем "my-app" и пустым расширением.

Не администраторы (пользователи ОС не с правами администратора) не могут 'видеть разделы', им доступны только диски и каталоги, на которые выданы соответствующие права (по умолчанию на чтение доступ есть)

Можно убрать все буквы дисков (останется только системный C:) а диски примонтировать на каталоги (в управление дисками можно удалить букву у диска и добавить каталог), настроив на них соответствующие права.

p.s. для минимальной (не идеальной, можно обойти, заразив машину трояном) защиты данных от пользователей 'администраторов' можно воспользоваться встроенным шифрованием файлов (в свойствах каталога или файла можно указать что он зашифрован). Такие файлы будут доступны только из под аккаунта, создавшего их (внимание, без резервного копирования пользовательского профиля, там есть специальные встроенные методы для этого, его потеря будет означать потерю доступа ко всем зашифрованным файлам без возможности восстановления)

Я думаю, все, кто уже прочитал этот вопрос, начали с того, что задали себе вопрос "Накуа сейчас нужна XP"? У меня есть виртуалка с ней - но она нужна исключительно для работы старого ишака, потому что только с него можно зайти на морду управления старым интеловым кластером.

Друзья, всем спасибо за ответы. Как мне удалось выяснить, llama.cpp имеет серверный режим, который может обеспечить на одной машине параллельную обработку промптов.

Особенность любого проекта - это начало и его конец. Допустим вы уже начали свой проект этим вопросом. Теперь главное выделить критерий, по которому вы скажете "стоп, снято". Другими словами, нужно максимально конкретизировать цель вашего пет-проекта, чтобы проект не был вечным.

Имея критерий завершённости, нужно написать ТЗ. Так как "без внятного ТЗ, результат всегда ХЗ". Если вы не любитель академизмов, то оформлять по ГОСТам не нужно. Достаточно просто описать в преамбуле цели, описать границы проекта, уровень приемлемого качества и контрольные примеры для этапа приемки работ. На этом этапе технологический дизайн можно не делать, но чем детальнее сделать функциональный дизайн, тем лучше!

Имея на руках ТЗ можно приступать к этапу анализа технологий и описания архитектуры. Просто изучайте материалы (пресс-релизы айти-компаний, статьи на хабре, топики на технических форумах, записи выступлений на конференциях) на схожую тематику и смотрите какие технологии и архитектурные паттерны были использованы (и главное какая была озвучена аргументация выбора стека). Выбор делать по сочетанию "доступности", "популярности" (вам же потом этот пет-проект в резюме показывать), "дешевизны" для публикации готового решения.

Имея на руках проработанную задачу и выбранный стек технологий, остается обложится поисковиками с различными чатами ГПТ и "Just Do It"!!!

P.S. "изначально просто потреблял контент" - что за тиктоковщина??? Ты просто выбрасывал время своей жизни. Если материал интересен, то тут же повторяй на своем гитхабе. Если не интересен, то свайпай на следующий. Повторять до обретения просветления!

P.S.S. "Возможно проблема в том, что хочу реализовать одновременно все, и сделать причем это качественно" - выбрось из головы эту ерунду! Представители ведущих айти-компаний мира открыто говорят, что они всегда создают первую версию зная о том, что они ее точно выбросят и используют наработки в качестве черновика для следующей итерации попыток создания продукта. Ошибки делают все. Важно уметь их анализировать и исправлять!