Komrus

Для начала, llm-ки, начинают показывать свойства ИИ (т.е. начинают строить внутри себя модель, которая уже начинает себя как то вести а не просто синтаксически и даже логически обоснованный бредогенератор, т.е. хуже gpt35 если что) - это 10^26 flops вычислений, оценка приблизительная, когда читал про исследования на каких величинах это начинается, погрешность была на пару порядков. Мало того, десктопное железо тут не подходит, там требуется огроменное количество оперативной памяти GPU (про CPU даже не заикайся, на нем даже просто запуск - садомазохизм).

Посчитаю за тебя - одна современная видеокарта 4090 дает 80Тфлопс (даже пусть 100 но так неверно, потому что реалии на пару порядков хуже но проигнорируем это) это 10^14 операций в секунду, т.е. только чтобы однократно обучить одну llm (а это обычно делают много раз, меняя гиперпараметры и обучающие данные) тебе потребуется 10^(26-14) секунд или 10^12 секунд или 31709 лет на одной видеокарте... приобретая чуть больше видеокарт, процесс можно ускорить почти линейно (да там начинаются проблемы уже на тысячах gpu, но они решаются спец-железом, спец-алгоритмами и спец-специалистами, и главное первое и последнее с рынка как коровой слизали крупные компании)... к сожалению эта наиважнейшая и самая крутая технология нашего времени требует минимально для старта десятки миллионов баксов вложений а лучше сотни.

Но если все же хочешь взять готовое, разобраться и предоставить это как ваша работа то пожалуйста, гугл: gpt llm training from scratch detailed guide
первая же ссылка - https://youssefh.substack.com/p/training-gpt-2-fro...

Потому что его надо установить - Настройки - набор компонентов, добавьте нужное

По п2. Правильнее сказать не генподрядчик, а проджект-менеджер. Да, на больших проектах без него не обойтись., но он уже есть в составе команд (компаний) занимающихся большими проектами. Поэтому отдельно его искать - ну так себе идея. Хотя бы уже по уровню рисков, связанных со сроками и финансов.

Один фрилансер тоже может это всё потянуть (он же может передавать часть задач на аутсорц, партнёрам), но для такого большого проекта это не целесообразно и рисков больше, чем работа с компанией.

Ида. Нужно понимать, что большинство этих компаний не имеют в штате своих специалистов и работают с фрилансерами :). Это ни хорошо ни плохо с точки зрения разработки. Но для заказчика хорошо в плане ответственности и договорённостей.

И я бы не ставил задачу сразу "под ключ". Поэтапно будет лучше. ИМХО.

jitsi meet - не p2p но серверную инфраструктуру запускают у себя. Между клиентами связь прямая. На основе webrtc

Заббикс не силён в дашбордах. Если хочется чего-то сложного и/или красивого - лучше подключить Заббикс как датасорс к Графане и в ней сделать.

такое невозможно, т.к. я сильно сомневаюсь, что сетевуха в принципе даёт доступ к своей аналоговой части, да и напряжение там отличное от 5/3,5 вольт последовательного порта

на модеме есть USB, вот через него и подключайтесь, а если сильно хочется RS232, то есть USB-донглы и с ним

ПЛЮС: то, что есть нужный кабель, не означает что оно должно работать, ибо Ethernet и RS232 несовместимы электрически, а на всяких сетевых железках RJ45 используется в качестве консольного порта видимо из-за того, что таких портов у них навалом