mayton2019, до этого еще очень и очень далеко, технологии еще пару раз сменятся.
Сейчас технологии общего ИИ на основе llm несут совсем не иллюзорные проблемы но из-за людей и только из-за них.
Самое простое для понимания - колоссальная безработица и перестройка структуры потребности работников и требований к их знаниям, он не заменит человека, а сделает его работу эффективнее, понизит требования к знаниям. Эта проблема глобальная, затронет всю планету. но самое важное, все те деньги, тот attention, что раньше эти уволенные работники несли своему государству - понесут трем-четырем компаниям, базирующимся в сша по техническим и финансовым причинам (это не решить, если страна лет 20 скупала технологии и ограничивала развития высокоскоростных вычислений во всем мире, монополизируя их у себя), роняя свою и без того умирающую экономику в ноль и поддерживая на плаву экономику сша еще десяток лет.
А тех кто способен конкурировать но достаточно глуп чтобы думать самостоятельно, запутают и задержат alignment-ом ии, пугая терминатором и смертью человечества.
Количество ядер изветсно из общих характеристик, в linux можно чуть больше подробностей получить командой clinfo, как интерпретировать информацию лучше гуглить по отдельности, ее там много и она актуальна для тех кто действительно глубого лезет в оптимизацию.
Обывателю достаточно подобрать нужные глобальные параметры (в т.ч. work size) - экспериментально, в конечном счете все будет зависеть от конкретного кода и использования оперативной памяти и возможностей по ее кешированию, т.е. если данные влезают в кеш десять раз (все сложнее), значит десять одновременно работающих ядер с этим данными будут работать на максимуме эффективности, а вот 11 будут в разы медленнее.
У меня только один вопрос, кому нужен человек для работы с 1С? это очень специфический язык, используемый только в одной системе, задачи в которой требуют понимание работы компании, финансов, законодательства (а в России оно ой не простое).. т.е. по определению знания должны быть выше среднего.
.. и такие простые задания! и этот человек не знает как такое задание решить О_о
ты бы хоть задумался на минутку что именно 'это все'?
тебе нужно собрать (скурпулезно, по каждой машине и по каждому пользователю) какие задачи и как решались, и вот их уже решай.
кнопки - сделать хорошо, не будет однозначно, либо если тебе повезет и все чем твои пользователи пользовались - это браузером (просто авторизация пользователей переносилась относительно легко).
Ты точно уверен что это оперативная память?
я запускал llama.cpp с квантизацией 4бит и скорость работы не менялась когда я включал и выключал профиль 2666 и 3600mhz 16cl и мне показалось что производительность процессора и количество ядер (наверное до некоторого предела) имеет большее значение.
Кстати, если я верно понял, выбрав процессор с поддержкой AVX512 можно получить 3х 30% (очень жаль) ускорение по сравнению с типовыми десктопными процессорами (AVX2). Очень жаль, что нет места где бы народ выкладывал свои бенчи, очень интересен бенч AMD Ryzen 5 7600X у которого есть AVX512 и он самый дешевый из тех у кого он есть и это не древний xeon
Если ты работаешь с флоатами, то да, скорость работы памяти должна влиять.
Осторожно, телеграм может добавлять лаг доставки сообщений до минуты, причем разные участники канала получают сообщение в разное время, чем больше реагирующих клиентов тем больше лаг (я замечал лаг уже от тысяч человек онлайн).
p.s. не строй на оперативности этого стратегию своего бизнеса.
для автора вопроса поясню, что облачные решения это не решение всех твоих проблем, зачастую это решение проблем если они внезапно совпали с уже решенными кем то.
Единственный хоть и туманный бонус облачных решений - это когда их использование не постоянно (редкое) а оплата за операции а не время, и нет необходимости разворачивать и поддерживать необходимые инструменты самостоятельно (часто облачные решения делают несовместимыми ни с чем чтобы вендорлочить клиентов на себе). На старте бывает, так получается, что получается выгоднее, но когда втягиваешься, обратно вылезти из ловушки становится поздно.
Лучше пока решай свою задачу сам, без понимания что и как это решать, использовать сторонние инструменты очень вредно (за эту ошибку будешь платить дорого), да в любом случае свое решение будет дешевле в целом во времени (а не сию секунду).
во время лагов видео ты можешь переключаться на другие приложения или закладки браузера?
нужно отличать приложения, работа которых зависит от скорости интернета и другие, которые не зависят.
найти каталог с кэшем (установить его на нормальной машине, прервать установку в процессе загрузки и найти файлы поиском.
если это apt то кэш в /var/cache/apt/archives если вручную положить туда файлы (с машины с той же версией linux) то apt install не будет и повторно загружать
Сейчас технологии общего ИИ на основе llm несут совсем не иллюзорные проблемы но из-за людей и только из-за них.
Самое простое для понимания - колоссальная безработица и перестройка структуры потребности работников и требований к их знаниям, он не заменит человека, а сделает его работу эффективнее, понизит требования к знаниям. Эта проблема глобальная, затронет всю планету. но самое важное, все те деньги, тот attention, что раньше эти уволенные работники несли своему государству - понесут трем-четырем компаниям, базирующимся в сша по техническим и финансовым причинам (это не решить, если страна лет 20 скупала технологии и ограничивала развития высокоскоростных вычислений во всем мире, монополизируя их у себя), роняя свою и без того умирающую экономику в ноль и поддерживая на плаву экономику сша еще десяток лет.
А тех кто способен конкурировать но достаточно глуп чтобы думать самостоятельно, запутают и задержат alignment-ом ии, пугая терминатором и смертью человечества.