Как поместить большую модель на нескольких видеокартах?

у меня почти нет опыта в тюнинге, llama.cpp пока не умеет, а дальше для каждой модели свой код для тюнинга, все используют transformers на python, гугли библиотеки

upd. вот посмотри этот проект
https://github.com/OpenAccess-AI-Collective/axolotl

Как поместить большую модель на нескольких видеокартах?

ExeLover, зависит от того зачем ты загружаешь модель в видеокарту, тюнить или только вопросики задавать

второе - llama.cpp

Docker или LXC?

VladlenO, атаковать хост систему естественно
с ходу ничего свежено не нагугливается, а старые вот пожалуйста
https://juggernaut-sec.com/lxd-container/
https://book.hacktricks.xyz/linux-hardening/privil... вот готовый код для эксплойта

Как синхронизовать бд с другой бд на другом сервере?

репликация по всем параметрам проще для реализации задачи автора вопроса.
любой другой метод будет сложнее либо будет создавать глюки.

Стоит ли работать в тех поддержке?

CityCat4, про ии, у тебя мне кажется ошибочное понимание современного ии.

Gpt шокирует именно тем, что перебирая большие объемы человеческого мусора, получилось внутри нейронной сети создать 'модель интеллекта', которая ведёт себя так, будто понимает смысл прочитанного, а в пределах контекстного окна даже может учиться.

Намекну, что практически вся отрасль it занимается поиском по данным, ответами на вопросы и обработкой гигантских массивов, давно. Естественно новый инструмент этим тоже займётся, но ещё он займётся теми задачами, которыми в принципе не могли машины заниматься. Это огромный пласт задач, которые даже не решались, ну к примеру, современный ии, если его правильно обучить, скорее всего способен работать с кодом, искать баги и уязвимости, исправлять их (есть исследования по работе gpt с кодом в режиме отладки, где машина читает код как бы исполняя его)... Эта задачу в принципе нельзя было бы решить ранее, не затраты бессмысленно большие ресурсы.

Как взаимодействовать с базой, если у тебя запущен вечный скрипт?

accountnujen, сахар, позволяет избавиться от global.
Например можно использовать класс исключительно статические мемберы и методы, т.е. как некий namespace, в пределах которого свои global.

Грубый пример, где полезно сразу мыслить инкапсуляцией, это когда вам внезапно понадобится работать одновременно с двумя базами данных, а у вас вся работа завернута в класс и создание второго экземпляра объекта не ломает работу первого (это естественно подразумевает не использование static для хранения, хотя и тут можно выкрутиться но это извращение)

p.s. кстати, как вариант подмены global для глобальных переменных - это функция, возвращающая обект, хранящийся в static переменных внутри, грубый пример:

function db()
{
  static $pdo=false;
  if($pdo==false) $pdo=new....
  return $pdo;
}

Как получить имя пользователя, который внес изменения в таблице?

Alexander Ivanov, разве гугл сообщает информацию о том КТО читает документ? там всякие неопознанные опоссумы рисуются

хотя, если щелкнуть курсором в документ, все остальные текущие читатели видят никнейм пользователя, это здесь и сейчас, при необходимости написать краулер и собирать информацию можно уже сейчас

Как получить имя пользователя, который внес изменения в таблице?

Alexander Ivanov,

это связано с безопасностью

я и пытаюсь понять с чьей безопасностью это связано? какого рода проблему может создать понимание КТО редактировал документ? особенно когда гугл может не отдавать никакой информации о пользователе кроме его id.

Автору вопроса нужно просто отслеживать изменения в документе с пометками что вот это одним человеком, а то - другим.

Стоит ли работать в тех поддержке?

CityCat4, не соглашусь и в то же время соглашусь

Облака уже как принцип стали главенствовать в мире, это намеренное усложнение, поддерживаемое как политически+экономически (поддерживаемые правительством монополии производства оборудования) так и безумной простотой, когда бизнес готов меньше заплатить сейчас за специалиста который все сделает правильно и предлагает решение - меньше капитальных затрат больше оперативных но потом, не плати специалисту, заплати облаку.

Блокчейн - да пук, но не в смысле технологии, а в идеологическом, слишком много странного на них возлагают, это очевидно что текущее общество тупо не готово принять децентрализацию.

Ну а про ИИ, это уже давно мейнстрим, последние лет 10 они влияют на все большие и большие отрасли человеческой жизнедеятельности, просто до некоторых пор этим занимались узкие специалисты, а теперь это стало достаточно рабочим, чтобы можно было пользоваться обычным программистам. И речь не про очередную библиотеку на пару задач, это само собой будет, а именно про открыт целый пласт методов решения задач на машие, к которым считанные годы до этого не было даже намеков на решение, а тут раз и и все как по волшебству. А изучать это нужно, именно потому что текущий ИИ все же не универсальный, у него есть очень значимые недостатки и проблемы, понимание которых на следующие лет десять определит целую отрасль в IT, в которую внезапно смогут войти уже не только технари но и гуманитарии (философы и лингвисты, это внезапно шокирует но 'правильно' составленный запрос может работать лучше чем составленный в лоб), так что изучать это нужно,..

spoiler

p.s. значит очередной говнофреймворк, который взлетает, подминает под себя отрасль, а затем отмирает через считанные годы учить надо, а на ИИ значит даже обращать внимание нет?

Malwarebytes заблокировал исходящие подключения uTorrent, где в Windows он их блокирует?

Обычно uTorrent/bitTorrenty это отдельное приложение не связанное с браузером. У них есть веб интерфейс их управления, этот интерфейс перестает работать или речь идет вообще, при запуске uTorrent у вас перестает работать любой браузер на любые сайты?

Как получить имя пользователя, который внес изменения в таблице?

можешь пояснить, почему информация о том, кто внес изменение в публичный документ - секретная?

Чем восстановить файлы Excel?

значит нельзя

Чем восстановить файлы Excel?

если тебе показывает каталог, то должна быть возможность восстановления, ни один sheets* не может быть восстановлен или ты поленился на них нажать*?

Чем восстановить файлы Excel?

чем восстанавливаешь?

Как быстро извлечь большой файл из .zst?

Маловероятно что у тебя такие требования. многогигабайтовый архив с таким огромным словарем упаковывался бы очень долго.

Удостоверься что у тебя именно памяти не хватает, это видно сразу, при распаковке компьютер начнет тормозить а диспетчер задач покажет нехватку памяти

Почему unserialize возвращает пустое значение?

Ипатьев, в логах конечно же
с textarea я не прав, просто я смутно помню свои мытарства по созданию какого то универсального отладочного механизма с минимальными потерями информации о тексте, все это фигня, json лучший в том плане что по умолчанию он все странное экранирует, это сразу бросается в глаза.

Почему unserialize возвращает пустое значение?

Ипатьев, по поводу отладки, настоятельно рекомендую вместо var_dump использовать json_encode, а для удобства, но с осторожностью добавить JSON_UNESCAPED_UNICODE, потому как именно с ним можно увидеть все не типовые символы unicode, все лишние пробелы в начале и в конце (строки var_dump не экранирует), переводы коретки dos \d и \r и прочие невидимые символы

И главное, не смотреть все это в браузере (textarea может не помочь), лучше нормальными редакторами пользоваться.

Veracrypt, шифрование всего SSD-накопителя - можно ли так делать?

Неплохо бы заметить что хотя информация о том, какие сектора свободные а какие нет и дает какую то информацию злоумышленник, но уровень безопасности понижается незначительно, что то типа вместо 10^100 перебора на 10^99 (числа взяты от балды).

Старая мат.плата Asus M4N68T, низкая скорость интернет?

а процессор какой был и стал?

Браузеры очень не эффективно работают с сетью (точнее веб приложения на javascript) я отлично помню как на asus eeepc 900 с очень слабым процессором celeron, нагрузка процессора во время загрузки youtube 480p была почти 100% (это без проигрывания, т.е. на одновременную подзагрузку и проигрывание видео уже не хватало, когда как просто плеером загруженное 720p mpeg видео и тем более xvid работало без тормозов).

750мбит это очень значимая скорость для процессоров 2010-2013 года.

Могут ли функции bios тормозить устройства Lenovo?

Не буду оформлять как ответ, потому что это больше размышления и теоретизирования.

Где то начиная с 2011-2013 года, начиная с intel чипсетов и материнских плат для их процессоров, в биос стали добавлять механизмы удаленного управления машиной, называется это по всякому, маскируется под security, и да, для серверных ревизий но многое что разрабатывалось для них, рано или поздно перекачивает на десктопные машины, с некоторым кастрированием функционала или полным сокрытием.
Не могу найти сейчас эту статью, какраз в этих годах, хакер, работая на крупную компанию (скорее всего нефте-газо-отрасль) изучал возможность создание гипервизора (системы виртуализации) с узким функционалом, собственно он такой и написал, очень небольшого объема, выступающего в качестве прослойки для устройств и работы с данными (полагаю для контроля утечек этих данных, как вариант), и с очередным обновлением биоса на материнских платах обнаружил то ли отказ работы своего гипервизора то ли значительное понижение проиозводительности, стал копаться, и обнаружил что такой гипервизор встроен в биос, т.е. все последующие версии машин уже содержат шпионский модуль, работающий с данными пользователя по своей логике. В качестве демонстрации возможностей (чтобы показать чего опасаться) он реализовал такой гипервизор, который сидел в биосе, защищал себя от перезаписи при обновлении биоса (он буквально скрывал свое наличие) и мониторил оперативную память на ключевое слово, при попытке ввести это слово в текстовом документе машина блокировала свою работу (т.е. умирала до замены флеш памяти выпаиванием)...

Итак, к чему все это, вполне возможно что какой то функционал официального руткита, поставляемого с материнской платой, можно отключить (чтобы запустить аналогичный функционал но от других вендоров) и это должно логично повысить скорость работы железа...

Но какой именно, как называется, есть ли он именно в твоем Lenovo,извини нужно изучать это на низком уровне. Я не нашел красивой статьи в которой все это бы было расписано.