Задать вопрос
  • Какая видеокарта лучше всего для Llm в 2025 году?

    @rPman
    Скажу непопулярное.

    за 150т.р. можно приобрести три 16gb видеокарты, например 4060ti или 5060ti (в розницу правда они стоят чуть выше 55т.р. т.е. немного в бюджет не помещаетесь, но на ozon или aliexpress можно найти, правда гарантий ноль). Их производительность впримерно в полтора или даже на треть ниже топовых десктопных, в задачах LLM но все перекрывается ценой и возможностями, ведь это будет 48Гб!

    НАСТОЯТЕЛЬНО рекомендую выбирать nvidia, так как софт заточен и оптимизирован именно под них.

    upd. от цены в dns от 50т.р.

    Почему это тоже подходит, в некоторых (ЧАСТЫХ) случаях можно распределить нагрузку на оперативную память нескольких видеокарт чисто программными средствами. Например генерацию изображения распределить по видеокартам сложно (для изображений это не критично, но видео к сожалению требует, у меня не получилось, но я не пробовал еще copmify ui, там говорят можно). GPT LLM почти всегда можно распределить по видеокартам (vllm, llama.cpp), и практически без понижения производительности (даже несколько процентов добавится)

    Недостаток - материнскую плату с тремя 8x pci-e найти не просто (их цены от 30т.р. начинаются а скорее пришлось бы брать серверную, но там 16х полноценные), а это значит, иначе видеокарты будут работать на 4х pci-e подключении, и это может сказаться на производительности

    upd. материнка с 2 - 8х pci-e 3.0 и 1 - 16х pci-e 3.0 за 30т.р.
    Процессоры на этот сокет с 48 pci-e линиями от 67т.р.
    оперативки до 256гб (саппорт лист материнки), если брать наборы по 128гб порядка 35т.р. за каждый, т.е. 70т.р. за 256гб.
    Ответ написан
    Комментировать
  • Есть ли прога для фонового доступа к удаленному компьютеру?

    @rPman
    Побуду душнилой.

    При использовании серверных версий windows (того, куда ты хочешь удаленно подключаться), штатный инструмент удаленного управления RDP позволяет подключиться к новому сеансу а администратору подключаться к чужому (mstsc /shadown), так как это штатный механизм, никаких иконок в трее не будет, но будет запрос подтверждения в момент подключения
    Ответ написан
    4 комментария
  • Reverse engineering black box ML-модели?

    @rPman
    Вам бы с ИИ пообщаться, в отличии от гугла, оно ищет информацию заметно лучше, 'понимая' задачу

    Ответ - нет, это невозможно. Если заниматься условно перебором типовых структур, можно попытаться, подавая на вход зашумленные данные, делать какие то выводы о структуре, но только для простых моделей.

    Первая же ссылка на статью, она не даст ответ о методиках но там есть ссылка на пример взлома чего то типа персептрона.

    p.s. можно создать более сложную модель, которую можно попытаться обучить случайно (и не только, отдельный разговор как этот датасет создавать) сгенерированных входах и выходах взламываемой модели, но стоимость этого процесса будет значительно выше создания исходной.

    p.p.s. вот если бы структура модели была известна (точно) то можно даже некоторые веса извлекать (читал что первые слои GPT-шки извлекали)

    Ну и есть такое понятие - distilation, если структура модели примерно известна, можно вполне себе не дорого обучить, собственно deepseek так сделали
    Ответ написан
    Комментировать
  • Как с системного SSD диска, переместить нужные файлы на другой?

    @rPman
    Настоятельно рекомендую не пользоваться проводником (майкрософт это пример самой богатой компании мира, не способной сделать адекватный софт за многие годы своего существования), а использовать какой-нибудь адекватный файловый менеджер, например Total Commander или Far Commander

    Запускать этот менеджер нужно с повышенными правами (правая кнопка на ярлыке, запускать как администратор), в этом случае будет доступ ко всем каталогам, доступным администратору и не придется ломать права доступа к домашним каталогам пользователя на исходной системе.

    p.s. если пользователь исходной операционной системы в свойствах файла указал флаг - зашифрован (штатная фича ntfs), то прочитать этот файл не получится никак, нужен пароль к аккаунту этого пользователя.
    Ответ написан
    Комментировать
  • Какой способ подключения к VPS лучше?

    @rPman
    Исторически но забыто, машины в сеть объединяли утилитой socat (linux), она туннели что угодно во что угодно (например виртуальный ethernet tap через udp или tcp туннель)... без шифрования! Я поднимал через него vpn порядка 250мбит вообще практически без нагрузки на процессор (очень слабая vps-ка)

    Еще вариант, штатный ssh -w 0:0, умеет создавать как tun так и tap интерфейс, естественно с шифрованием и прочими плюшками, но это tcp туннель со всеми вытекающими от сюда проблемами с плохим интернетом

    ну и конечно любой другой vpn подойдет
    Ответ написан
    1 комментарий
  • Почему программы мылит, после подключения второго монитора?

    @rPman
    Скорее всего мылит потому что ppi у мониторов разный и масштабирование выбрано не совпадающее с их различием
    т.е. разница между 157 ppi / 108 ppi = 1,453703704 а масштаб у вас 150/100 = 1,5 (проценты получаем умножением на 100)

    Попробуйте поставить масштаб 145 (я сейчас в win11 в виртуалке проверил, не дает указывать дробные значения)
    Ответ написан
  • Можно ли зарядкой от ноутбука (с разъемом type-c) заряжать телефон (с разъемом type-c)?

    @rPman
    type-c это разъем, помимо всего нужно знать тип и класс usb, стоящий за ним.

    Если это usb2, то заряжать другие устройства он будет током не выше 2.8 ват мощности (по стандарту должно быть 0.5А ток но часто зарядные устройства выдают больше, но ограничивают 1А, что дает порядка 5 ватт мощности, что бы не пожечь устройства, не готовые к большему)

    Если это usb3 то начинается зоопарк стандартов подачи питания, но в общем подаваемое напряжение может контролироваться как принимающей стороной, так и отдающей (не видел красивого софта, позволяющего этим управлять). Мало того, тут еще тип кабеля начинает влиять на то, какой именно стандарт (и какая предельная мощность) будет передаваться. В общем устройства договорятся и будут работать без проблем (проблемы могут создать 'китайские' устройства или кабели, плюющие на стандарты, но все же это маловероятно).
    spoiler
    Например я заряжал один смартфон с помощью другого сматрфона той же модели и не только (xiaomi), при этом источником энергии автоматически становился то устройство, в которое было воткнут кабель первым или к примеру заблокированное устройство (а разблокированное - получателем)

    p.s. ответ на твой вопрос - можно, есть начальные стандарты подачи питания, которые поддерживают наверное все зарядники, но это считанные 10-20 ватт.

    У меня есть древний планшетник, с нестандартным разъемом для зарядного устройства (потерялся) но умеющий получать питание по usb (mini usb), так и живет, заряжаясь от первого попавшейся зарядки от смартфонов, которых уже не осталось
    Ответ написан
    Комментировать
  • Какое устройство можно взять для удаленного видеонаблюдения там где нет связи?

    @rPman
    Если у модема есть штатный разъем для внешней антены, то выносите ее наружу (подбирать по типу используемой связи и используемый радиодиапазон)

    Модем скорее всего USB, значит можно вынести его наружу на расстояние метр-два кабель не ухудшит работу (а может и до 5 метров проблем не создать, но это уже тесты требуют) и сделать персонально для модема свой герметичный ящик но не из металла а стекла/пластика/дерева.
    Ответ написан
    1 комментарий
  • Как настроить Firefox (или другой браузер), чтобы он открывал файлы в активной вкладке?

    @rPman
    Не получится. Это особенность современных браузеров, в лучшем случае можно было бы попробовать поправить их исходники, но это из пушки по воробьям.

    Самое простое делать по другому - использовать drag-and-drop файла в текущее окно браузера.

    Можно написать скрипт, например autoit, который зарегистрровать как приложение на открытие файлов html (с осторожностью, может что-нибудь еще сломаться из-за этого, особенно в windows) и которое будет просто симулировать нажатие кнопок открытия меню File, выбирать Open и вставлять имя файла.

    Еще вариант, написать расширение, которое будет на каждую открытую страницу ожидать команды из-вне, а внешний скрипт будет эту команду расширению давать, типа открой файл и скрипт будет делать location.href="file:///c:/Temp/test.html" (из обычных скриптов так делать не получится но расширения имеют доступ, на сколько я знаю)

    p.s. autoit проще всего
    Ответ написан
    Комментировать
  • Как лучше настроить DE и службы в Linux на слабом планшете-трансформере?

    @rPman
    Рекомендация, поставить дополнительно firefox, он с памятью лучше дружит, и конечно не открывать миллион вкладок... если какой то веб сайт не будет работать с ним (а я такое встречаю периодически, типа тот же skype работал онлайн только в chromium-браузерах) то установить чистый chromium (например из snap)

    Вроде xfce считается наилучшим выбором слабых машин, функционала и поддержки тача (плюс это все еще xserver а не глючный wayland, хотя кому как)... остальные варианты либо менее функциональные либо тяжелые, а у тебя всего 2гб

    штатная ubuntu заточена под сенсорное управление, большие кнопки для пальцев и т.п... но по мне так очень тяжелая (тормозная и кушает память)

    p.s. когда то очень давно на 1гб eeepc900 я ставил awesome de (есть в репах), маленький экран, очень мало требует памяти (кажется 50мб против 300мб ubuntu), все окна автоматом раскрывались fullscreen, но она заточена на клавиатуру, не думаю что кто то пилил в ней хорошую поддержку именно тача... попробовать вам ничего не стоит
    Ответ написан
  • Как восстановить Windows server 2008R2?

    @rPman
    системному диску присваивается почему то буква H
    все остальные проблемы от сюда, так как в реестре библиотеки ожидают C:

    Топать в реестр: HKEY_LOCAL_MACHINE\SYSTEM\MountedDevices там искать элемент \DosDevices\H и переименовать соответственно в C (значение не трогать)

    Если это недосутпно из сломаной установки, то загрузись в рабочую систему (какой-нибудь liveusb/livecd их тьма было на основе winpe) и от туда штатным regedit32 загрузи реестр \Windows\System32\config\SYSTEM (спросит имя - дай любое это только на текущий момент для отображения типа XXX) и редактируй уже XXX\HKEY_LOCAL_MACHINE\SYSTEM\MountedDevices

    p.s. надеюсь бакап из того что восстановили СДЕЛАЛ? все манипуляции проводить только после бакапа, и позже, когда починишь, сделай бакап еще раз
    Ответ написан
    Комментировать
  • Как сделать перенос данных с одного SSD на другой на Windows 10 на ноутбуке Acer Nitro 5?

    @rPman
    Одно время с ssd-шниками каждой компании поставляется (ссылка на сайт) утилита для совершения этой операции в один клик... например https://www.acronis.com/en-us/support/trueimage/2021/ лично я этим никогда не пользовался, мне достаточно загрузиться в linux с флешки и от туда совершить клонирование.

    И да, нужно помнить что windows может потребоваться обновление записи в UEFI биосе (ее можно сделать вручную, загрузившись с компакт диска/ usb с установщиком windows в режиме восстановления, но там нужно в командной строке шариться), почему это все еще всплывает, я все еще встречаю (и наверное будет чаще и чаще, спасибо 'майкрософту') ситуации, когда доступ к изменению UEFI загрузчика есть только из режима восстановления windows или из ее установщика (а linux или сторонние утилиты в windows не работают или еще хуже, работают но их правки откатываются).
    Ответ написан
    Комментировать
  • Как настроить ограничение сайтов (только прямо разрешенные сайты, белый список (white list)) для ребенка на mac os?

    @rPman
    Блокировку по url делать можно только на уровне браузера. Я уже похожее рекомендовал, есть неплохое странное решение, использовать foxyproxy, настроить в нем разрешенные адреса как direct а default правило прописать несуществующую прокси. Так же все можно сделать штатным инструментом браузера - сценарий автонастройки прокси - .pac файл (указать в настройках прокси сервера браузера)

    Еще можно делать на уровне dns сервера, но в браузерах давно уже есть опции по принудительному резолвингу не через локальный а свой (например публичный google/cloudflare)

    p.s. нужно помнить что все эти решения можно обойти в несколько кликов.

    Еще момент, лучше ребенка научить самоконтролю, потому что тупое ограничение сейчас это откладывать проблему на потом, причем чем старше ребенок, тем сложнее ему будет научиться этому контролю

    И да, в младшем возрасте, ребенок полностью самостоятельно не способен себя контролировать, нужен баланс и постоянная корректировка.

    p.s. на-chatgpt-шились исследования:
    https://www.researchgate.net/publication/20498277_...
    DOI: 10.1126/science.2658056
    Тезис: Способность к самоконтролю формируется с возрастом и предсказывает успехи во взрослой жизни.

    https://nature.berkeley.edu/garbelottoat/wp-conten...
    DOI: 10.1016/j.dr.2007.08.002
    Тезис: Подростки биологически менее способны к саморегуляции, чем взрослые, им важно давать ограничения и поддержки, но не применять исключительно контроль.

    DOI: 10.2307/1126611
    Тезис: Лучшие воспитывающие эффекты достигаются при сочетании ограничения и обсуждения, а не при тотальном контроле или вседозволенности.
    Ответ написан
  • Извлечение информации о сохраненных бэкапах в google drive?

    @rPman
    у меня сейчас нет ни одного бакапа, проверить не могу, в google drive слева должен быть пункт Резервные копии или Backups и там будет список объектов, которые можно смотреть по дате и удалять, но скачать и распотрошить нельзя

    С самого android устройства, при наличии gapps можно использовать утилиту bmgr из adb
    adb shell bmgr ...
    adb shell bmgr list transports даст список провайдеров, а выбрать конкретного типа так
    adb shell bmgr transport com.google.android.gms/.backup.BackupTransportService


    в виде файла получить не получится, но можно сделать бакап конкретного приложения на своем устройстве и восстановить ВСЕ имеющееся в бакапе на другом устройством с ROOT и ковыряться уже по своему усмотрению

    получить список приложений в бакапе нельзя , так же нельзя восстановить конкретный бакап, но можно изначально делать резервную копию только указанного собщения (отключив автоматический бакап в интерфейсе смартфона)

    p.s. весь интернет наполнен не верной информацией о резервном копировании файлов в android локально, скорее всего гугл намеренно сломал восстановление штатным adb shell backup (он работает и создает архив но восстановление не отработает) где то в 2013г (гугл пишет что начиная с 31 sdk level - 12 версия android но это явно перестало работать раньше
    upd. https://issuetracker.google.com/issues/37096097?pli=1
    Ответ написан
    Комментировать
  • Как по локалке управлять другим компьютером?

    @rPman
    rdp ограничивает работу с удаленной машиной в использовании видеоускорителя (объяснить сложно, но игры будут тупить к примеру), так же если машина не последние версии windows server и видеокарта не серверная, то варинтов с rdp и нет.

    Есть другой подход, передача содержимого экрана, vnc или, рекомендую, moonlight+sunshine (для теста попробуйте steam link, он работает по той же технологии), работает идеально в локальной сети, подключаться можно даже с доисторических android планшетов, т.е. максимально кроссплатформенное решение
    Ответ написан
    5 комментариев
  • Какой тип и формат жёсткого диска производительный?

    @rPman
    raw

    поддержки снапшотов с ним не будет

    создавать из командной строки
    VBoxManage internalcommands createrawvmdk

    p.s. еще для производительности рекомендуется использовать virtio контроллер для гостевой ОС, и не забудь включить ssd опцию в gui у диска, что бы работал trim
    Ответ написан
  • Простая программа для ведения электронной таблицы?

    @rPman
    Ерунда вместо текста это проблемы с кодировками и из-за особенностей их работы в winxp (и сооветственно в таком старом офисе) и в текущих версиях ОС... почти наверняка у вас исходная windows английская и вы поверх ставили руссификатор (или какая-нибудь сильно кастрированная ltsc)

    gnumetric, правда нативно под windows он уже не распростроняется, но можно cygwin использовать (только сейчас сообразил что обывателю наверное будет не просто,нужно поставить cygwin а потом в его инсталяторе установить xserver и Gnumeric), вот старая версия windows.

    В первый раз когда народ видит это, спрашивают, а зачем тогда майрософт офис?, размер порядка 20мб
    Ответ написан
    6 комментариев
  • Как оптимизировать загрузку и парсинг больших JS файлов со стороны браузера/клиента?

    @rPman
    Постарайтесь не закладывать нагрузку на браузер, хотя 10мб json это большие но не фатальные размеры. Скорее всего проблема не в json а
    браузер сможет отобразить все 10к фоток

    и да, естественно, сделайте ленивую загрузку фото.
    Ответ написан
    Комментировать
  • Ssd samsung m2 980 создает проблемы с играми. В чем может быть проблема?

    @rPman
    Игры дают нагрузку на железо, и если оно сбоит (например материнская плата) то до перезагрузки это и продолжается. Так же очень случайные и странные проблемы порождают глюки блоков питания, если они не справляются с нагрузкой. Т.е. что бы исключить этот вариант, попробуйте для начала сменить блок питания. Вторым тестом можно сделать перенос nvme ssd на другой, заведомо рабочий компьютер.

    С другой стороны, у вас nvme, а это прямой доступ к процессору (т.е. nvme буквально напрямую подключен к процессору по pci, материнка почти не участвует, там примитивный контроллер)

    Для теста, попробуйте вместо игры запустить какой-нибудь бенчмарк, и если проблема сохранится, запускайте по отдельности бенчмарки для диска, памяти, процессора и видеокарты, так можно чуть больше информации собрать, например, что будет если игру запускать не затрагивая ssd?
    Ответ написан
    Комментировать
  • Как вы работаете с Milvus в контексте RAG-системы?

    @rPman
    RAG это когда берут из запроса пользователя вектор, и ищут среди векторов в базе ближайший (алгоритмы ты выше озвучил)

    Смотри руками в базе, бери вектор своего запроса и ищи какие записи по нему проходят.

    p.s. лично я считаю что RAG это исключительно поисковая система, для вопрос-ответных систем он подходит отвратительно (если честно я даже в шоке что у cursor что то получилось в принципе), отличный пример - поисковый запрос: 'Сколько ног у какающих принцесс' - вектор будет суммой (на самом деле не совсем но как пример) векторов смысла 'ноги', 'какать', 'принцессы', и 'обкаканые ноги' и что то там с комбинацией количеством, типа 'количество принцесс', 'количество ног' и т.п. а так как вектора смыслов работают еще и на близкие понятия, в довесок ты получишь какающих принцев, писающих принцесс, королей, президентов и т.п... как ты думаешь, сколько документов приедет в качестве ответа на запрос, если они каждый тоже совокупность (сумма) смыслов в них?

    Если честно полученные документы нужно не брать верхушку результатов, а каждый обрабатывать полноценным промптом (можно использовать слабую модель) который уже будет принимать решение, нужно или нет...

    Самая важная часть в получении эмбендингов - это разделение документа на чанки, и если честно я не знаю красивых алгоритмов... мне нравится идея (я ее только пробовал) - когда документы предварительно снабжаются самморизацией ее частей (в идеале отдельно по темам, на которую разрабатывается поисковая система) и вот искать нужно среди этих самморизаций.

    p.p.s. ai-forever/sbert_large_nlu_ru? ничего не имею против него, но попробуйте другие модели получения эмбендингов, было бы классно если отпишитесь о результатах
    Ответ написан
    Комментировать