Личное облако на Proxmox, нейронки, LLM и embedding

В прошлой статье я описывал как построить сетевую часть самодержавного сервера, пора принести в него что-то отдаленно разумное. Это руководство описывает весь процесс: от подготовки хоста Proxmox и настройки LXC-контейнера до поиска, конвертации и запуска embedding-моделей (на примере BAAI/bge-large-en-v1.5 ) с использованием Intel GPU для работы модели. Но будет легко запустить не одну модель или полноценного чатбота на этой основе. Главное, что будет ясно как использовать даже простое имеющееся железо домашнего сервера для этого.

https://habr.com/ru/articles/967418/

#proxmox #lxc #openvino #ml #gpu_passthrough #embeddings

Proxmox 8. Настраиваем проброс видеокарты (GPU Passthrough). Выбор материнской платы на AM5 сокете

Уже прошел год как вышел Debian 12 Bookworm и, основанный на нем, Proxmox 8 . Несмотря на тот факт, что мои предыдущие статьи по пробросу дискретной Видеокарты в виртуальную машину , в кол-ве 4-х на Хабре, частично все еще актуальны для последней версии Proxmox , в тематических чатах регулярно поступали обращения обновить статью, а так же выяснилось что, у тех кто пользуется такими инструкциями, есть определенное непонимание в нюансах, из-за чего приходится проходить вместе с ними всю цепочку действий заново.

https://habr.com/ru/articles/794568/

#proxmox #linux #debian #виртуализация #gpu_passthrough #kvm #qemu #проброс_видеокарты #проброс_usb #проброс_gpu #виртуализация_физической_машины #linux_для_всех #виртуализация_десктопов #виртуализация_графики #notebook #laptop #PC #ПК #host #сервер #server #сделай_сам #ноутбук_для_работы #ноутбуки_для_игр #виртуализация_для_игр #виртуалка #линукс_в_массы #настройка_линукс #видеокарты #сисадминство #системное_администрирование #сисадмины #сисадминские_извращения #сисадминское #сисадмин__это_звучит_гордо