Proxmox перезагрузка виртуальной машины по расписанию
Перезагрузка в командной строке виртуальной машины Proxmox VE.
Хотелось бы создать решение, которое не было бы привязано к текущему расположению виртуальных машин на физических серверах в кластере виртуализации. Мы с коллегами активно используем Живую Миграцию, и сегодня VM1 работает на node2, а завтра её отправят в режиме онлайн на node3.
Данное требование сразу поставило крест на использовании низкоуровневой команды qm, которая требует отдачи ей приказа на той ноде кластера, где в данный момент трудится нужная виртуальная машина. Уже показывал мощь PveSh в примерах, так как он использует API Proxmox VE и позволяет реализовать задуманное.
Прежде чем начать перезагружать сервера, стоит напомнить, что для MS Windows Server неспроста даны ценные советы по их подготовке к работе в виртуализированной среде. При попытке их выключить через веб интерфейс или в консоли, у вас будет выведен запрос, и такое поведение нужно изменить.
К сожалению, нажимая виртуальную кнопку питания, вы выключаете виртуальный сервер, а не перезагружаете. То есть у нас не будет restart в том смысле, что будет shutdown + start. Для работы скрипта требуется лишь наличие jq, которая есть в стандартных репозиториях Debian и Ubuntu, и она облегчает работу с JSON ответами. Работа скрипта не сложна. Вначале получаем по данному нам VMID имя ноды, на которой трудится в данный момент эта виртуальная машина. Делаем shutdown. Далее в вечном цикле опрашиваем статус и, когда он становится stopped, то смело прерываем цикл while, и выходим на финишную прямую, запуская виртуальную машину.
Start and stop KVM VM from command line
steno
New Member
Like vmctl stop/start, but for KVM VMs.
Proxmox Staff Member
Like vmctl stop/start, but for KVM VMs.
and you will see the options:
steno
New Member
For problem with Windows 2003 server, i’m not a windows guy but on local policy you must allow shutdown without logon.
mlanner
Active Member
. but it doesn’t seem to shutdown my VMs.
. it works just fine, though.
But I’d rather not need to kill my machines that way. Any ideas/suggestions?
Proxmox Staff Member
. but it doesn’t seem to shutdown my VMs.
. it works just fine, though.
But I’d rather not need to kill my machines that way. Any ideas/suggestions?
mlanner
Active Member
Proxmox Staff Member
mlanner
Active Member
Thanks Tom. Works beautifully.
Out of curiosity, would:
dietmar
Proxmox Staff Member
Best regards,
Dietmar
mlanner
Active Member
Thanks. I tried your suggestion and it works fine.
mlanner
Active Member
dietmar
Proxmox Staff Member
# service pve-manager stop
This stops all VMs and all Containers (we have start/stop ordering now).
Best regards,
Dietmar
Ovidiu
Active Member
I know this is a very old thread but as I can’t find a better one, here comes my question:
I manually executed duply from the command line as root and it successfully stopped all VMs but failed to start them. When I re-connected to my screen session, the command service pve-manager start was just displayed on the display without any apparent result. Any ideas?
My next try will be to insert «/etc/init.d/pve-manager start» into post and see if that makes any difference.
# service pve-manager stop
This stops all VMs and all Containers (we have start/stop ordering now).
Proxmox перезагрузка виртуальной машины по расписанию
Коллеги, добрый день. У меня имеется 2 хоста с официальным дистрибутивом Proxmox Virtual Environment 4.2-2/725d76f0. Дистрибутив установлен на 2 SATA HDD и собран в программный (Proxmox) ZFS RAID.
Две ноды собраны в кластер. На каждой ноде запущены виртуальные машины с Ubuntu 14.04 c общими параметрами не превышающими параметры хоста.
Коллеги, никто не сталкивался с подобными проблемами?
Хоть что-то должно быть. IPMI наружу не светит?
Не светит, но могу взять в DC доступ на некоторое время.
Посмотрю и отпишусь. Спасибо!
zfs память кушает.
echo 4294967296 > /sys/module/zfs/parameters/zfs_arc_max
Спасибо! Но я не совсем понял, т.е. нынешние мои настройки zfs задействуют большее кол-во памяти и тем самым, при нагрузке, у меня хосты уходят в жесткий ребут?
да.
на мой взгляд, просто недоработка. могли бы и ограничить размер кэша.
Спасибо. Сейчас сделаю на хостах правку.
А не могли бы сказать, какое значение zfs_arc_max по умолчанию использует proxmox?
Чем то чревата смена этого значения? Не совсем ясно из официальной, и около того документации, что это за значение и для чего оно используется?
Спасибо!
>[оверквотинг удален]
>>> уходят в жесткий ребут?
>> да.
>> на мой взгляд, просто недоработка. могли бы и ограничить размер кэша.
> Спасибо. Сейчас сделаю на хостах правку.
> А не могли бы сказать, какое значение zfs_arc_max по умолчанию использует
> proxmox?
> Чем то чревата смена этого значения? Не совсем ясно из официальной, и
> около того документации, что это за значение и для чего оно
> используется?
> Спасибо!
Дефолтное не помню.
Кэш файловой системы. Меньше значение, тормознее система.
Еще есть zfs_arc_min.
>[оверквотинг удален]
>> Спасибо. Сейчас сделаю на хостах правку.
>> А не могли бы сказать, какое значение zfs_arc_max по умолчанию использует
>> proxmox?
>> Чем то чревата смена этого значения? Не совсем ясно из официальной, и
>> около того документации, что это за значение и для чего оно
>> используется?
>> Спасибо!
> Дефолтное не помню.
> Кэш файловой системы. Меньше значение, тормознее система.
> Еще есть zfs_arc_min.
Спасибо! Извините за еще один вопрос, но Вы тоже сталкивались с подобной проблемой?
>[оверквотинг удален]
>>> proxmox?
>>> Чем то чревата смена этого значения? Не совсем ясно из официальной, и
>>> около того документации, что это за значение и для чего оно
>>> используется?
>>> Спасибо!
>> Дефолтное не помню.
>> Кэш файловой системы. Меньше значение, тормознее система.
>> Еще есть zfs_arc_min.
> Спасибо! Извините за еще один вопрос, но Вы тоже сталкивались с подобной
> проблемой?
да. только у меня дисков было 12 штук. память сутки заканчивалась.
>[оверквотинг удален]
>>>> Чем то чревата смена этого значения? Не совсем ясно из официальной, и
>>>> около того документации, что это за значение и для чего оно
>>>> используется?
>>>> Спасибо!
>>> Дефолтное не помню.
>>> Кэш файловой системы. Меньше значение, тормознее система.
>>> Еще есть zfs_arc_min.
>> Спасибо! Извините за еще один вопрос, но Вы тоже сталкивались с подобной
>> проблемой?
> да. только у меня дисков было 12 штук. память сутки заканчивалась.
Огромное спасибо! А после применения echo 4294967296 > /sys/module/zfs/parameters/zfs_arc_max
хост требуется перезагрузить?
команда ничего не порушит?)
>[оверквотинг удален]
>>>>> Спасибо!
>>>> Дефолтное не помню.
>>>> Кэш файловой системы. Меньше значение, тормознее система.
>>>> Еще есть zfs_arc_min.
>>> Спасибо! Извините за еще один вопрос, но Вы тоже сталкивались с подобной
>>> проблемой?
>> да. только у меня дисков было 12 штук. память сутки заканчивалась.
> Огромное спасибо! А после применения echo 4294967296 > /sys/module/zfs/parameters/zfs_arc_max
> хост требуется перезагрузить?
> команда ничего не порушит?)
перезагружать не нужно. само очистится.
но для ускорения можно:
sync; echo 3 > /proc/sys/vm/drop_caches
нормально все будет.
echo 4294967296 > /sys/module/zfs/parameters/zfs_arc_max в rc.local, что бы после ребута установилось снова.
> echo 4294967296 > /sys/module/zfs/parameters/zfs_arc_max в rc.local, что бы после ребута
> установилось снова.
а старый и добрый /etc/sysctl.conf нынче не в моде?
Пишет что хостинг отключен!
> Почини форум postfix.ru
> Пишет что хостинг отключен!
100 лет там не был 🙂 К сожалению никаких контактов у меня нет, я там был лишь модератором
Proxmox start / restart command?
lps90
Member
I’m sorry for the stupid question, but i have searched a lot and i cant find..
What is the command to start / restart proxmox?
aaron
Proxmox Staff Member
Best regards,
Aaron
lps90
Member
Not the server..
Like i said, i want a command to start / restart proxmox.
I dont have access to web gui (soyoustart geral problem).
Soyoustart machines are with problems with their Proxmox 6 templates.
You install Proxmox 6 in your machine, restart the machine and Proxmox is not starting cause
the /etc/hosts file is not properly configured (it is automatically edited everytime the server machine is restarted).
This is happening with all soyoustart new machines (not old ones).
Thats why i need a command to start Proxmox everytime i start the machine and edit the /etc/hosts xD
P.S. Soyoustart is informed but not solving the problem!
I called them and they said that the unix team is not even answering them since last week LOOOl
I bought 3 dedicated servers, i will wait 1 week for the solution, if they do not solve the problem,
i’ll ask the refund like they told me..
Dominic
Proxmox Staff Member
Best regards,
Dominic
pmlearner
New Member
Following up with a similiar issue. I’ve stopped the webgui at some point in the past and now want to restart it.
🐹 Proxmox Virtual Environment 7: Установка, настройка, тюнинг, организация резервного копирования.
Опубликовано 2021-09-09 · Обновлено 2021-09-21
Содержание:
1. Постановка задачи.
Требуется организовать простой и надёжный гипервизор для сервера среднего и малого офиса:
2. Описание программы.
2.1. О программе.
В сегодняшней статье мы опишем процесс установки Proxmox Virtual Environment (Proxmox VE) — систему управления виртуализации с открытым кодом, которая базируется на QEMU/KVM и LXC. Данное решение позволяет вам управлять виртуальными машинами, контейнерами, отказоустойчивыми кластерами, СХД и прочие — все это с помощью web-интерфейса или CLI. Чтобы было понятнее — Proxmox VE — это альтернатива c открытым программным кодом таким продуктам как VMware vSphere, Microsoft Hyper-V или Citrix XenServer.
Важное уточнение — согласно лицензии GNU AGPL v3 данное программное обеспечение является бесплатным, но, есть возможность купить подписку. Подписка дает следующие преимущества — поддержка от вендора/коммьюнити (в зависимости от выбранного плана), доступ к репозиторию и так далее.
Proxmox Virtual Environment (Proxmox VE) — система виртуализации с открытым исходным кодом, основанная на Debian GNU/Linux. Разрабатывается австрийской фирмой Proxmox Server Solutions GmbH, спонсируемой Internet Foundation Austria.
В качестве гипервизоров использует KVM и LXC. Соответственно, способна выполнять любые поддерживаемые KVM операционные системы с минимальными потерями производительности и GNU/Linux без потерь.
Управление виртуальными машинами и администрирование самого сервера производятся через web-интерфейс либо через стандартный интерфейс командной строки GNU/Linux.
Для создаваемых виртуальных машин доступно множество опций: используемый гипервизор, тип хранилища (файл образа или LVM), тип эмулируемой дисковой подсистемы (IDE, SCSI или VirtIO), тип эмулируемой сетевой карты, количество доступных процессоров и другие.
Немного о системных требованиях — в идеале, требуется железный сервер, предпочтительно многопроцессорный и 8 Гб памяти для самого Proxmox и остальное — для гостевых машин + 2 сетевых карты, работает и на 1 сетевой карте (всё зависит от трафика вашего файлообмена).
Список поддерживаемых web-интерфейс Proxmox Virtual Environment (Proxmox VE) с браузеров включает Chrome, Mozilla Firefox, Safari и IE (актуальные версии).
2.2. Ключевые возможности.
Экраны web-интерфейса Proxmox VE:

С сайта разработчиков можно загрузить готовые шаблоны (как дистрибутивы общего назначения, так и настроенные под конкретную задачу, например запуск MediaWiki, Drupal или WordPress). Также можно создавать собственные шаблоны, воспользовавшись инструментом Debian Appliance Builder.
2.3. С чего начать?
Есть два варианта установки Proxmox VE — использовать готовый образ или установка на Debian. Мы будем использовать заранее готовый образ с официального сайта!
При установке среды виртуализации меняется ядро GNU/Linux. Это может привести к потери работоспособности уже установленных сервисов. Таким образом, установку Proxmox следует выполнять на чистый сервер, а не тот, который уже используется для каких-либо задач.
Для начала установки нужно скачать образ установочного диска с официального сайта разработчиков Proxmox: https://proxmox.com.
Для тех, кому интересно почитать подробнее, есть даже Proxmox VE Wiki — это справочная библиотека от разработчиков этого гипервизора: https://proxmox.com.
3. Подготовка загрузочной флешки.
Устанавливать Proxmox VE на сервер будем с помощью загрузочной флешки, которую следует предварительно подготовить с помощью специальной бесплатной утилиты — программы Rufus.
Rufus — Простое создание загрузочных USB-дисков.
Rufus — это утилита, которая помогает форматировать и создавать загрузочные Flash/Pen/Key диски, карты памяти и так далее.
Rufus будет особенно полезен в случаях, когда:
Несмотря на небольшой размер, Rufus умеет делать все, что вам нужно!
Скачиваем последнюю версию с сайта разработчиков Rufus: https://rufus.ie/ru_RU.html.
Подключаем флешку к компьютеру, выбираем ее в Rufus и выбираем файл-образ Proxmox VE, прожигаем его на флешку в режиме DD-образ. Если этого не сделать, то на некоторых BIOS флешка не загрузится как нужно и начала установки не произойдет.
После прожига флешки, можно её использовать для установки Proxmox VE.
4. Подготовка сервера.
4.1. Включение виртуализации на сервере.
Поддержка виртуализации Intel VT или AMD-V может быть отключена на материнской плате. Для проверки заходим в БИОС — находим раздел настройки процессора (как правило, в пункте меню Advanced) — проверяем, что технология виртуализации (Intel VT, AMD-V, Virtualization Technology, VMX) включена (Enabled).
4.2. Процесс установки.
Итак, вы скачали ISO-образ по ссылке выше, запустились с загрузочной флешки и должны увидеть следующее.
Кликаем на Install в интерфейсе Proxmox VE.
Стартанет загрузка информации с флешки.
После этого появится окно с установкой и EULA. Промотайте вниз и согласитель клавишей I agree:
Затем, нам предлагают выбрать диск для установки — выбираем диск и файловую системк на нем. Далее кликаем Next:
Выбираем страну и часовой пояс и кликаем Next:
Затем придумываем сложный рутовый пароль и вводим действующий e-mail — на него в случае чего будут приходить письма с происшествиями на сервере:
Следующим шагом будет настройка сетевого подключения и FQDN-имени сервера:
Указываем настройки сети — выбираем адаптер, указываем хостнейм и так далее. Кликаем Next.
Следующим экраном будет таблица с резюме наших настроек.
Если всё верно, кликаем Install:
Начинается процесс установки, который занимает не более 10 минут:
Установка заканчивается, и все, что нужно сделать — это нажать Reboot, если об этом попросит установщик.
Внимание! Если после перезагрузки сразу извлечь установочную флешку из сервера, то по каким-то неясным причинам на сервере что-то пойдет не так! И прийдется вся монтировать руками и доделывать установку в ручном режиме. Чтобы этого не произошло, не вынимайте установочную флешку до тех пор, пока не войдете в web-интерфейс Proxmox VE.
После перезагрузки вы увидите адрес, по которому нужно зайти в браузере для завершения установки.
Внимание! Флешку можно забрать после установки, когда вас поприветвует CLI интерфейс. Выключите сервер, достаньте флешку и снова включите сервер.
Внимание! Обратите особое внимание на адрес по которому работает web-интерфейс Proxmox VE! Как можно не сразу заметить используется защищенный протокол HTTPS вместо HTTP. Автоматического перенаправления в системе не предусмотрено! Будьте внимательны!
В данном случае это https://ваш-IP-адрес:8006 :
Нас поприветствует окно входа:
Появляется окно логина, с возможностью выбрать язык. Вводите логин root и пароль, который вы указывали при установке.
Выскочит надпись о том, что Proxmox VE хоть и бесплатный, но подписку на его регулярные обновления неплохо бы было прикупить… Жмём ОК… Потом настроим, чтобы и рыбку съесть и на люстре покачаться….
Далее должно открыться окно управления.
И, наконец, системой можно пользоваться! К примеру, можете кликнуть на вкладку Datacenter слева и увидеть сводку информации по системе:
5. Загрузка образов ISO в web-интерфейсе.
Чтобы начать использовать Proxmox и создать первую виртуальную машину, требуется загрузить на гипервизор ISO образ гостевой операционной системы, которую мы и установим в на виртуальную машину.
Кликаем по Datacenter — и дважды по storage:
Мы можем создать отдельное хранилище для образов ISO. Для этого переходим в раздел Datacenter —> Хранилище —> Создать —> Каталог.
Переходим в раздел Содержимое и кликаем по Загрузить:
В открывшемся окне выбираем ISO-образ системы, который будем устанавливать в качестве гостевой и кликаем по Загрузить. Ждем окончания копирования файла на сервер.
6. Настройка системы хранения данных.
Хочется обратить внимание на то, что Proxmox готов к созданию новых виртуальных машин сразу после установки. Тем не менее, рекомендуем выполнить предварительные настройки, чтобы в дальнейшем системой было легко управлять. Практика показывает, что гипервизор и виртуальные машины стоит разнести по разным физическим носителям. О том, как это сделать и пойдет речь ниже.
6.1. Настроить дисковые накопители.
Следующим этапом следует настроить хранилище, которое можно будет использовать для сохранения данных виртуальных машин и резервных копий.
Внимание! Приведенный ниже пример дисковой разметки можно использовать только для тестовых целей. Для эксплуатации в реальных условиях настоятельно рекомендуется использовать программный или аппаратный RAID-массив, чтобы исключить потерю данных при выходе дисков из строя.
Как подготовить и подключить диски можно прочитать в этих инструкциях:
6.2. Добавить новое хранилище в Proxmox.
Авторизуемся в панели управления и заходим в разделы Datacenter —> Хранилище —> Добавить —> Директория.
В открывшемся окне заполняем следующие поля:
После этого нажимаем кнопку Добавить. На этом настройка завершена.
7. Создание виртуальной машины.
Базовая настройка закончена — можно начать создавать виртуальные машины!
В правой верхней части панели управления кликаем по Создать VM:
В открывшемся окне снизу сразу ставим галочку Расширенный:
Задаем имя виртуальной машине и ставим галочку Запуск при загрузке (если хотим, чтобы виртуалка запускалась автоматически с сервером PVE):
В данном примере мы задали имя FS. При желании, также можно изменить VM ID, но он проставляется автоматически и имеет правильное значение.
Выбираем загруженный нами ISO-образ, с которого будем ставить операционную систему, задаем тип гостевой операционной системы и ее версию:
В данном примере мы будем устанавливать GNU/Linux Ubuntu. Среди списка операционных систем также доступны Microsoft Windows, Solaris и прочие.
На вкладке Система можно оставить все значения по умолчанию:
В некоторых случаях, необходимо выбрать другую видеокарту (при установке систем с GUI), а также особый вариант BIOS.
Задаем размер жесткого диска:
Величны в 16 Гб HDD для Ubuntu достаточно, однако, для наших задач расчет должен быть индивидуальным для каждой создаваемой виртуальной машины.
Подробнее об используемых в Proxmox форматах накопителей:
RAW. Самый понятный и простой формат. Это файл с данными жесткого диска «байт в байт» без сжатия или оптимизации. Это очень удобный формат, поскольку его легко смонтировать стандартной командой mount в любой GNU/Linux системе. Более того это самый быстрый «тип» накопителя, так как гипервизору не нужно его никак обрабатывать.
Серьезным недостатком этого формата является то, что сколько Вы выделили места для виртуальной машины, ровно столько места на жестком диске и будет занимать файл в формате RAW (вне зависимости от реально занятого места внутри виртуальной машины).
QEMU image format (qcow2). Пожалуй, самый универсальный формат для выполнения любых задач. Его преимущество в том, что файл с данными будет содержать только реально занятое место внутри виртуальной машины. Например, если было выделено 40 Гб места, а реально было занято только 2 Гб, то все остальное место будет доступно для других виртуальных машин. Это очень актуально в условиях экономии дискового пространства.
Небольшим минусом работы с этим форматом является следующее: чтобы примонтировать такой образ в любой другой системе, потребуется вначале загрузить особый драйвер nbd, а также использовать утилиту qemu-nbd, которая позволит операционной системе обращаться к файлу как к обычному блочному устройству. После этого образ станет доступен для монтирования, разбиения на разделы, осуществления проверки файловой системы и прочих операций.
Следует помнить, что все операции ввода-вывода при использовании этого формата программно обрабатываются, что влечет за собой замедление при активной работе с дисковой подсистемой. Если стоит задача развернуть на сервере базу данных, то лучше выбрать формат RAW.
VMware image format (vmdk). Этот формат является «родным» для гипервизора VMware vSphere и был включен в Proxmox для совместимости. Он позволяет выполнить миграцию виртуальной машины VMware в инфраструктуру Proxmox.
Использование vmdk на постоянной основе не рекомендуется, данный формат самый медленный в Proxmox, поэтому он годится лишь для выполнения миграции, не более. Вероятно в обозримом будущем этот недостаток будет устранен.
Продолжим создавать виртуальную машину.
Мы можем задать количество процессоров и ядер:
В данном примере мы создаем виртуалку с 2 процессорами, каждый из который с 2 ядрами, итого, 4. Для ненагруженных систем можно оставить значение по умолчанию.
Наша Ubuntu будет работать с 2 Гб оперативной памяти.
Выбираем созданный бридж — либо для получения прямого адреса из сети, либо для NAT:
Если виртуальная машина должна подключаться к интернету напрямую, то отключите Брандмауэр. В данном примере, мы указали vmbr0 для подключения к сети напрямую.
Ставим галочку, чтобы виртуальная машина сразу запустилась после создания:
Нажимаем Готово. Ждем окончания процесса и переходим к консоли:
Мы должны увидеть загрузку с ISO-образа.
8. Настройка виртуальной машины.
После создания виртуальной машины нам может понадобиться ее изменить. Рассмотрим процесс настройки на примере изменения некоторых параметром, а также добавления диска и сетевого адаптера.
8.1. Полезные настройки.
Для начала, переходим к виртуальной машине — Параметры:
Чаще всего могут понадобиться следующие настройки:
Для изменения параметра, просто кликаем по нему дважды, меняем значение и нажимаем OK.
8.2. Добавление дискового накопителя.
Переходим в подраздел Оборудование — кликаем по Добавить и выбираем Жесткий диск:
В открывшемся окне задаем размер диска и нажимаем OK.
Для увеличения размера имеющегося диска устанавливаем на него курсов и кликаем по Изменить размер диска:
В открывшемся окне задаем объем, на который нужно увеличить дисковое пространство.
8.3. Добавление сетевого адаптера.
Переходим в подраздел Оборудование — кликаем по Добавить и выбираем Сетевое устройство:
Как при создании виртуальной машины, выбираем тип сетевого адаптера (бридж или нат) и нажимаем Добавить.
8.4. Удаление виртуальной машины.
Для удаления виртуальной машины, сначала ее отключаем — это можно сделать из операционной системы или из панели управления, нажав на стрелку вниз рядом с Выключить — Остановка:
После кликаем по Дополнительно —> Удалить:
В открывшемся окне мы должны подтвердить свои намерения удалить виртуальную машину, вписав ее идентификатор:
Если поставить галочку Purge, то виртуальная машина будет удалена полностью вместе с виртуальным диском.
Кликаем по Удалить — готово.
9. Тюнинг сервера Proxmox VE.
Внесем несколько изменений, которые сделают работу с Proxmox VE удобнее.
9.1. Отключение предупреждения об отсутствии подписки.
Каждый раз при заходе в панель управления мы будем видеть такое предупреждение:
Оно говорит нам о том, что мы используем бесплатную версию программного продукта.
Внимание! После подключения бесплатных репозиториев, данное предупреждение должно пропасть и не появляться, но это не точно!
Алгоритм борьбы с окошком такой:
Для начала — удалим платный репозиторий.
И так, в SSH открываем на редактирование репозиторий Proxmox:
Вносим в файл изменения вида:
Актуальную информацию и бесплатных репозиториях можно получить на официальной странице базы знаний Proxmox VE: https://pve.proxmox.com/wiki/Package_Repositories.
Чтобы выйти из nano, просто нажмите ^X (клавиши Ctrl + X). Затем ENTER на предложение записать файл с новой информацие поверх старого. Если файл еще не был сохранен, вам будет предложено сохранить изменения с помощью Yes/No или отменить Выход. Нажмите на клавиатуре Shift + Y и затем клавишу Enter.
При большом желании, можно удалить файл репозитория с именем pve-enterprise.list и создать новый — кому как будет удобнее.
Вот здесь лежит еще много чего интересного: http://download.proxmox.com/debian. Сейчас этим и воспользуемся.
Активируем бесплатные репозитории:
Скачиваем патчик с официального сайта:
После обновим список пакетов:
В заключение отметим, что стабильная работа репозиториев без подписки не гарантируется. Обновления, поступающие по этому каналу, с большей вероятностью будут новейшими и/или тестовыми обновлениями. Они не проверяются, чтобы убедиться, что все работает стабильно.
Таким образом, действуйте на свой страх и риск — и, опять же, если Proxmox VE помогает вашему бизнесу, сделайте одолжение людям, приобретя подписку.
9.2. Сертификаты.
Сервер Proxmox VE устанавливается с самоподписанным сертификатом. Это означает, что при подключении к панели управления мы будем видеть предупреждение от системы безопасности. Чтобы браузер принимал сертификат, он должен соответствовать следующим требованиям:
При этом, мы не должны заходить в панель управления по IP-адресу — в противном случае, независимо от сертификата получим предупреждение.
И так, сам сертификат можно купить, запросить бесплатно у Let’s Encrypt или создать с использованием локального центра сертификации, например, по данной инструкции.
Получив сертификат, открываем панель управления Proxmox VE и переходим к серверу — Система —> Сертификаты — кликаем по Загрузить пользовательский сертификат:
В открывшемся окне заполняем поля для закрытого и открытого ключей:
Нажимаем Загрузить. Система предупредит, что загрузится с новым сертификатом — необходимо закрыть вкладку в браузере и открыть консоль управления снова. Если сертификат загружен правильный, мы не увидим предупреждения.
9.3. Создание нового пользователя.
При установке Proxmox VE создается пользователь root. Рассмотрим процесс добавления еще одного через командную строку.
Подключаемся по SSH или открываем консоль из панели управления.
Создаем пользователя в системе:
Где user — имя создаваемого пользователя.
После создаем нового пользователя в Proxmox:
# pveum useradd user@pam
В данном примере мы создали пользователя user в области pam.
# pveum passwd user@pam
Задаем роль для созданного пользователя, например, административную:
Весь список ролей можно посмотреть в панели администрирования в разделе Datacenter —> Разрешения —> Роли.
9.4. Удаление LVM-local-data.
Как реструктурировать LVM Volume \root LVM раздел?
Смотрим какая ситуация на сервере вообще?
Удалим раздел /dev/pve/data :
Дадим согласие на продолжение операции удаления — y.
Добавим всё освободившееся пространство к root разделу:
Итого: root раздел увеличился!
9.5. Проксирование Proxmox VE через Nginx.
Данная инструкция позволит вам получить доступ к Proxmox VE через 443 порт.
Как настроить Nginx и получить бесплатные сертификаты Let’s Encrypt на доменное имя описано в этой инструкции: «CentOS 7: Настройка бесплатного ssl-сертификата Let’s Encrypt.»
Создадим каталог для log-файлов:
Добавим на него права:
Создадим новый конфигурационный файл для Nginx:
Ниже приведен пример конфигурации, которая работает для web-интерфейса, а также консоли noVNC:
Перезагрузим Nginx:
# systemctl restart nginx
Файлы, размещенные на веб-сервере Nginx, являются общедоступными по умолчанию. Если вы хотите защитить файлы от несанкционированного доступа, вы можете использовать базовую аутентификацию HTTP. Это простой метод аутентификации, при котором пользователям необходимо предоставить имя пользователя и пароль для доступа к файлам на вашем сервере.
9.6. Добавление физического диска в виртуальную машину Proxmox.
Чтобы «прокинуть» физический диск целиком в виртуальную машину, нужно в файл конфигурации виртуальной машины и добавить в него одну строку по аналогии с другими строками.
Открываем состав виртуальной машины:
Оно, конечно, будет работать в традиционном режиме, как обычный диск, и отображаться традиционным жестким диском в Диспетчере дисков гостевой операционной системы, но весь подвох в том, что если в Proxmox VE съедет буквенная нумерация дисков, то гостевая система потеряет конкретно этот проброшенный жесткий диск или его заменит его на совершенно другой, совершенно левый, жесткий диск, у которого появится данная буквенная нумерация путем досадного сдвига всех буквенных индексов.
Для того, чтобы не попасть в такую досадную ситуацию, гипервизору Proxmox VE требуется объяснить, что мы хотим использовать для наших целей конкретный жесткий диск с конкретным индексом в системе и никакой другой!
Посмотрим что у нас есть в системе вообще физически и найдем наше устройство:

Выключаем виртуальную машину полностью.
Используем следующий синтаксис вида:
В итоге образец команды будет выглядеть так:
Открываем состав виртуальной машины:
Теперь виртуальная машина получила в свое распоряжение целый физический диск, управляемый виртуальным контроллером на основе технологии VirtIO. Если ваша гостевая операционная система умеет пользоваться подобным виртуальным устройством, то можно смело приступать к его использованию. Если не знает, как операционная система Windows, то потребуется дополнительная установка драйверов под контроллер такого типа.
9.6.1. Установка VirtIO драйвера в гостевой Windows.
Установка VirtIO драйвера весьма простая.
Диск можно использовать на свое усмотрение.
9.7. Проброс USB устройств в Proxmox.
Очень нужная вещь, когда в виртуальную машину Proxmox VE нужно пробросить какое-то USB устройство.
Прописываем в конфигурацию ID флешек:
# qm set 101 –usb0 host=XXXX:YYYY
где 101 — ID виртуальной машины куда будем пробрасывать порт. А XXXX:YYYY — ID USB устройства.
9.8. Установка полезных утилит и программ:
9.8.1. Установка Midnight Commander.
Один из файловых менеджеров с текстовым интерфейсом типа Norton Commander для UNIX-подобных операционных систем.
9.8.2. Установка Parted.
Parted — известный инструмент командной строки, который позволяет вам легко управлять разделами жесткого диска. Это может помочь вам добавить, удалить, сжать и расширить разделы диска вместе с файловыми системами, расположенными на них.
# apt-get install parted
Данная утилита требуется для настройки устройств хранения информации по инструкции «CentOS 7: Как добавить новый диск».
9.8.3. Установка Crony.
Chrony — это гибкая реализация протокола сетевого времени — Network Time Protocol (NTP). Используется для синхронизации системных часов с различных NTP-серверов, эталонных часов или с помощью ручного ввода.
# apt-get install chrony
9.8.4. Установка Net-tools.
NetTOOLS — набор сетевых онлайн инструментов и утилит для оптимизации и диагностики сетевых ресурсов, круглосуточный мониторинг сетевых ресурсов, сетевые онлайн утилиты для работы в сети, сетевые утилиты, онлайн пинг, whois, nslookup, ping, traceroute.
# apt-get install net-tools
10. Про бэкапы в Proxmox VE.
Штатные инструменты Proxmox позволяют не только выполнять резервное копирование данных, но и создавать наборы предварительно настроенных образов операционных систем для быстрого развертывания. Это не только помогает при необходимости создать новый сервер для любого сервиса за несколько секунд, но также и уменьшает время простоя до минимального.
10.1. Алгоритмы резервного копирования.
Начнем с того, что Proxmox имеет неплохой штатный инструментарий для создания резервных копий виртуальных машин. Он позволяет легко сохранить все данные виртуальной машины и поддерживает два механизма сжатия, а также три метода создания этих копий.
Разберем вначале механизмы сжатия:
10.2. Режимы архивирования.
Proxmox предлагает на выбор системному администратору три метода резервного копирования. С помощью них можно решить требуемую задачу, определив приоритет между необходимостью простоя и надежностью сделанной резервной копии:
11. Выполнение процедуры резервирования.
Для создания резервной копии:
1. Переходим на нужную виртуальную машину.
2. Выбираем пункт Резервирование.
3. Нажимаем кнопку Резервировать сейчас. Откроется окно, в котором можно будет выбрать параметры будущей резервной копии.
4. В качестве хранилища указываем то, которое мы подключали выше по тексту инструкции.
5. После выбора параметров нажимаем кнопку Резервирование и ждем, пока резервная копия будет создана. Об этом будет говорить надпись TASK OK.
Теперь созданные архивы с резервными копиями виртуальных машин станут доступны для скачивания с сервера. Самым простым и банальным способом копирования является SFTP. Для этого воспользуйтесь популярным кроссплатформенным FTP-клиентом FileZilla, который умеет работать по SFTP-протоколу.
Резервные копии рекомендуется сразу скачивать с сервера и сохранять в надежном месте, например, в нашем облачном хранилище. Если распаковать файл с разрешением vma, одноименной утилитой, идущей в комплекте с Proxmox, то внутри будут файлы с расширениями raw, conf и fw.
В этих файлах содержится следующее:
12. Восстановление из резервной копии.
Рассмотрим ситуацию, когда виртуальную машину случайно удалили и требуется ее экстренное восстановление из резервной копии:
1. Открываем хранилище, на котором лежит резервная копия.
2. Переходим на вкладку Содержимое.
3. Выбираем нужную копию и нажимаем кнопку Восстановление.
4. Указываем целевое хранилище и ID, который будет присвоен виртуальной машине, после завершения процесса.
5. Нажимаем кнопку Восстановление. Как только восстановление завершится, виртуальная машина появится в списке доступных.
13. Клонирование виртуальной машины.
Для примера, предположим, что в компании требуется внести изменения в какой-либо критичный сервис. Такое изменение реализуется через внесение множества правок в конфигурационные файлы. Результат при этом непредсказуем и любая ошибка способна вызвать сбой сервиса. Чтобы подобный эксперимент не затронул работающий сервер, рекомендуется выполнить клонирование виртуальной машины.
Механизм клонирования создаст точную копию виртуального сервера, с которой допустимо проводить любые изменения, при этом не затрагивая работу основного сервиса. Затем, если изменения будут успешно применены, новая виртуальная машина запускается в работу, а старая выключается. В этом процессе есть особенность, о которой всегда следует помнить. На клонированной виртуальной машине IP-адрес будет точно таким же, как и у исходной виртуальной машины, то есть при ее запуске возникнет конфликт адресов.
Расскажем, как избежать такой ситуации. Непосредственно перед выполнением клонирования, следует внести изменения в конфигурацию сети. Для этого необходимо временно изменить IP-адрес, но не перезапускать сетевой сервис. После выполнения клонирования на основной виртуальной машине следует вернуть настройки обратно, а на клонированной виртуально машине задать любой другой IP-адрес. Тем самым мы получим две копии одного и того же сервера на разных адресах. Это позволит быстро ввести новый сервис в работу.
Если этим сервисом является веб-сервер, то достаточно только изменить А-запись у вашего DNS-провайдера, после чего запросы клиентов по этому доменному имени будут направляться уже на адрес клонированной виртуальной машины.
Клонирование виртуальной машины в Proxmox является очень простой задачей. Для ее выполнения необходимо выполнить следующие действия:
1. Перейти на нужную нам виртуальную машину.
2. Выбрать из меню More пункт Clone.
3. В открывшемся окне заполнить параметр Имя.
4. Выполнить клонирование нажатием кнопки Clone.
Этот инструмент позволяет сделать копию виртуальной машины не только на локальном сервере. Если несколько серверов виртуализации объединить в кластер, то с помощью этого инструмента можно сразу переместить созданную копию на нужный физический сервер. Полезной функцией является выбор дискового хранилища (параметр Target Storage), что очень удобно при перемещении виртуальной машины с одного физического носителя на другой.
14. Работа с образами дисков.
В комплекте c Proxmox есть очень удобная утилита, под названием qemu-img. Одной из ее функций является конвертирование образов виртуальных дисков.
14.1. Файл справки.
Чтобы воспользоваться им, достаточно открыть консоль гипервизора и выполнить команду в формате:
Внимание! Иногда процесс конвертации может и не стартовать, потому что файлы виртуального жесткого диска могут быть старой версии или чего-то может не хватать. Выход из этой ситуации — это правильно подбирать ключи и команды конвертирования под частные случаи.
14.2. Конвертирование.
В приведенном примере, vmdk-образ виртуального накопителя VMware под названием test будет преобразован в формат qcow2.
Это очень полезная команда, когда требуется исправить ошибку при изначальном выборе формата.
14.3. Создание образа.
Благодаря этой же команде можно принудительно создать нужный образ, используя аргумент create:
Такая команда создаст образ test в формате RAW, размером 40 Гб. Теперь он годится для подключения к любой из виртуальных машин.
15. Изменение размера виртуального диска.
И в заключение покажем как увеличить размер образа диска, если по каким-то причинам места на нем перестало хватать. Для этого воспользуемся аргументом resize:
Теперь наш образ стал размером 80 Гб. Посмотреть подробную информацию об образе можно с помощью аргумента info:
# qemu-img info test.raw
Не стоит забывать, что само расширение образа не увеличит размер раздела автоматически — просто добавит доступное свободное пространство. Для увеличения раздела воспользуйтесь командой:
где /dev/sda1 — нужный раздел.
16. Автоматизация создания резервных копий.
Использование ручного способа создания резервных копий — задача весьма трудоемкая и занимает много времени. Поэтому Proxmox VE содержит в себе средство для автоматического резервного копирования по расписанию.
Рассмотрим, как это сделать:
1. Используя веб-интерфейс гипервизора, открываем пункт Datacenter.
2. Выбираем пункт Резервирование.
3. Нажимаем кнопку Добавить.
4. Задаем параметры для планировщика.
5. Отмечаем галочкой пункт Включить.
6. Сохраняем изменения, используя кнопку Создать.
Теперь планировщик будет автоматически запускать программу резервного копирования в точно указанное время, исходя из заданного расписания.
17. Управление гипервизором консольными командами.
17.1. Просмотр списка виртуальных машин.
Посмотрим список всех созданных виртуальных машин на гипервизоре:
17.2. Управление виртуальными машинами.
Теперь можно управлять состоянием виртуальных машин c помощью их VMID в системе Proxmox:
# qm start — запуск;
# qm status — посмотреть состояние;
# qm shutdown — штатное выключение через ACPI;
# qm reset — перезагрузка;
# qm stop — принудительная остановка;
# qm suspend — приостановка с возможностью возобновления работы;
# qm resume — возобновление работы;
# qm destroy — удаление виртуальной машины (вместе с образами дисков);
Ответ:
17.3. Просмотр конфигурации виртуальных машин.
17.4. Просмотр файла справки HELP в консоли.
Для просмотра всех возможных команд и получения файла справки HELP ведите одиночную команду:
Ответ:
Таким же образом можно запросить более развернутый ответ по конкретной команде.
Например, запросим ответ на команду stop :
Ответ:
18. Установка Proxmox VE на Ubuntu и CentOS.
Возможно, кому-то захочется установить Proxmox VE именно на Ubuntu или CentOS. К сожалению, разработчики остановились на Debian. Возможно, есть неофициальные обходные пути установки Proxmox VE на другие дистрибутивы GNU/Linux, однако такой путь не является приемлемым для продуктивной среды.
19. Оригиналы источников информации.
Заметки на полях:
1. Где хранятся образы виртуальных дисков виртуальных машин?
Стандартное расположение, если не указано другое:
2. Где хранятся образы виртуальных дисков ISO?
Стандартное расположение, если не указано другое:
3. Где хранятся логи Proxmox VE?
Логи хранятся по пути:




























































