fix(images): idempotent download (skip if file exists) + real failure reason
All checks were successful
Backend Tests / pytest (Python 3.12) (push) Successful in 52s
Deploy to Production / Trigger production update (push) Successful in 8s

Retrying a template build failed at download because the qcow2 from a prior
attempt already existed and download-url refuses to overwrite. Now skip the
download when the volume already exists (volume_exists), and surface the PVE
task-log tail on download failure instead of a generic message.

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
This commit is contained in:
2026-06-23 00:38:50 +05:00
parent cdb49abf0f
commit f880c9e177
2 changed files with 50 additions and 24 deletions

View File

@@ -539,6 +539,15 @@ def _pve_vm_name(display: str, fallback: str = 'cloud-template') -> str:
return name[:60].rstrip('-') return name[:60].rstrip('-')
def _task_log_tail(client, node: str, upid: str, lines: int = 5) -> str:
"""Последние строки лога задачи Proxmox — для понятной причины сбоя."""
try:
rows = client.get_task_log(node, upid, start=0, limit=50) or []
return ' | '.join((r.get('t') or '') for r in rows[-lines:])
except Exception:
return ''
def _normalize_import_filename(filename: str) -> str: def _normalize_import_filename(filename: str) -> str:
"""Привести имя файла к допустимому для content=import расширению. """Привести имя файла к допустимому для content=import расширению.
@@ -623,14 +632,22 @@ def _do_image_download_sync(task_id: int, server_id: int, node: str, storage: st
error='Не удалось подключиться к Proxmox серверу') error='Не удалось подключиться к Proxmox серверу')
return return
_update_deploy_task(task_id, 'running', f'Старт загрузки {filename}...', 15, node=node) content = 'vztmpl' if kind == 'vztmpl' else 'import'
dl_filename = _normalize_import_filename(filename) if content == 'import' else filename
# Идемпотентность: если файл уже есть в хранилище — не качаем повторно
existing_volid = f'{storage}:{content}/{dl_filename}'
if client.volume_exists(node, storage, existing_volid):
_update_deploy_task(task_id, 'completed', f'Образ {dl_filename} уже в хранилище', 100, node=node)
logger.info(f"[IMG DL #{task_id}] {dl_filename} already present on {node}:{storage}")
return
_update_deploy_task(task_id, 'running', f'Старт загрузки {dl_filename}...', 15, node=node)
try: try:
if kind == 'vztmpl' and template and not url: if kind == 'vztmpl' and template and not url:
# Шаблон из репозитория Proxmox (aplinfo) # Шаблон из репозитория Proxmox (aplinfo)
upid = client.download_lxc_template(node, storage, template) upid = client.download_lxc_template(node, storage, template)
else: else:
content = 'vztmpl' if kind == 'vztmpl' else 'import'
dl_filename = _normalize_import_filename(filename) if content == 'import' else filename
upid = client.download_url( upid = client.download_url(
node, storage, url, content, dl_filename, node, storage, url, content, dl_filename,
checksum=checksum, checksum_algorithm=checksum_algorithm, checksum=checksum, checksum_algorithm=checksum_algorithm,
@@ -646,15 +663,8 @@ def _do_image_download_sync(task_id: int, server_id: int, node: str, storage: st
ok = _wait_download_with_progress(client, task_id, node, upid, lo=15, hi=100) ok = _wait_download_with_progress(client, task_id, node, upid, lo=15, hi=100)
if not ok: if not ok:
# Подтянуть хвост лога с причиной
tail = ''
try:
tail_lines = client.get_task_log(node, upid, start=0, limit=20) or []
tail = ' | '.join((l.get('t') or '') for l in tail_lines[-5:])
except Exception:
pass
_update_deploy_task(task_id, 'failed', 'Загрузка не удалась', 15, _update_deploy_task(task_id, 'failed', 'Загрузка не удалась', 15,
error=f'Загрузка завершилась с ошибкой. {tail}'[:300]) error=f'Загрузка завершилась с ошибкой. {_task_log_tail(client, node, upid)}'[:300])
return return
LoggingService.log_proxmox_action( LoggingService.log_proxmox_action(
@@ -718,6 +728,12 @@ def _do_image_template_sync(task_id: int, server_id: int, node: str,
# 1) Загрузка образа в import-хранилище (имя — с допустимым для импорта расширением) # 1) Загрузка образа в import-хранилище (имя — с допустимым для импорта расширением)
filename = _normalize_import_filename(filename) filename = _normalize_import_filename(filename)
import_volid = f'{import_storage}:import/{filename}'
if client.volume_exists(node, import_storage, import_volid):
# Образ уже скачан прошлой попыткой — пропускаем загрузку (идемпотентность)
_update_deploy_task(task_id, 'running', 'Образ уже загружен, пропуск...', 40, node=node)
else:
_update_deploy_task(task_id, 'running', f'Загрузка образа {filename}...', 10, node=node) _update_deploy_task(task_id, 'running', f'Загрузка образа {filename}...', 10, node=node)
try: try:
dl_upid = client.download_url(node, import_storage, url, 'import', filename, dl_upid = client.download_url(node, import_storage, url, 'import', filename,
@@ -727,12 +743,11 @@ def _do_image_template_sync(task_id: int, server_id: int, node: str,
error=f'Download start failed: {e}') error=f'Download start failed: {e}')
return return
if not dl_upid or not _wait_download_with_progress(client, task_id, node, dl_upid, lo=10, hi=40): if not dl_upid or not _wait_download_with_progress(client, task_id, node, dl_upid, lo=10, hi=40):
tail = _task_log_tail(client, node, dl_upid) if dl_upid else ''
_update_deploy_task(task_id, 'failed', 'Загрузка образа не удалась', 10, _update_deploy_task(task_id, 'failed', 'Загрузка образа не удалась', 10,
error='Не удалось скачать образ') error=f'Не удалось скачать образ. {tail}'[:300])
return return
import_volid = f'{import_storage}:import/{filename}'
# 2) Аллокация VMID и создание ВМ с импортом диска # 2) Аллокация VMID и создание ВМ с импортом диска
_update_deploy_task(task_id, 'running', 'Аллокация VMID...', 42, node=node) _update_deploy_task(task_id, 'running', 'Аллокация VMID...', 42, node=node)
new_vmid = client.get_next_vmid() or get_next_vmid(db, server_id) new_vmid = client.get_next_vmid() or get_next_vmid(db, server_id)

View File

@@ -119,6 +119,17 @@ class StorageMixin:
logger.error(f"Ошибка загрузки {url} на {node}:{storage}: {e}") logger.error(f"Ошибка загрузки {url} на {node}:{storage}: {e}")
raise raise
def volume_exists(self, node: str, storage: str, volid: str) -> bool:
"""Проверить, есть ли уже том volid в хранилище (для идемпотентной загрузки)."""
if not self.proxmox:
return False
try:
items = self.proxmox.nodes(node).storage(storage).content.get()
return any(it.get('volid') == volid for it in (items or []))
except Exception as e:
logger.debug(f"volume_exists check failed {storage}/{volid}: {e}")
return False
def get_download_target_storages(self, node: str, content: str) -> List[Dict]: def get_download_target_storages(self, node: str, content: str) -> List[Dict]:
""" """
Получить активные хранилища ноды, поддерживающие указанный тип контента Получить активные хранилища ноды, поддерживающие указанный тип контента