Cómo elegir entre Threadripper PRO y EPYC para servidores homelab

Problema

Los administradores de homelab que ejecutan varios VMs, transcodificación de medios, inferencia de IA y funciones de red (Snort, EVE‑NG, etc.) deben elegir una plataforma de CPU que ofrezca suficiente potencia de cálculo, ancho de banda de memoria y conectividad PCIe para GPUs y tarjetas de red. Con la desaparición de una placa base Threadripper 7551P y la aparición de opciones tanto en la línea Threadripper PRO como en EPYC, surge la duda: ¿qué familia se adapta mejor a un entorno con alta densidad de VMs y GPUs, sin inflar el presupuesto?

Este dilema no es exclusivo del caso citado; cualquier usuario que migre de una plataforma de escritorio a una de servidor y necesite equilibrar costo, capacidad de expansión y soporte de virtualización enfrenta el mismo problema.

Causa

1. Arquitectura de memoria

   • Threadripper PRO ofrece 8 canales por socket pero con un número limitado de ranuras DIMM (normalmente 4‑8).
   • EPYC brinda 8 canales y hasta 16 ranuras DIMM por socket, lo que permite >2 TB de RAM con módulos de 128 GB.

2. Distribución de PCIe

   • Threadripper PRO suele proporcionar 64‑96 líneas PCIe 4.0, distribuidas entre GPU, NVMe y tarjetas de red.
   • EPYC entrega 128‑256 líneas PCIe 4.0/5.0 (según modelo), facilitando configuraciones multi‑GPU y tarjetas de aceleración sin sacrificar ancho de banda.

3. Soporte de virtualización y firmware

   • EPYC está certificado para ESXi, Hyper‑V y KVM con características como SR‑IOV, AMD‑SEV y RAS.
   • Threadripper PRO funciona en los mismos hipervisores, pero algunos controladores de gestión (IPMI, Redfish) pueden ser menos robustos en placas de escritorio.

4. Coste y disponibilidad

   • Los procesadores EPYC de gama media‑alta suelen ser más caros por núcleo que los Threadripper PRO, aunque el precio por GB de RAM puede ser menor por la mayor densidad de ranuras.
   • La disponibilidad de placas base EPYC en el mercado de consumo es más limitada, lo que puede afectar tiempos de entrega.

5. Consumo energético y refrigeración

   • EPYC tiende a tener TDP más bajo por núcleo, pero la densidad de núcleos y la necesidad de refrigeración de servidor pueden elevar el consumo total.
   • Threadripper PRO, al ser una solución de escritorio, a veces requiere soluciones de enfriamiento más agresivas para mantener temperaturas bajo carga sostenida.

Solución

Adoptar un proceso de selección basado en requisitos funcionales y restricciones económicas:

1. Definir métricas de carga

• CPU‑bound: número de vCPUs, frecuencia requerida para transcodificación y compilación.
• Memory‑bound: cantidad total de RAM, número de VM que comparten memoria, necesidad de ECC.
• GPU‑bound: número de GPUs, ancho de banda PCIe necesario, uso de SR‑IOV para passtrough.
• I/O‑bound: NVMe, tarjetas de red de 10 GbE/25 GbE, requerimientos de latencia.

2. Mapear métricas a características de la plataforma

3. Calcular TCO (costo total de propiedad)

• CPU + placa base
• RAM (costo por GB, teniendo en cuenta la densidad de ranuras)
• GPU (número de ranuras PCIe disponibles)
• Licencias de hipervisor (algunas versiones de ESXi requieren licencias por socket)
• Consumo eléctrico (W × horas de operación anual)

4. Probar con un prototipo

• Instalar un hipervisor (ESXi o Hyper‑V) en una placa de prueba.
• Crear una VM que reproduzca la carga de transcodificación (HandBrake) y otra que ejecute inferencia de IA (VLLM).
• Medir uso de CPU, latencia de memoria y ancho de banda PCIe con perf o esxtop.

5. Tomar decisión

• Si la carga está dominada por GPU y PCIe, EPYC suele ser la mejor opción por sus líneas adicionales.
• Si la carga es mayormente CPU‑bound y el presupuesto es limitado, Threadripper PRO ofrece más núcleos por dólar.
• Cuando la capacidad de RAM supera los 512 GB o se necesita ECC en alta densidad, EPYC es la elección segura.

Cuándo aplicar esta solución

• Síntomas típicos: cuellos de botella en VM al asignar más vCPUs de los que la placa puede ofrecer, fallos de passtrough de GPU por falta de líneas PCIe, o inestabilidad de memoria al usar módulos sin ECC.
• Escenarios válidos: homelabs con 4‑8 VMs simultáneas, 2‑4 GPUs para IA, y requerimientos de almacenamiento NVMe de alta velocidad.
• Exclusiones: entornos que dependen exclusivamente de una única GPU y no necesitan más de 64 líneas PCIe, o setups donde el presupuesto es tan restringido que solo una solución de escritorio es viable.

Código

# Mostrar número de sockets, núcleos y líneas PCIe en Linux
lscpu | grep -E 'Socket|Core|Thread'
lspci | grep -i 'pci bridge' | wc -l
# Verificar soporte de SR-IOV para una NIC específica
ethtool -i eth0 | grep driver
ethtool -S eth0 | grep sriov

Verificación

1. Comprobar asignación de vCPU: dentro del hipervisor, observar la métrica de “%CPU Ready” en vSphere o “Ready Time” en Hyper‑V; valores >10 % indican sobre‑asignación.
2. Validar ancho de banda PCIe: ejecutar fio --name=randwrite --filename=/dev/nvme0n1 --size=4G --bs=1M --rw=randwrite --iodepth=32 y comparar IOPS con especificaciones de la GPU.
3. Test de memoria ECC: usar memtester o mprime para generar errores y confirmar que el sistema los captura sin crash.
4. Prueba de GPU passthrough: lanzar una carga de inferencia (por ejemplo, python -c "import torch; print(torch.cuda.is_available())" ) dentro de una VM y observar la latencia.

Notas adicionales

• BIOS/UEFI: habilitar “Above 4G Decoding” y “IOMMU” es obligatorio para GPU passthrough; en algunas placas Threadripper PRO la opción está bajo “Advanced > PCIe/PCI Subsystem Settings”.
• Licencias ESXi: la edición “Free” permite un solo socket; si optas por EPYC con dos sockets, necesitarás al menos la licencia “Essentials”.
• Actualizaciones de firmware: EPYC suele recibir actualizaciones de microcode más frecuentes; mantener el BMC actualizado evita problemas de estabilidad bajo carga pesada.
• Refrigeración: considera un chasis de 4‑U con refrigeración líquida o aire de alta capacidad para EPYC; los Threadripper PRO pueden funcionar en torres de sobremesa, pero el calor bajo carga de GPU puede requerir disipadores más grandes.
• Escalabilidad futura: si planeas añadir más GPUs o duplicar la cantidad de VMs, la reserva de líneas PCIe y ranuras DIMM de EPYC ofrece mayor margen de crecimiento sin cambiar de placa base.